Cumulus – nền tảng GPU, suy luận và agent

Tổ chức
Cumulus Labs · Hoa Kỳ
Loại giải pháp
Nền tảng
Hình thức hợp tác
Hợp tác kinh doanh (Liên doanh), Cấp giấy phép sử dụng

1. Tổng quan công nghệ

Cumulus Labs là công ty tại San Francisco thuộc lứa Y Combinator W26, thành lập năm 2025. Công ty hướng đến các đội AI chi quá nhiều cho GPU và mất thời gian vào hạ tầng huấn luyện và phục vụ mô hình.

Nền tảng gồm ba sản phẩm: Paladin dự đoán nhu cầu tài nguyên, xếp tác vụ vào phần GPU còn trống và di chuyển tác vụ đang chạy khi nhu cầu đổi; Ion phục vụ mô hình văn bản, thị giác và âm thanh qua API IonRouter hoặc GPU riêng; Talos tinh chỉnh và đánh giá agent cho đám mây, điện thoại và biên. Triển khai qua API mô hình lưu trữ sẵn hoặc bản riêng trên GPU của Cumulus hay phần cứng của khách.

2. Tính năng và thông số nổi bật

  • Điều phối Paladin: Dự đoán nhu cầu và xếp tác vụ vào GPU còn trống.
  • Di chuyển trực tiếp: Chuyển tác vụ đang chạy khi nhu cầu đổi.
  • Suy luận Ion: Mô hình văn bản, thị giác, âm thanh qua API hoặc GPU riêng.
  • API IonRouter: Mô hình mã nguồn mở và đã tinh chỉnh được lưu trữ sẵn.
  • Agent Talos: Tinh chỉnh cho hành động agent cụ thể kèm đo chất lượng và chi phí.
  • Lựa chọn triển khai: GPU của Cumulus hoặc phần cứng của khách.

3. Ứng dụng tiềm năng

Startup AI Việt Nam có thể phục vụ mô hình ngôn ngữ đã tinh chỉnh qua API lưu trữ sẵn mà không phải quản lý cụm. Phòng lab AI của ngân hàng có thể xếp tác vụ huấn luyện và đánh giá lên pool GPU dùng chung. Đội nền tảng có thể chạy mô hình thị giác cho phân tích bán lẻ.

4. Lợi ích

Bài Launch YC nêu tiết kiệm 50 đến 70 phần trăm nhờ tính phí theo tài nguyên vật lý thực dùng, đây là số do công ty công bố. Xếp tác vụ theo dự đoán nâng tỷ lệ sử dụng đội GPU hiện có. Mô hình chạy qua API hoặc phần cứng riêng và có thể kiểm soát nơi dữ liệu chạy cho agent.

6. Thông tin khác

Lứa Y Combinator W26, San Francisco theo hồ sơ YC, thành lập 2025, 2 người. Trang có blog và hướng dẫn kỹ thuật cho Paladin, Ion và Talos. Có đặt lịch demo và đăng ký truy cập API mô hình.

Chưa sẵn sàng kết nối?

Lưu giải pháp này và quay lại khi bạn sẵn sàng trao đổi với bên cung cấp

Được các đối tác tin tưởng

TechFest VietnamIOM – UN MigrationGIZ (Deutsche Gesellschaft für Internationale Zusammenarbeit)APED – Cục Phát triển doanh nghiệp tư nhân và kinh tế tập thểSIHUB – Startup and Innovation Hub of Ho Chi Minh CityHợp tác Đức (Deutsche Zusammenarbeit)SCE & Investment PromotionStartup Vietnam Foundation (SVF)National Startup Support Center (NSSC)01BoosterQuest VenturesBộ Tài chính (Ministry of Finance)ITPC – HCMC Investment and Trade Promotion CentreJICA – Japan International Cooperation AgencyNational Innovation Center (NIC)UK GovernmentBCG – Boston Consulting GroupHAWEEHeineken VietnamTalentnetMB BankVIREA – Liên chi hội Bất động sản Công nghiệp Việt NamJobTestGlobal Supply Chain Support Fund / Aavishkaar CapitalKDANPSE / JPS – Phúc Sang MinhG-AsiaPacificBlueScopeLPBankUlsan Center for Creative Economy & InnovationĐại học Bách khoa Hà Nội – Trường Điện - Điện tửVINK – Vietnam Innovation Network in KoreaTencent WeStart (Shenzhen)Ulsan CollegeK-StartupFaslinkShinhan Future's LabShinhan SecuritiesShinhan FinanceShinhan BankShinhan Life

Bắt đầu với kết nối phù hợp

Chúng tôi giúp mọi doanh nghiệp, ở bất cứ đâu, dễ dàng tiếp cận đổi mới sáng tạo. Thương vụ tiếp theo có thể bắt đầu từ bạn.

Liên hệ