Cerebrium – hạ tầng serverless GPU cho AI thời gian thực

Tổ chức
Cerebrium · Hoa Kỳ
Loại giải pháp
Nền tảng
Hình thức hợp tác
Hợp tác kinh doanh (Liên doanh), Cấp giấy phép sử dụng

1. Tổng quan công nghệ

Cerebrium là nền tảng hạ tầng AI serverless thuộc lứa Y Combinator W22, đặt tại New York City. Nền tảng cho phép các đội chạy tải AI thời gian thực trên GPU mà không cần lập kế hoạch dung lượng hay đặt trước.

Trang chủ nêu hơn 2.500 dung lượng GPU ở các vùng như us-east-1, eu-west-2, eu-north-1 và ap-south-1. Đội dùng mang mã hoặc Dockerfile của mình chạy nguyên trạng, kèm tự động co giãn, checkpoint bộ nhớ và GPU (beta), triển khai đa vùng, endpoint WebSocket và streaming, và dịch vụ đối tác như Deepgram speech-to-text tự lưu trữ.

2. Tính năng và thông số nổi bật

  • GPU serverless: Chạy trên H100 và GPU khác không cần đặt trước.
  • Mang mã của bạn: Chạy điểm vào hoặc Dockerfile nguyên trạng.
  • Tự co giãn: Co giãn ứng dụng với điều khiển batch và đồng thời.
  • Đa vùng: Triển khai nhiều vùng với định tuyến liên cụm.
  • Endpoint: REST, streaming, WebSocket và endpoint tương thích OpenAI.
  • Checkpoint: Ảnh chụp bộ nhớ và GPU để giảm cold start (beta).

3. Ứng dụng tiềm năng

Startup agent giọng nói Việt Nam có thể triển khai mô hình giọng nói với độ trễ thấp. Đội tìm kiếm hoặc gợi ý có thể chạy dịch vụ embedding và xếp hạng lại. Công ty truyền thông có thể chạy tạo video theo yêu cầu.

4. Lợi ích

Tải công việc co giãn theo lưu lượng nên không phải trả tiền cho GPU nhàn rỗi. Triển khai đa vùng hỗ trợ độ trễ thấp và yêu cầu lưu trú dữ liệu. Mã và Dockerfile hiện có chạy mà không cần SDK riêng. Case study Linkup mô tả tải embedding, truy xuất và xếp hạng lại ở quy mô tìm kiếm.

6. Thông tin khác

Công ty thuộc Y Combinator W22, New York City. Case study đăng trên blog gồm Linkup và Resemble AI. Các trang đã tải không nêu pháp nhân.

Chưa sẵn sàng kết nối?

Lưu giải pháp này và quay lại khi bạn sẵn sàng trao đổi với bên cung cấp

Được các đối tác tin tưởng

TechFest VietnamIOM – UN MigrationGIZ (Deutsche Gesellschaft für Internationale Zusammenarbeit)APED – Cục Phát triển doanh nghiệp tư nhân và kinh tế tập thểSIHUB – Startup and Innovation Hub of Ho Chi Minh CityHợp tác Đức (Deutsche Zusammenarbeit)SCE & Investment PromotionStartup Vietnam Foundation (SVF)National Startup Support Center (NSSC)01BoosterQuest VenturesBộ Tài chính (Ministry of Finance)ITPC – HCMC Investment and Trade Promotion CentreJICA – Japan International Cooperation AgencyNational Innovation Center (NIC)UK GovernmentBCG – Boston Consulting GroupHAWEEHeineken VietnamTalentnetMB BankVIREA – Liên chi hội Bất động sản Công nghiệp Việt NamJobTestGlobal Supply Chain Support Fund / Aavishkaar CapitalKDANPSE / JPS – Phúc Sang MinhG-AsiaPacificBlueScopeLPBankUlsan Center for Creative Economy & InnovationĐại học Bách khoa Hà Nội – Trường Điện - Điện tửVINK – Vietnam Innovation Network in KoreaTencent WeStart (Shenzhen)Ulsan CollegeK-StartupFaslinkShinhan Future's LabShinhan SecuritiesShinhan FinanceShinhan BankShinhan Life

Bắt đầu với kết nối phù hợp

Chúng tôi giúp mọi doanh nghiệp, ở bất cứ đâu, dễ dàng tiếp cận đổi mới sáng tạo. Thương vụ tiếp theo có thể bắt đầu từ bạn.

Liên hệ