SambaNova Systems

SambaNova Systems là công ty AI toàn diện của Mỹ, thành lập tháng 11 năm 2017 tại San Jose, California bởi Kunle Olukotun, Christopher Ré và Rodrigo Liang nhằm giúp doanh nghiệp và chính phủ chạy các mô hình AI lớn nhanh hơn mà không phụ thuộc hoàn toàn vào nguồn cung GPU.

Chip Reconfigurable Dataflow Unit của công ty vận hành các sản phẩm SambaCloud, SambaStack và SambaManaged, cung cấp API suy luận tương thích OpenAI, tự động mở rộng, cân bằng tải và điều phối khối lượng công việc qua SambaOrchestrator, cho phép khách hàng triển khai trên cloud, on-premise hoặc dưới dạng dịch vụ được quản lý. Khách hàng gồm JPMorganChase, Argonne National Laboratory, Los Alamos National Laboratory và các nhà cung cấp sovereign AI tại Australia, châu Âu và Anh.

1. Reconfigurable Dataflow Unit: Kiến trúc chip AI riêng, tối ưu cho suy luận thông lượng cao trên mô hình lớn.

2. SambaCloud: Cung cấp dịch vụ suy luận trên cloud với API tương thích OpenAI, dễ tích hợp.

3. SambaStack: Cung cấp bộ phần mềm tự triển khai cho hạ tầng AI on-premise.

4. SambaManaged: Cung cấp dịch vụ hạ tầng AI được quản lý toàn phần cho doanh nghiệp.

5. SambaOrchestrator: Tự động hóa lập lịch, mở rộng và cân bằng tải khối lượng công việc.

6. Triển khai Sovereign AI: Hỗ trợ chính phủ và nhà cung cấp khu vực vận hành hạ tầng AI độc lập.