Pipeshift – nền tảng suy luận AI cho tác tử thời gian thực

Tổ chức
Infercloud Inc. (Pipeshift) · Hoa Kỳ
Loại giải pháp
Nền tảng
Hình thức hợp tác
Hợp tác kinh doanh (Liên doanh), Cấp giấy phép sử dụng

1. Tổng quan công nghệ

Pipeshift hoạt động dưới pháp nhân Infercloud Inc., thuộc lứa Y Combinator S24 với địa điểm tại San Francisco. Công ty bán hạ tầng suy luận được quản lý cho các đội chạy mô hình AI mã nguồn mở trong production.

Nền tảng cung cấp cụm suy luận riêng đơn khách thuê với runtime mô hình tối ưu và điều phối tải qua nhiều cloud và vùng, hơn 10 vùng triển khai. Khách hàng tự định nghĩa mức dịch vụ API thay vì dựa vào API mô hình dùng chung, và blog đăng hướng dẫn triển khai các mô hình mở hiện hành.

2. Tính năng và thông số nổi bật

  • Cụm suy luận được quản lý: Cụm riêng với runtime mô hình tối ưu.
  • Điều phối tải: Mở rộng tải qua nhiều cloud và vùng.
  • SLA API tuỳ chỉnh: Khách hàng tự định mục tiêu độ trễ và uptime.
  • Triển khai đơn khách thuê: Cô lập mô hình và dữ liệu từng khách hàng.
  • Khởi động nguội nhanh: Đưa mô hình lên nhanh cho tác tử thời gian thực.
  • Hướng dẫn triển khai mô hình: Bài viết từng bước cho các mô hình mở mới.

3. Ứng dụng tiềm năng

Một nhà cung cấp contact center có thể chạy mô hình giọng nói trên GPU riêng cho tác tử thoại thời gian thực. Một ngân hàng có thể chạy LLM mở trong cụm đơn khách thuê để cô lập dữ liệu.

4. Lợi ích

Triển khai riêng đơn khách thuê mang lại hiệu năng ổn định và riêng tư hơn so với API dùng chung. Khách hàng tự đặt mức dịch vụ API. Triển khai trên hơn 10 vùng để giữ độ trễ thấp. Theo trang web, chi phí dễ dự đoán khi mở rộng.

6. Thông tin khác

Thuộc lứa Y Combinator S24; San Francisco theo danh mục YC; pháp nhân Infercloud Inc. theo chân trang web. Công bố hợp tác với Neysa (Ấn Độ) và Armada vào tháng 5/2026.

Infercloud Inc. (Pipeshift)
Xem hồ sơ tổ chức

Chưa sẵn sàng kết nối?

Lưu giải pháp này và quay lại khi bạn sẵn sàng trao đổi với bên cung cấp

Được các đối tác tin tưởng

TechFest VietnamIOM – UN MigrationGIZ (Deutsche Gesellschaft für Internationale Zusammenarbeit)APED – Cục Phát triển doanh nghiệp tư nhân và kinh tế tập thểSIHUB – Startup and Innovation Hub of Ho Chi Minh CityHợp tác Đức (Deutsche Zusammenarbeit)SCE & Investment PromotionStartup Vietnam Foundation (SVF)National Startup Support Center (NSSC)01BoosterQuest VenturesBộ Tài chính (Ministry of Finance)ITPC – HCMC Investment and Trade Promotion CentreJICA – Japan International Cooperation AgencyNational Innovation Center (NIC)UK GovernmentBCG – Boston Consulting GroupHAWEEHeineken VietnamTalentnetMB BankVIREA – Liên chi hội Bất động sản Công nghiệp Việt NamJobTestGlobal Supply Chain Support Fund / Aavishkaar CapitalKDANPSE / JPS – Phúc Sang MinhG-AsiaPacificBlueScopeLPBankUlsan Center for Creative Economy & InnovationĐại học Bách khoa Hà Nội – Trường Điện - Điện tửVINK – Vietnam Innovation Network in KoreaTencent WeStart (Shenzhen)Ulsan CollegeK-StartupFaslinkShinhan Future's LabShinhan SecuritiesShinhan FinanceShinhan BankShinhan Life

Bắt đầu với kết nối phù hợp

Chúng tôi giúp mọi doanh nghiệp, ở bất cứ đâu, dễ dàng tiếp cận đổi mới sáng tạo. Thương vụ tiếp theo có thể bắt đầu từ bạn.

Liên hệ