OpenRelay – mạng phân phối suy luận AI

Tổ chức
OpenRelay · Hoa Kỳ
Loại giải pháp
Nền tảng
Hình thức hợp tác
Hợp tác kinh doanh (Liên doanh), Cấp giấy phép sử dụng

1. Tổng quan công nghệ

OpenRelay là công ty tại San Francisco thuộc lứa Y Combinator S26, thành lập năm 2026 bởi Jaden và Prashant, có nền tảng từ vận hành trung tâm dữ liệu và hạ tầng bộ tăng tốc tại AWS. Công ty bán suy luận và điện toán GPU qua một điểm truy cập duy nhất.

Mạng phân phối suy luận định tuyến mỗi yêu cầu đến bộ tăng tốc phù hợp nhất giữa GPU NVIDIA, TPU của Google, AWS Trainium và AMD trên nhiều đám mây, theo độ trễ, chi phí, khả dụng và SLA. Điểm truy cập tương thích OpenAI và Anthropic. Bên có bộ tăng tốc nhàn rỗi có thể tham gia làm nhà cung cấp năng lực, khách có thể đặt trước thông lượng với giá tháng cố định hoặc xếp việc lô với giá thấp hơn.

2. Tính năng và thông số nổi bật

  • Định tuyến đa chip: Gửi yêu cầu đến năng lực NVIDIA, TPU, Trainium hoặc AMD theo SLA.
  • Điểm truy cập tương thích: Một API tương thích OpenAI và Anthropic.
  • Thông lượng đặt trước: Giá tháng cố định cho tốc độ token đã chọn.
  • Hàng đợi lô: Việc có thể chờ với giá giảm.
  • Mạng nhà cung cấp: Bên vận hành đưa bộ tăng tốc nhàn rỗi vào để nhận nhu cầu.
  • Công cụ chi phí: Trang so sánh giá và máy tính chi phí LLM.

3. Ứng dụng tiềm năng

Startup Việt Nam có chatbot LLM có thể mua thông lượng suy luận đặt trước với giá tháng cố định. Nhà vận hành trung tâm dữ liệu có thể đưa GPU nhàn rỗi vào làm năng lực. Đội AI doanh nghiệp có thể gửi việc lô ban đêm với giá giảm.

4. Lợi ích

Một điểm truy cập che giấu hạn mức, driver và hợp đồng giữa các hãng chip. Trang nêu chi phí thấp hơn 10 đến 20 phần trăm ở thông lượng cao và tự mở rộng nhanh gấp 2,5 lần, đây là số do công ty công bố. Thông lượng đặt trước với giá tháng cố định giúp dự toán chi phí, việc xếp hàng có thể chạy nửa giá.

6. Thông tin khác

Lứa Y Combinator S26, San Francisco theo hồ sơ YC, thành lập 2026, 2 người. Trang nêu xử lý từ 2 nghìn tỷ token mỗi tháng (do công ty công bố). Có bắt đầu miễn phí với tiền gửi qua thẻ và đặt lịch demo.

Chưa sẵn sàng kết nối?

Lưu giải pháp này và quay lại khi bạn sẵn sàng trao đổi với bên cung cấp

Được các đối tác tin tưởng

TechFest VietnamIOM – UN MigrationGIZ (Deutsche Gesellschaft für Internationale Zusammenarbeit)APED – Cục Phát triển doanh nghiệp tư nhân và kinh tế tập thểSIHUB – Startup and Innovation Hub of Ho Chi Minh CityHợp tác Đức (Deutsche Zusammenarbeit)SCE & Investment PromotionStartup Vietnam Foundation (SVF)National Startup Support Center (NSSC)01BoosterQuest VenturesBộ Tài chính (Ministry of Finance)ITPC – HCMC Investment and Trade Promotion CentreJICA – Japan International Cooperation AgencyNational Innovation Center (NIC)UK GovernmentBCG – Boston Consulting GroupHAWEEHeineken VietnamTalentnetMB BankVIREA – Liên chi hội Bất động sản Công nghiệp Việt NamJobTestGlobal Supply Chain Support Fund / Aavishkaar CapitalKDANPSE / JPS – Phúc Sang MinhG-AsiaPacificBlueScopeLPBankUlsan Center for Creative Economy & InnovationĐại học Bách khoa Hà Nội – Trường Điện - Điện tửVINK – Vietnam Innovation Network in KoreaTencent WeStart (Shenzhen)Ulsan CollegeK-StartupFaslinkShinhan Future's LabShinhan SecuritiesShinhan FinanceShinhan BankShinhan Life

Bắt đầu với kết nối phù hợp

Chúng tôi giúp mọi doanh nghiệp, ở bất cứ đâu, dễ dàng tiếp cận đổi mới sáng tạo. Thương vụ tiếp theo có thể bắt đầu từ bạn.

Liên hệ