Luminal – nền tảng suy luận AI biên dịch trước

Tổ chức
Luminal AI Inc. · Hoa Kỳ
Loại giải pháp
Nền tảng
Hình thức hợp tác
Hợp tác kinh doanh (Liên doanh), Cấp giấy phép sử dụng

1. Tổng quan công nghệ

Luminal AI Inc. là công ty thuộc Y Combinator Summer 2025, đặt tại San Francisco (theo hồ sơ YC), thành lập năm 2025. Công ty xây dựng trình biên dịch và đám mây suy luận giúp nhóm chạy mô hình AI tuỳ biến nhanh hơn trên GPU và ASIC mà không cần tinh chỉnh kernel thủ công.

Trình biên dịch hạ mô hình về biểu diễn trung gian dạng đồ thị, áp dụng tối ưu theo phần cứng và phát ra kernel gốc. Một hệ điều hành suy luận điều phối tải trên CPU, GPU và ASIC không đồng nhất. Sản phẩm có dạng Luminal Cloud với endpoint serverless, co về 0 và tính phí theo mức dùng, hoặc triển khai tại chỗ theo giấy phép kèm hỗ trợ kỹ sư riêng.

2. Tính năng và thông số nổi bật

  • Trình biên dịch biên dịch trước: Hạ mô hình về biểu diễn đồ thị và phát ra kernel gốc.
  • Tối ưu theo phần cứng: Nhắm tới GPU và ASIC, gồm backend bổ sung qua đối tác.
  • Hệ điều hành suy luận: Điều phối và cân bằng tải trên CPU, GPU và ASIC không đồng nhất.
  • Luminal Cloud: Endpoint serverless với co về 0 và gom batch tự động.
  • Giấy phép tại chỗ: Hỗ trợ kỹ sư riêng và tối ưu kernel tuỳ biến.
  • Báo cáo benchmark: Trang benchmark suy luận công khai cho các mô hình mở.

3. Ứng dụng tiềm năng

Nhà cung cấp đám mây Việt Nam có thể dùng trình biên dịch để tăng mức sử dụng cụm GPU phục vụ mô hình của khách. Công ty fintech có mô hình chống gian lận riêng có thể giảm độ trễ bằng triển khai tại chỗ. Startup AI có thể phục vụ mô hình mở dạng serverless.

4. Lợi ích

Trang nêu thông lượng gấp 3,2 lần vLLM và độ trễ p99 dưới 10 ms, đều do nhà cung cấp công bố. Triển khai serverless co về 0 và tính phí theo mức dùng. Tuỳ chọn tại chỗ phù hợp nhóm phải giữ mô hình trong môi trường riêng. Lõi trình biên dịch là mã nguồn mở trên GitHub.

6. Thông tin khác

Y Combinator Summer 2025, San Francisco theo hồ sơ YC. Vòng seed 5,3 triệu USD do Felicis Ventures dẫn dắt, công bố tháng 11/2025. Blog có bài về biên dịch megakernel và hợp tác với Positron AI để thêm chip Atlas làm backend của trình biên dịch.

Luminal AI Inc.
Xem hồ sơ tổ chức

Chưa sẵn sàng kết nối?

Lưu giải pháp này và quay lại khi bạn sẵn sàng trao đổi với bên cung cấp

Được các đối tác tin tưởng

TechFest VietnamIOM – UN MigrationGIZ (Deutsche Gesellschaft für Internationale Zusammenarbeit)APED – Cục Phát triển doanh nghiệp tư nhân và kinh tế tập thểSIHUB – Startup and Innovation Hub of Ho Chi Minh CityHợp tác Đức (Deutsche Zusammenarbeit)SCE & Investment PromotionStartup Vietnam Foundation (SVF)National Startup Support Center (NSSC)01BoosterQuest VenturesBộ Tài chính (Ministry of Finance)ITPC – HCMC Investment and Trade Promotion CentreJICA – Japan International Cooperation AgencyNational Innovation Center (NIC)UK GovernmentBCG – Boston Consulting GroupHAWEEHeineken VietnamTalentnetMB BankVIREA – Liên chi hội Bất động sản Công nghiệp Việt NamJobTestGlobal Supply Chain Support Fund / Aavishkaar CapitalKDANPSE / JPS – Phúc Sang MinhG-AsiaPacificBlueScopeLPBankUlsan Center for Creative Economy & InnovationĐại học Bách khoa Hà Nội – Trường Điện - Điện tửVINK – Vietnam Innovation Network in KoreaTencent WeStart (Shenzhen)Ulsan CollegeK-StartupFaslinkShinhan Future's LabShinhan SecuritiesShinhan FinanceShinhan BankShinhan Life

Bắt đầu với kết nối phù hợp

Chúng tôi giúp mọi doanh nghiệp, ở bất cứ đâu, dễ dàng tiếp cận đổi mới sáng tạo. Thương vụ tiếp theo có thể bắt đầu từ bạn.

Liên hệ