Latent – phát hiện ảo giác LLM theo thời gian thực

Tổ chức
Latent · Hoa Kỳ
Loại giải pháp
Nền tảng
Hình thức hợp tác
Hợp tác kinh doanh (Liên doanh), Cấp giấy phép sử dụng

1. Tổng quan công nghệ

Latent là lớp phát hiện ảo giác cho các ứng dụng LLM, là công ty Delaware theo điều khoản của mình. Giải pháp xử lý việc câu trả lời sai hoặc bịa đặt đến tay người dùng trong sản phẩm AI vận hành thực tế.

Latent đọc các giá trị kích hoạt mà mô hình tính khi viết, chấm điểm từng câu trả lời trong vài mili giây, đánh dấu câu rủi ro nhất và chuyển câu trả lời theo chính sách của khách hàng: văn bản dự phòng, mô hình mạnh hơn hoặc hàng đợi con người xem xét. Với mô hình chạy trên vLLM, Latent đọc từng từ; với mô hình qua API, một mô hình đọc sẽ đọc lại câu trả lời hoàn chỉnh. Sản phẩm gồm Detect, Act và Improve, kèm tài liệu, bảng giá và trang bảo mật.

2. Tính năng và thông số nổi bật

  • Detect: chấm điểm rủi ro ảo giác cho từng câu trả lời trong vài mili giây và đánh dấu câu rủi ro nhất.
  • Act: giữ lại các câu trả lời bị đánh dấu và định tuyến theo chính sách.
  • Improve: học từ mọi lần xem xét trong hàng đợi.
  • Nội bộ mô hình: đọc giá trị kích hoạt trên mô hình tự lưu trữ chạy vLLM.
  • Hỗ trợ mô hình qua API: đọc lại câu trả lời hoàn chỉnh cho mô hình qua API.
  • Hàng đợi xem xét: để người duyệt xử lý các câu trả lời bị giữ.

3. Ứng dụng tiềm năng

Một ngân hàng Việt Nam có thể giữ lại các câu trả lời của chatbot về phí khi chúng có vẻ thiếu căn cứ. Một bot hỗ trợ viễn thông có thể chuyển các câu trả lời rủi ro lên mô hình mạnh hơn. Một nhóm nội dung y tế có thể chuyển câu trả lời bị đánh dấu cho người duyệt.

4. Lợi ích

Câu trả lời sai được đánh dấu trước khi người dùng thấy. Chính sách quyết định dùng văn bản dự phòng, chuyển lên mô hình mạnh hơn hay đưa vào hàng đợi xem xét. Trang web nêu so sánh chi phí và tốc độ với việc dùng mô hình lớn làm giám khảo.

6. Thông tin khác

Công ty Delaware theo điều khoản. Công ty thuộc Y Combinator, ra mắt trên Launch YC vào tháng 10/2026. Công bố tài liệu, benchmark, trang bảo mật và danh sách nhà xử lý phụ.

Chưa sẵn sàng kết nối?

Lưu giải pháp này và quay lại khi bạn sẵn sàng trao đổi với bên cung cấp

Được các đối tác tin tưởng

TechFest VietnamIOM – UN MigrationGIZ (Deutsche Gesellschaft für Internationale Zusammenarbeit)APED – Cục Phát triển doanh nghiệp tư nhân và kinh tế tập thểSIHUB – Startup and Innovation Hub of Ho Chi Minh CityHợp tác Đức (Deutsche Zusammenarbeit)SCE & Investment PromotionStartup Vietnam Foundation (SVF)National Startup Support Center (NSSC)01BoosterQuest VenturesBộ Tài chính (Ministry of Finance)ITPC – HCMC Investment and Trade Promotion CentreJICA – Japan International Cooperation AgencyNational Innovation Center (NIC)UK GovernmentBCG – Boston Consulting GroupHAWEEHeineken VietnamTalentnetMB BankVIREA – Liên chi hội Bất động sản Công nghiệp Việt NamJobTestGlobal Supply Chain Support Fund / Aavishkaar CapitalKDANPSE / JPS – Phúc Sang MinhG-AsiaPacificBlueScopeLPBankUlsan Center for Creative Economy & InnovationĐại học Bách khoa Hà Nội – Trường Điện - Điện tửVINK – Vietnam Innovation Network in KoreaTencent WeStart (Shenzhen)Ulsan CollegeK-StartupFaslinkShinhan Future's LabShinhan SecuritiesShinhan FinanceShinhan BankShinhan Life

Bắt đầu với kết nối phù hợp

Chúng tôi giúp mọi doanh nghiệp, ở bất cứ đâu, dễ dàng tiếp cận đổi mới sáng tạo. Thương vụ tiếp theo có thể bắt đầu từ bạn.

Liên hệ