OnPrem AI – Máy chủ và phần mềm AI doanh nghiệp tại chỗ

Tổ chức
Onprem Technologies GmbH · Thụy Sĩ
Loại giải pháp
Sản phẩm / Giải pháp đã hoàn thiện
Hình thức hợp tác
Hợp tác kinh doanh (Liên doanh), Cấp giấy phép sử dụng

1. Tổng quan công nghệ

Onprem Technologies GmbH, hoạt động với thương hiệu OnPrem AI, có trụ sở tại Schaffhausen, Thụy Sĩ. Thông cáo của đối tác đăng trên parashift.ai cho biết công ty hoạt động từ năm 2023 với khách hàng tại vùng DACH và Trung Âu. Công ty giúp tổ chức chạy mô hình ngôn ngữ và tác tử AI ngay tại cơ sở của mình thay vì đám mây công cộng.

Giải pháp kết hợp máy chủ AI tại chỗ với lớp phần mềm đóng vai trò hệ điều hành cho AI doanh nghiệp. Lớp này quản lý máy chủ, GPU, mô hình, API, giám sát và cập nhật, kèm danh mục mô hình ngôn ngữ đã kiểm thử theo phần cứng, cổng API tương thích OpenAI và bảng điều khiển vận hành. Dịch vụ gồm tư vấn use case, kiểm thử bảo mật và tích hợp. Công ty là thành viên NVIDIA Inception và đối tác công nghệ của Dell.

2. Tính năng và thông số nổi bật

  • Danh mục mô hình: mô hình ngôn ngữ đã kiểm thử và tối ưu theo phần cứng, có kiểm tra VRAM trước khi đưa vào chạy.
  • API tương thích OpenAI: cổng có xác thực, hỗ trợ SGLang, vLLM và Llama.cpp.
  • Bảng điều khiển vận hành: giao diện web hiển thị trạng thái, cảnh báo và mức sử dụng.
  • Quản trị: kiểm soát ánh xạ theo ISO 27001 và SOC 2, cập nhật có thể kiểm toán và chạy cách ly mạng.
  • Phần cứng: máy chủ đơn hoặc cụm với NVIDIA RTX PRO 6000, H100, H200 hoặc GH200 và Kubernetes.
  • Dịch vụ: tư vấn use case, kiểm thử và kiểm toán bảo mật, tích hợp tác tử, RAG và MCP.

3. Ứng dụng tiềm năng

Một ngân hàng tại Việt Nam có thể đặt trợ lý tri thức nội bộ trên máy chủ riêng để dữ liệu khách hàng không rời trung tâm dữ liệu. Một hệ thống bệnh viện có thể chạy mô hình đọc tài liệu cho hồ sơ y tế tại chỗ. Một nhà máy có thể triển khai RAG riêng trên tài liệu kỹ thuật bằng một cụm máy chủ.

4. Lợi ích

Tài liệu và lời nhắc nằm trong trung tâm dữ liệu của khách hàng, hỗ trợ tuân thủ quy định bảo mật. Thông cáo của đối tác nêu khách hàng sở hữu phần cứng và trả phí cố định không phụ thuộc số token xử lý. Danh mục mô hình đã kiểm thử và bước kiểm tra VRAM trống trước khi đưa vào chạy giúp giảm thử sai khi triển khai. Bản cập nhật có thể kiểm toán và áp dụng trong môi trường cách ly mạng.

6. Thông tin khác

Onprem Technologies GmbH, Zur Stahlgiesserei 8, 8200 Schaffhausen, Thụy Sĩ. Thành viên chương trình NVIDIA Inception và đối tác công nghệ của Dell. Đối tác và khách hàng được liệt kê gồm Parashift, agorum, Orderfox và Rosenau AG. Năm hoạt động (2023) lấy từ thông cáo hợp tác với Parashift ngày 2/11/2026.

Onprem Technologies GmbH
Xem hồ sơ tổ chức

Chưa sẵn sàng kết nối?

Lưu giải pháp này và quay lại khi bạn sẵn sàng trao đổi với bên cung cấp

Được các đối tác tin tưởng

TechFest VietnamIOM – UN MigrationGIZ (Deutsche Gesellschaft für Internationale Zusammenarbeit)APED – Cục Phát triển doanh nghiệp tư nhân và kinh tế tập thểSIHUB – Startup and Innovation Hub of Ho Chi Minh CityHợp tác Đức (Deutsche Zusammenarbeit)SCE & Investment PromotionStartup Vietnam Foundation (SVF)National Startup Support Center (NSSC)01BoosterQuest VenturesBộ Tài chính (Ministry of Finance)ITPC – HCMC Investment and Trade Promotion CentreJICA – Japan International Cooperation AgencyNational Innovation Center (NIC)UK GovernmentBCG – Boston Consulting GroupHAWEEHeineken VietnamTalentnetMB BankVIREA – Liên chi hội Bất động sản Công nghiệp Việt NamJobTestGlobal Supply Chain Support Fund / Aavishkaar CapitalKDANPSE / JPS – Phúc Sang MinhG-AsiaPacificBlueScopeLPBankUlsan Center for Creative Economy & InnovationĐại học Bách khoa Hà Nội – Trường Điện - Điện tửVINK – Vietnam Innovation Network in KoreaTencent WeStart (Shenzhen)Ulsan CollegeK-StartupFaslinkShinhan Future's LabShinhan SecuritiesShinhan FinanceShinhan BankShinhan Life

Bắt đầu với kết nối phù hợp

Chúng tôi giúp mọi doanh nghiệp, ở bất cứ đâu, dễ dàng tiếp cận đổi mới sáng tạo. Thương vụ tiếp theo có thể bắt đầu từ bạn.

Liên hệ