HyperAccel LPU – IP và bộ tăng tốc suy luận LLM Forte

HyperAccel Inc. là công ty bán dẫn AI có trụ sở tại Seocho-gu, Seoul, do CEO Kim Joo-young điều hành. Công ty thiết kế công nghệ bộ xử lý LLM (LPU) nhằm giảm chi phí, điện năng và độ trễ khi suy luận mô hình ngôn ngữ lớn so với GPU đa dụng.

LPU là bộ xử lý lập trình được dạng hạt thô, chạy toàn bộ phép toán suy luận LLM trong từng lõi, tối đa hóa tái sử dụng dữ liệu và chồng lấp truyền thông với tính toán để mở rộng trên nhiều chip. Công nghệ được cung cấp dưới dạng IP bộ xử lý cấp phép có tích hợp PCIe và UCIe với các biến thể tối ưu độ trễ, cân bằng và hiệu năng cao; dạng bộ tăng tốc Forte 55X trên card AMD Alveo U55C với 16 GB HBM2; và dạng máy chủ HX-F55X cùng ASUS. Chip ASIC Bertha 500 đang được phát triển. Bộ phần mềm hỗ trợ PyTorch, vLLM và Hugging Face, ngôn ngữ nhúng để viết kernel LPU, runtime và driver, chạy các mô hình transformer như Llama, Qwen, Mistral, DeepSeek và Gemma.

• IP LPU: IP bộ xử lý LLM dạng module với biến thể tối ưu độ trễ, cân bằng và hiệu năng cao.
• Tích hợp SoC: giao thức PCIe và UCIe tiêu chuẩn, hỗ trợ mọi loại DRAM.
• Forte 55X: bộ tăng tốc dựa trên FPGA với 16 GB HBM2 băng thông 460 GB/s, công suất 75 W.
• Máy chủ HX-F55X: hệ thống suy luận cho trung tâm dữ liệu kết hợp card Forte 55X với máy chủ ASUS.
• Chip ASIC Bertha: dòng chip suy luận LLM chuyên dụng đang phát triển.
• Bộ phần mềm: hỗ trợ PyTorch, vLLM và Hugging Face cùng ngôn ngữ nhúng, runtime và driver.

Nhà cung cấp đám mây Việt Nam có thể triển khai máy chủ HX-F55X để cung cấp dịch vụ suy luận LLM chi phí thấp hơn. Ngân hàng hoặc nhà mạng viễn thông có thể chạy chatbot tại chỗ trên bộ tăng tốc Forte để giữ dữ liệu trong nước. Công ty thiết kế chip Việt Nam có thể cấp phép IP LPU cho SoC AI biên dùng trong robot hoặc thiết bị gia dụng thông minh.

Trong thử nghiệm của nhà cung cấp với tám card, Forte 55X đạt thông lượng gấp khoảng 1,7 lần NVIDIA L4 trên các mô hình OPT và số token mỗi giây trên mỗi kilowatt cao hơn khoảng 1,4 lần. Các biến thể IP LPU tiêu thụ từ 2,84 W đến 4,72 W với 6 đến 12 TFLOPS FP16 mỗi lõi, phù hợp từ thiết bị biên đến máy chủ đám mây. Giao tiếp PCIe và UCIe tiêu chuẩn giúp tích hợp SoC đơn giản. Hỗ trợ vLLM và Hugging Face giúp triển khai mô hình dễ dàng.

Suy luận LLM đang chiếm phần lớn nhất trong chi phí tính toán AI, thúc đẩy nhu cầu bộ tăng tốc chuyên dụng rẻ hơn và tiết kiệm điện hơn GPU. Chính phủ và doanh nghiệp muốn có hạ tầng AI trong nước hoặc tại chỗ. Mục tiêu phát triển trung tâm dữ liệu và AI chủ quyền của Việt Nam, cùng nền tảng sản xuất điện tử, mở ra cơ hội cho bộ tăng tốc suy luận và IP LPU cấp phép.

Trụ sở tại 299 Gangnam-daero, Seocho-gu, Seoul; CEO Kim Joo-young. Đối tác nêu trên trang gồm AMD và ASUS, cùng các hợp tác được đưa tin với tiến trình 4 nm của Samsung, LG, Naver Cloud và Hyundai Motor. Lọt danh sách Forbes Korea 2026 Korea AI 50, được chọn vào chương trình 2026 Unicorn Bridge, CEO nhận huân chương phục vụ ngành nhân Ngày Thông tin và Truyền thông 2026.