Skymizer HyperThought và EdgeThought – IP LPU cho suy luận LLM

Skymizer Taiwan Inc. là công ty IP đồng thiết kế phần cứng – phần mềm, thành lập năm 2013, trụ sở tại quận Nội Hồ, Đài Bắc, có hơn một thập kỷ phát triển trình biên dịch và runtime cho AI. Công ty cấp phép IP bộ xử lý ngôn ngữ (LPU) cùng phần mềm tích hợp để hãng chip, nhà sản xuất thiết bị và nhà tích hợp hệ thống chạy mô hình ngôn ngữ lớn trên thiết bị hoặc tại chỗ mà không cần cụm GPU.

HyperThought là IP LPU tám lõi, mở rộng được trên nhiều chip, xây trên kiến trúc LISA v3 do trình biên dịch dẫn dắt, nhắm tới AI đa phương thức và AI tác tử ở biên và tại chỗ. IP dùng bộ nhớ LPDDR4/5 tiêu chuẩn, nén trọng số và KV-cache cùng thiết kế ưu tiên giải mã để hỗ trợ mô hình từ 4 tỷ đến 600 tỷ tham số trên tiến trình 28 nm trưởng thành. EdgeThought là IP LPU lõi đơn cho suy luận LLM trên thiết bị có tài nguyên hạn chế. Chip tham chiếu HTX301 trình diễn nền tảng trên một card PCIe. Công ty có đối tác khu vực tại Hàn Quốc, Trung Quốc và Nhật Bản.

• IP LPU HyperThought: IP tám lõi, mở rộng nhiều chip trên kiến trúc LISA v3.
• IP LPU EdgeThought: IP lõi đơn lấy trình biên dịch làm trung tâm cho suy luận LLM trên thiết bị.
• Dải mô hình: hỗ trợ mô hình từ 4 tỷ đến 600 tỷ tham số, tách giai đoạn prefill và decode.
• Nén: nén trọng số và KV-cache để giảm nhu cầu băng thông DRAM.
• Thiết kế tiến trình trưởng thành: dùng 28 nm với bộ nhớ LPDDR4/5 tiêu chuẩn.
• Chip tham chiếu HTX301: card PCIe sáu chip với 384 GB bộ nhớ cho suy luận tại chỗ.

Công ty thiết kế chip Việt Nam có thể cấp phép EdgeThought để xây chip AI trên thiết bị cho nhà thông minh hoặc thiết bị đầu cuối công nghiệp. Nhà tích hợp hệ thống có thể triển khai máy chủ LLM tại chỗ cho ngân hàng hoặc cơ quan nhà nước không thể đưa dữ liệu lên đám mây. Nhà cung cấp điện tử ô tô có thể tích hợp IP LPU cho trợ lý giọng nói trên xe.

Suy luận LLM chạy trên phần cứng riêng của khách hàng với chi phí dự đoán được, không phụ thuộc cụm GPU. Thiết kế tham chiếu HTX301 chạy mô hình 700 tỷ tham số trên một card PCIe khoảng 240 W. Nén trọng số tốt hơn llama.cpp từ 9% đến 17,8%, với mức suy giảm perplexity của nén KV-cache từ 0,06% đến 3,52%. Tiến trình 28 nm trưởng thành và bộ nhớ LPDDR tiêu chuẩn giúp giảm chi phí silicon và rủi ro nguồn cung.

Doanh nghiệp và nhà sản xuất thiết bị muốn chạy AI tạo sinh tại chỗ vì quyền riêng tư dữ liệu, độ trễ và chi phí, tạo nhu cầu cho silicon suy luận LLM chuyên dụng ngoài chuỗi cung ứng GPU. IP tăng tốc trên tiến trình trưởng thành hạ rào cản gia nhập cho hãng chip trong khu vực. Chủ trương phát triển AI chủ quyền và thiết kế chip trong nước của Việt Nam khiến IP tăng tốc LLM cấp phép được trở nên phù hợp cho các dự án nội địa.

Thành lập năm 2013 tại Đài Loan; trụ sở trên đường Ruiguang, quận Nội Hồ, Đài Bắc. HyperThought đoạt giải Best IP/Processor of the Year và Most Promising Product tại EE Awards Asia 2025. JFE Shoji Electronics trở thành nhà phân phối chính thức tại Nhật Bản từ tháng 9/2025; các đối tác khu vực khác gồm CIRCLE (Hàn Quốc), ADK và LoMicro (Trung Quốc).