Máy tính nhỏ nhất thế giới

Thiết bị mang tên Tiiny AI Pocket Lab, do Tiiny AI Inc phát triển, có kích thước dài 142mm, rộng 80mm và cao 25,3mm. Ngày 2/12, sản phẩm chính thức được ghi nhận kỷ lục là máy tính mini nhỏ nhất có khả năng chạy mô hình ngôn ngữ lớn 100B LLM hoàn toàn cục bộ.

Tiiny AI Pocket Lab được xem là siêu máy tính AI bỏ túi đầu tiên, có thể vận hành các mô hình ngôn ngữ lớn lên tới 120 tỷ tham số trực tiếp trên thiết bị, không cần kết nối đám mây, máy chủ hay GPU cao cấp. Thiết bị hoạt động trong mức công suất khoảng 65W, giúp giảm đáng kể tiêu thụ năng lượng và lượng khí thải carbon so với các hệ thống AI truyền thống dựa trên GPU.

Theo Tiiny AI, sản phẩm ra đời trong bối cảnh AI đám mây ngày càng đối mặt với nhiều thách thức như chi phí năng lượng cao, rủi ro mất điện, gánh nặng xử lý dữ liệu dài hạn và lo ngại về quyền riêng tư. Công ty cho rằng “nút thắt lớn nhất của AI hiện nay không phải sức mạnh tính toán, mà là sự phụ thuộc vào điện toán đám mây”.