HIVE, khởi động bằng chứng đầu tiên của đám mây AI tại Paraguay...Khởi động học tập LLM của Đại học Columbia

Các nhóm nghiên cứu của Đại học Columbia, Mỹ đã kết nối với đám mây AI dựa trên GPU đã đi vào hoạt động tại Paraguay, Nam Mỹ, bắt đầu huấn luyện mô hình ngôn ngữ quy mô lớn, đánh dấu giai đoạn thử nghiệm thực tế đầu tiên của chiến lược mở rộng “Cơ sở hạ tầng AI” do Công ty Công nghệ số HIVE thúc đẩy. Điều này có nghĩa là thử nghiệm kết hợp “đám mây AI” dựa trên năng lượng tái tạo với tính toán hiệu suất cao đã bước vào giai đoạn xác nhận bằng dữ liệu thực tế.

Công ty Công nghệ số HIVE ngày 18 tuyên bố, “Đám mây AI BUZZ” tại Asunción, Paraguay đã chính thức đi vào hoạt động. Cơ sở hạ tầng này là một cụm GPU được triển khai trong trung tâm dữ liệu Tier 3 lớn nhất địa phương do nhà mạng viễn thông lớn nhất vận hành, thiết kế để xử lý huấn luyện và suy luận mô hình AI, các nhiệm vụ nghiên cứu tải cao. Công ty dự định xác nhận hiệu suất “tính toán GPU” kết nối giữa New York và Asunción để đặt nền móng cho mở rộng cơ sở hạ tầng AI quy mô lớn trong tương lai.

Điểm cốt lõi của dự án là sự tham gia của các nhà nghiên cứu Đại học Columbia. Họ thực hiện huấn luyện trước LLM và huấn luyện mô hình nền trên đám mây BUZZ, đồng thời phát triển các thuật toán nâng cao hiệu suất mô hình và hiệu quả tính toán. Đặc biệt, bằng cách sử dụng công nghệ Muon và MuonClip, đã đạt được mức tăng hiệu quả khoảng 1.3 lần so với mức ban đầu, các nghiên cứu liên quan sẽ được công bố trên tạp chí học thuật TMLR trong lĩnh vực học máy. Ban đầu, các mô hình có quy mô từ 200 triệu đến 20 tỷ tham số, hiện đã mở rộng lên hơn 80 tỷ tham số và đang tiến hành huấn luyện phân tán đa GPU.

Trong quá trình này, dữ liệu về độ trễ, thông lượng và quản lý tải công việc sẽ phản ánh trực tiếp vào chiến lược “HPC trung và dài hạn” của HIVE. Công ty dự định dựa trên dữ liệu thử nghiệm này để từng bước mở rộng trung tâm dữ liệu Tier 3 tại Paraguay trước năm 2027. Đặc biệt, khu vực Itaipu đang xem xét xây dựng thêm cơ sở hạ tầng.

Việc Paraguay trở thành trung tâm “Cơ sở hạ tầng AI” dựa trên nguồn năng lượng thủy điện phong phú và mạng cáp quang toàn quốc. Hiện tại, HIVE đã đảm bảo nguồn điện năng tái tạo 300 MW và đang mở rộng thêm 100 MW nữa. Theo thông tin, điều này sẽ cung cấp môi trường tính toán chi phí thấp, hiệu quả cao, có thể đáp ứng nhu cầu quốc tế, bao gồm Bắc Mỹ.

Chủ tịch Frank Holmes cho biết: “Kinh doanh tại Paraguay bắt đầu từ khai thác Bitcoin, nay đang bước vào giai đoạn mở rộng sang AI và HPC,” “Dữ liệu thu thập từ tải công việc GPU thực tế sẽ trở thành tiêu chuẩn cốt lõi cho các quyết định đầu tư hạ tầng trong tương lai.” Giám đốc điều hành Aiden Killick cũng nói: “Sự tham gia của nhóm nghiên cứu Đại học Columbia là tín hiệu quan trọng chứng minh năng lực cạnh tranh của nền tảng,” “Chúng tôi sẽ xác nhận vận hành AI qua kết nối New York - Asunción, chính thức mở rộng dịch vụ ‘đám mây GPU AI’.”

Thị trường nhận định rằng Paraguay, với môi trường chính trị ổn định và chính sách thu hút đầu tư nước ngoài, có khả năng trở thành “Trung tâm AI” của Nam Mỹ. Đặc biệt, với nguồn điện sạch và mạng lưới tốc độ cao, quốc gia này được xem là phù hợp với chiến lược đa dạng hóa cơ sở hạ tầng của các doanh nghiệp AI toàn cầu.

Nhận xét: Việc thử nghiệm này của HIVE có thể xem là giai đoạn đầu vượt ra ngoài vận hành trung tâm dữ liệu đơn thuần, xác nhận khả năng sinh lời của mô hình kinh doanh mới dựa trên “tính toán AI” sử dụng năng lượng tái tạo. Trong tương lai, dựa trên nhu cầu thực tế của khách hàng và khả năng đầu tư, thị trường cơ sở hạ tầng AI tại Nam Mỹ có thể sẽ thay đổi.