Rebellon Berhasil Menjalankan Model AI Berparameter 500B+ Milik SK Telecom di Server NPU Domestik

Menurut Yonhap News, Rebellon, perusahaan chip AI domestik, berhasil menjalankan model A.X K1 milik SK Telecom (500B+ parameter) di Rebel Server menggunakan prosesor NPU domestik pada hari ini (23 Juli). Demonstrasi tersebut menunjukkan model mampu menangani banyak permintaan pengguna secara bersamaan secara real-time, dengan layanan agen AI yang memproses kueri seperti mencari apotek yang tersedia pada akhir pekan. Rebellon menerapkan struktur mixture-of-experts (MoE) untuk mengoptimalkan efisiensi komputasi dan mendistribusikan beban kerja ke seluruh inti NPU untuk pemrosesan paralel, sehingga kinerja infrastruktur dapat dicapai dengan satu server yang setara dengan server GPU kelas atas sekaligus mengurangi beban operasional pusat data.
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar