Penggunaan Token LLM dan Harga Sewa GPU Keduanya Melonjak pada bulan Juni, Kata JPMorgan Chase

Menurut laporan Data Center Watch JPMorgan Chase pada 1 Juli, penggunaan token LLM di platform OpenRouter melonjak 70% bulan ke bulan dan 20 kali lipat tahun ke tahun pada bulan Juni, dengan harga yang hanya naik 5% tahun ke tahun meskipun konsumsi meningkat. Model AS menguasai 85% dari total belanja konsumsi.

Sementara itu, harga sewa GPU di penyedia non-cloud naik di semua lini: A100 naik 6,3%, H100 naik 3,7%, dan B200 naik 2,7%, menunjukkan kekuatan berkelanjutan dalam permintaan perangkat keras AI.