Theo báo cáo của Morgan Stanley được công bố vào thứ Năm (16/7), nút thắt quan trọng tiếp theo trong phát triển trí tuệ nhân tạo đã chuyển từ năng lực tính toán sang hiệu quả sử dụng bộ nhớ, đánh dấu sự kết thúc của cuộc đua thuần về năng lực xử lý trong ngành. Báo cáo nêu rõ rằng trong khi băng thông bộ nhớ chỉ tăng 14% mỗi năm, thì việc mở rộng quy mô token AI vượt quá 320 lần đã tạo ra một khoảng cách băng thông đáng kể.
Chi phí bộ nhớ đang tăng mạnh; dự kiến đến năm 2027, chi tiêu cho bộ nhớ sẽ chiếm 40% trong tổng chi tiêu vốn của các nhà cung cấp dịch vụ đám mây, tăng từ mức 12% vào năm 2023. Morgan Stanley ước tính thị trường công nghệ bộ nhớ mới nổi (không bao gồm HBM) sẽ đạt 23 tỷ USD vào năm 2030, so với 1,2 tỷ USD vào năm 2025, qua đó cho thấy sự chuyển dịch lớn sang đổi mới kiến trúc lưu trữ và truy xuất dữ liệu.