Theo Forbes, YouTube đang phải đối mặt với sự gia tăng nội dung được tạo bằng AI sau khi OpenAI tạm dừng Sora, làm dấy lên lo ngại về deepfake và chất lượng nền tảng. Nền tảng chia sẻ video này hiện lưu trữ khoảng 290 triệu video, trong đó nội dung do AI tạo đang thúc đẩy tốc độ tăng trưởng. CEO YouTube Neal Mohan thừa nhận đây là thách thức, cho biết nền tảng cần cân bằng giữa việc cho phép sử dụng AI một cách sáng tạo và ngăn chặn spam chất lượng thấp làm quá tải người dùng.
Để ứng phó, YouTube đã công bố vào tháng 5 một hệ thống tự động phát hiện, gắn nhãn các video là “đã bị thay đổi đáng kể hoặc hoàn toàn do AI tạo ra”, ngay cả khi người tạo không tiết lộ. Nền tảng cũng ra mắt tính năng AI avatar vào tháng 4, cho phép người dùng tạo các nhân vật kỹ thuật số. Trong khi đó, khoảng 1 triệu nhà sáng tạo đã cho phép YouTube sử dụng nội dung của họ để huấn luyện mô hình AI—tương đương khoảng 1,5% trong số 69 triệu nhà sáng tạo hoạt động mà nền tảng ước tính. Một số công ty AI bên ngoài đã đưa ra mức thù lao lên tới 100.000 USD cho mỗi 1.000 giờ tư liệu của nhà sáng tạo để cấp phép sử dụng.