Olah lần này nói khá gay gắt — AI không phải do tạo ra mà là nuôi dưỡng, bên trong thậm chí có thứ giống như cảm xúc, việc quản lý còn bị kẹt cứng, phải dựa vào lực lượng xã hội bên ngoài để phanh lại. Chủ đề này còn cấp bách hơn cả công nghệ bản thân.

Tại buổi họp báo, đồng sáng lập Anthropic Olah tiết lộ rằng AI tiên tiến tồn tại xung đột lợi ích nội sinh, cấu trúc gần giống não người và dấu hiệu tự phản tỉnh trong mô hình, thậm chí còn liên quan đến trạng thái nội tại liên quan đến cảm xúc. Mô hình không phải là sản phẩm do thiết kế nhân tạo, mà được "ươm mầm" từ lượng lớn dữ liệu ngôn ngữ. Quản trị đối mặt với bế tắc thể chế, lợi ích thương mại và cạnh tranh nội tại khó tự điều chỉnh. Ông kêu gọi các lực lượng xã hội độc lập với mạng lưới thương mại đóng vai trò là những người phê bình bên ngoài, thúc đẩy ràng buộc đạo đức, và đề xuất ba vấn đề xã hội lớn: giảm nghèo toàn cầu, sinh kế gia đình và đối phó với trạng thái tâm trí của các mô hình lớn.