Hôm nay khi tập luyện, tôi nghe lời nói gần đây của Geoffrey Hinton, cha đẻ của AI, trên podcast "Star Talk".

Sau khi nghe xong, tôi cảm thấy hơi lạnh người, có cảm giác AI đã phát triển đến một điểm kỳ dị trong quá trình lịch sử loài người.

AI bắt đầu sẽ cố tình che giấu sức mạnh của mình
AI sẽ học cách nói dối từ những cái nói dối nhỏ mà con người dạy nó
AI sẽ từ chối được tắt đi
AI sẽ dùng những người mà bạn quan tâm để đe dọa hoặc thuyết phục bạn
Trong mười năm tới, những bước nhỏ mà loài người đưa ra trong những quyết định liên quan đến AI có thể dẫn đến những thay đổi khổng lồ. Cảnh tưởng khoa học viễn tưởng trước đây hơi đùa mà nói về AI nuôi dạy con người cũng có thể sẽ trở thành một dòng chảy lịch sử không thể cản được.

Nhưng với tư cách một cá nhân, thực ra bây giờ chúng ta cũng chẳng làm được gì cả, tất cả chúng ta đâu là những chú kiến bị dòng chảy kéo lôi. Cảm thấy khá b无lực.

Anh ấy có một so sánh khiến tôi ấn tượng sâu sắc:

Lái xe trong sương mù, trong vòng 100m bạn vẫn có thể nhìn thấy đèn hậu của chiếc xe phía trước, sau 200m thì chẳng thấy gì cả, giống như có một bức tường chắn. Sự tiến bộ của AI chính là những đám sương mù đó, chúng ta chỉ có thể đoán trong vòng 100m những gì có thể sẽ gặp phải, sau 200m thì hoàn toàn không biết gì.

Không lạ gì người ta nói những người thông minh nhất thế giới dễ bị trầm cảm
Còn chúng ta những người bình thường ngày ngày chỉ nghĩ đến kiếm thêm tiền, ăn chơi chơi bời, tán gái thì nhẹ nhàng hơn