根據 Anthropic 於週四發布的部落格文章，這家名為「Anthropic」的人工智慧研究公司呼籲在 6 月 5 日對前沿 AI 開發進行全球暫停，理由是指出 AI 系統中遞迴式自我改進帶來的風險。Anthropic 透露內部數據，顯示其最先進的模型已實現快速的效能提升，並警告 AI 系統很快可能在未經人類介入的情況下達到自主最佳化，進而帶來重大的社會風險。
該公司提議建立一項全球協議，以放慢 AI 研究開發進度，並建立驗證機制以確保競爭對手遵守。Anthropic 表示：「如果世界能夠選擇放慢或暫時停止前沿 AI 的開發，讓社會與研究得以跟上科技進展，這將是有益的。」
