最近，OpenAI 的機器人團隊負責人凱特琳·卡利諾夫斯基的辭職消息在市場上引起了轟動。她對與五角大樓的 AI 合作協議表示了嚴重的道德擔憂，這不僅僅是一個個人決定，而是關乎原則的問題。

卡利諾夫斯基表示，AI 在國家安全中可以扮演重要角色，但需要適當的監督和安全措施。她的主要擔憂是——用於國內監控的 AI 濫用以及自主武器系統的開發。她指出，OpenAI 在宣布這一協議之前沒有建立充分的管理安全措施，決策也過於草率。

卡利諾夫斯基於 2024 年加入 Meta，當時她正致力於 AR 眼鏡項目。她加入 OpenAI 的目的是為團隊帶來新方向，但在宣布與五角大樓合作後，情況發生了變化。她仍然尊重 Sam Altman 和整個團隊，但在這個問題上沒有妥協。

OpenAI 發言人表示，與五角大樓的合作是以謹慎的方式利用 AI 來增強國家安全，並且公司已設定明確的界限。但這一合作在行業內仍存在爭議。市場反應非常有趣——消息傳出後，ChatGPT 被刪除的次數激增超過 295%，而 Anthropic 的 Claude 應用在美國 App Store 的免費應用中排名第一。

整個事件涉及 AI 和自主系統 ( 如 dbot 這樣的技術 ) 的道德使用問題。當大公司與政府合作時，透明度和安全措施有多重要。如果你也在思考這類技術的發展及其道德層面，關注 Gate 上的相關討論將是非常不錯的選擇。