聯合國祕書長安東尼奧·古特雷斯週一在日內瓦首屆全球人工智慧治理對話會議上開幕致詞，向193個會員國表示，人工智慧的發展速度已超越機構治理能力。古特雷斯警告，AI部署的速度甚至超過了開發者本身的掌控，形容當前軌跡是「一場沒有計畫、未經同意的自我實驗」。此次高峰會是依據2024年《全球數位契約》所設立的聯合國授權下，首次建立國際AI治理的多邊努力。
古特雷斯警告勿以「氛圍編碼」方式治理AI
古特雷斯借用了「vibe coding」一詞——由OpenAI創始成員、前Tesla AI總監Andrej Karpathy所創——來描述在缺乏人類嚴格監督下讓AI編寫軟體的做法。這個近期被收錄進韋氏字典的詞彙，指的是憑感覺寫程式：告訴AI你想要什麼，讓它處理剩下的事，不要太仔細檢查。
「Vibe coding可以創造奇蹟，」古特雷斯承認，因為越來越多人信任AI打造的產品。「但我們不能vibe-code真相。我們不能vibe-code人類的未來。」
他向與會者表示，AI在兩年內達到十億用戶，而網路則花了十五年。「現有系統不再是等待指令的工具——它們正在編寫程式碼、在線上行動、並且在越來越少人類監督的情況下做出選擇，」他說。「我們的機構是為管理遵循命令的機器而設立的。它們尚未準備好面對會自行決策的機器。」
聯合國秘書長指出AI三大核心風險：速度、權力與真相
古特雷斯從國際人工智慧科學獨立專家小組的初步報告中提出了三項警告。這份報告上週由來自140個國家的40位科學家發布。該小組發現，目前沒有人能保證AI不會造成災難性傷害。
第一項警告是速度：「一項能夠重塑經濟、轉變工作世界、影響選舉、並改變安全平衡的技術，其部署速度已超過任何人——包括開發者——所能跟上的腳步，」古特雷斯在主題演講中說。
第二項是權力：運算能力、數據與人才集中在少數公司與國家手中，將世界上大多數人排除在已影響他們的決策之外。
第三項是真相。古特雷斯表示，機器支持的謊言如今說服效果不亞於經查證的事實，逐步侵蝕「我們資訊生態系統的完整性」。
古特雷斯發起AI兒童安全承諾，呼籲禁止自主武器
古特雷斯宣布一項「AI兒童安全承諾」，要求企業在AI接觸兒童之前，先透過獨立測試證明其安全性。該承諾對生成兒童性虐待影像採取零容忍政策，並要求將處於困境的兒童導向真人支持，而非讓他們獨自面對聊天機器人。「沒有任何兒童該成為無監管AI的白老鼠，」他說。
他也將致命自主武器——能夠在不經人類判斷的情況下選取並殺死目標的機器——形容為「道德上令人厭惡」，並要求以國際法加以禁止。古特雷斯指出，各國已在討論桌上，他並未建議他們慢慢來。
聯合國訂於2027年在紐約舉行第二次AI對話
Global Dialogue on AI Governance將於2027年在紐約再次召開。古特雷斯也呼籲聯合國大會設立一項「全球AI基金」，專注於讓開發中國家取得運算資源。他挑戰每一家大型AI公司，要求在2030年前讓所有資料中心使用再生能源——他估計屆時這些設施的用電量將僅次於五個國家。
常見問題
聯合國祕書長古特雷斯在日內瓦高峰會上就AI治理提出了哪些警告？
古特雷斯警告，人工智慧的發展速度已超越機構治理能力，他形容當前的AI部署是「一場沒有計畫、未經同意的自我實驗」。他借用「vibe coding」一詞——讓AI在缺乏人類嚴格監督下編寫軟體——作為消極治理的比喻，並表示：「我們不能vibe-code人類的未來。」
古特雷斯在AI治理高峰會上提出了哪些具體提案？
古特雷斯發起一項「AI兒童安全承諾」，要求企業在AI接觸兒童之前透過獨立測試證明安全性，對生成兒童性虐待影像採取零容忍政策，並將處於困境的兒童導向真人支持。他也要求以國際法禁止致命自主武器，並呼籲設立「全球AI基金」以提供開發中國家運算資源。此外，他挑戰大型AI公司在2030年前讓所有資料中心使用再生能源。
聯合國何時舉行下一次AI治理對話？
第二屆Global Dialogue on AI Governance（reconvene in New York in 2027）訂於2027年在紐約舉行。
