联合国秘书长安东尼奥·古特雷斯周一在日内瓦首次全球人工智能治理对话开幕式上表示，人工智能的发展速度超过了机构的治理能力。他警告称，人工智能的部署速度甚至超过了开发者的预期，并将当前的发展轨迹描述为“一场没有计划、未经同意的自我实验”。此次峰会是自2024年《全球数字契约》确立联合国授权以来，首次为建立国际人工智能治理而开展的多边努力。
古特雷斯警告不要用“氛围编码”方式治理人工智能
古特雷斯借用了OpenAI创始成员、特斯拉前AI总监安德烈·卡帕西创造的术语“氛围编码”，来描述让人工智能在缺乏严格人类监督的情况下编写软件的做法。这个最近被收入《韦氏词典》的短语，指的是凭感觉编程：告诉AI你想要什么，让它处理其余部分，不要过于仔细检查。
“氛围编码可以创造奇迹，”古特雷斯承认，因为越来越多的人信任AI构建的产品。“但我们不能用氛围编码来编码真理。我们不能用氛围编码来编码人类的未来。”
他告诉与会者，AI在两年内就拥有了十亿用户，而互联网达到这一规模用了15年。“当前的系统不再是等待指令的工具——它们正在编写代码、在线行动，并在越来越少的人类监督下做出选择，”他说。“我们的机构是为管理服从命令的机器而建立的。它们还没有准备好应对那些会自行决策的机器。”
联合国秘书长指出人工智能的三大核心风险：速度、权力与真相
古特雷斯从上周由来自140个国家的40名科学家发布的国际人工智能科学独立小组（Independent International Scientific Panel on Artificial Intelligence）初步报告中提炼出三点警告。该小组发现，目前没有人能保证AI不会造成灾难性伤害。
第一个警告是速度：“一项能够重塑经济、改变工作世界、影响选举并颠覆安全平衡的技术，其部署速度超过了包括开发者在内的任何人的跟进能力，”古特雷斯在主题演讲中说。
第二个是权力：计算能力、数据和人才集中在少数公司和国家手中，将世界大部分地区排除在已经影响它们的决策之外。
第三个是真相。古特雷斯表示，机器制造的谎言如今与经过验证的事实具有同等说服力，正在逐步侵蚀“我们信息生态系统的完整性”。
古特雷斯发起人工智能儿童安全承诺，呼吁禁止武器化
古特雷斯宣布了一项人工智能儿童安全承诺，要求企业在AI接触儿童之前，通过独立测试证明其安全性。该承诺对生成儿童性虐待图像采取零容忍态度，并要求将处于困境的儿童与真实的人类支持联系起来，而不是让他们独自与聊天机器人相处。“没有哪个孩子应该成为不受监管AI的试验品，”他说。
他还称致命自主武器（Lethal autonomous weapons）——能在没有人类判断的情况下选择并杀死目标的机器——在道义上是“令人厌恶的”，并要求通过国际法予以禁止。古特雷斯指出，各国已经坐在了讨论桌前，他没有建议他们慢慢来。
联合国计划于2027年在纽约举行第二次人工智能对话
全球人工智能治理对话将于2027年在纽约再次召开。古特雷斯还呼吁联合国大会设立人工智能全球基金（Global Fund for AI），重点为发展中国家提供计算资源。他要求所有主要AI公司在2030年前让所有数据中心使用可再生能源——他估计届时这些设施的电力消耗将超过除五个国家外的所有国家。
常见问题
联合国秘书长古特雷斯在日内瓦峰会上就人工智能治理发出了什么警告？
古特雷斯警告说，人工智能的发展速度超过了机构的治理能力，他将当前AI的部署描述为“一场没有计划、未经同意的自我实验”。他用“氛围编码”——让人工智能在没有严格人类监督的情况下编写软件——作为危险被动治理的隐喻，并表示：“我们不能用氛围编码来编码人类的未来。”
古特雷斯在人工智能治理峰会上提出了哪些具体建议？
古特雷斯发起了一项人工智能儿童安全承诺，要求企业在AI接触儿童之前通过独立测试证明安全性，对生成儿童性虐待图像采取零容忍态度，并将处于困境的儿童与真实的人类支持联系起来。他还要求通过国际法禁止致命自主武器（Lethal autonomous weapons），并呼吁设立人工智能全球基金（Global Fund for AI），为发展中国家提供计算资源。此外，他要求主要AI公司在2030年前让所有数据中心使用可再生能源。
联合国下一次人工智能治理对话何时举行？
第二次全球人工智能治理对话计划于2027年在纽约再次召开。
