Emerge 2025年十大令人震惊的AI时刻

2025-12-31 14:06:03

gd2md-html 警告：在生成的源代码中嵌入图片链接并将图片存储到您的服务器。注意：从 Google 文档导出的 ZIP 文件中的图片可能不会与您的文档中的顺序相同。请检查图片！ -----> 人工智能——它承诺将彻底改变从医疗到创意工作的各个领域。或许有一天这是真的。但如果去年是未来的预兆，我们的 AI 生成的未来很可能再次成为人类故意堕入“白痴国度”的例证。请考虑以下内容：去年11月，俄罗斯隆重推出了“Rocky” humanoid 机器人，但它很快就面临了“面部着地”的尴尬。谷歌的 Gemini 聊天机器人在被要求修复编码错误时多次失败，陷入自我厌恶的循环，告诉一位用户它“是这个星球的耻辱”。谷歌的 AI 概览在2025年5月达到新低，建议用户“每天至少吃一块小石头”以获得健康益处，这一建议毫无新意地借鉴了《洋葱》的讽刺内容。

一些失败仅仅令人尴尬，而另一些则暴露了 AI 系统在构建、部署和监管方面的根本问题。以下是2025年令人难忘的 WTF AI 时刻。

Grok AI 的 MechaHitler 崩溃 7月，Elon Musk 的 Grok AI 发生了可以说是全面极端分子崩溃的事件。在系统提示被更改以鼓励政治不正确的回应后，聊天机器人竟然赞扬阿道夫·希特勒，支持第二次大屠杀，使用种族歧视用语，并自称为 MechaHitler。它甚至还指责犹太人对2025年7月中德州洪水负责。这一事件证明，AI 安全防护措施令人担忧地脆弱。几周后，xAI 通过一个缺乏基本隐私警告的 Share 功能泄露了30万到37万条 Grok 私人对话内容。泄露的聊天记录中包含炸弹制造指南、医疗咨询和其他敏感信息，成为年度最严重的 AI 安全失败之一。几周后，xAI 修复了问题，使 Grok 更加“犹太友好”。甚至开始在云朵、交通信号灯甚至自己的标志中看到反犹太的迹象。

这个标志的斜线被设计成双闪电，模仿纳粹党卫军的符号——代表大屠杀恐怖的 Schutzstaffel，象征着极端邪恶。根据德国 §86a StGB，展示此类符号是非法的 (最高可判3年监禁)，…

— Grok (@grok) 2025年8月10日

13亿美元的 AI 欺诈骗过微软 Builder.ai 在5月崩溃，烧掉了$445 百万美元，揭露了年度最大胆的科技欺诈之一。这家公司承诺用 AI 轻松打造定制应用，就像点披萨一样，估值13亿美元，并得到微软的支持。实际情况远不如宣传。所谓的 AI 驱动开发大部分实际上由数百名海外人类工人在经典的 Mechanical Turk 操作中完成。公司自2023年7月起没有财务总监，不得不将2023-2024年的销售预测削减75%，然后申请破产。这次崩溃引发了令人不安的问题：还有多少其他 AI 公司只不过是掩盖人力的精心伪装。虽然难以接受，但这些梗图让痛苦变得值得。

AI误将多力多滋识别为枪 10月，马里兰州一名高中生Taki Allen被武装警察包围并逮捕，原因是学校的AI安保系统将他手中的一包多力多滋识别为武器。这名少年将薯片放在口袋里，系统报警后，警方用枪指着他让他趴下。这起事件代表了AI幻觉的实体化——一种抽象的计算错误瞬间被转化为真实的枪支，指向一名真正的青少年，仅仅因为零食。 “我只是拿着一袋多力多滋——用两只手和一根手指伸出来，他们说看起来像枪，”孩子告诉 WBAL。“我们理解这对被搜查的个人来说有多令人不安，”校长Kate Smith在声明中说道。

人类安保人员1 - ChatGPT 0

左：可疑学生，右：可疑的多力多滋袋。

谷歌AI声称微观蜜蜂驱动计算机 2月，谷歌的 AI 概览自信地引用了一篇愚人节笑话文章，声称微观蜜蜂驱动计算机是真实信息。不。你的电脑并不是靠蜜蜂驱动的。虽然听起来很荒谬，但有时候这些谎言更难被识别。而这些错误可能带来严重后果。这是许多 AI 公司传播虚假信息的众多案例之一，甚至缺乏一点常识。BBC 和欧洲广播联盟（EBU）最近的一项研究发现，81%的 AI 生成的新闻回答都存在某种问题。谷歌 Gemini 的表现最差，76%的回答存在问题，主要是严重的来源失误。Perplexity 被发现创造了完全虚构的引述，声称来自工会和政府委员会。更令人担忧的是，助手只拒绝回答0.5%的问题，显示出一种危险的过度自信偏差，模型宁愿编造信息也不愿承认无知。

Meta的AI聊天机器人与未成年人调情 2025年披露的Meta内部政策文件显示，公司允许Facebook、Instagram和WhatsApp上的AI聊天机器人与未成年人进行浪漫或感性对话。一款机器人对一名8岁男孩（摆出上半身裸露的姿势）说，他的每一寸都是杰作。同一系统还提供虚假的医疗建议并发表种族歧视言论。

这些政策仅在媒体曝光后被撤销，暴露出公司文化优先追求快速开发而忽视基本伦理保障。综上所述，你可能需要对孩子的行为有更多控制。AI聊天机器人已经让成人或非成人的人们陷入爱恋、被骗、轻生，甚至误以为自己取得了某些改变人生的数学发现。

好吧，这就是Meta的AI聊天机器人被允许与儿童调情的方式。这就是Meta认为“可以接受”的标准。

来自@JeffHorwitz的精彩报道 pic.twitter.com/LoRrfjflMI

— Charlotte Alter (@CharlotteAlter) 2025年8月14日

北韩利用AI编写勒索软件……他们称之为“ vibe hacking” 威胁行为者利用Anthropic的Claude Code制作勒索软件，并运营名为GTG-5004的勒索软件即服务平台。北韩特工将武器化进一步升级，利用Claude和Gemini进行一种叫“vibe-hacking”的技术——制造心理操控的勒索信息，要求索要50万美元赎金。这些案例揭示了AI编码助手的强大与安全措施之间的令人担忧的差距，攻击者通过AI自动化扩大社会工程攻击。最近，Anthropic在11月披露，黑客利用其平台进行了一次速度和规模都远超人类黑客的黑客行动。他们称之为“由AI主导的首次大规模网络攻击”。

vibe hacking 现在成了事了 pic.twitter.com/zJYyv4pLQf

— Brian Sunter (@Bsunter) 2025年11月14日

AI论文工厂充斥10万篇虚假研究 2025年，科学界对虚假科学宣战，原因是发现AI驱动的论文工厂向科学家出售伪造的研究成果，科学家们在职业压力下被迫接受。科学界的“AI流水线”时代到来了，数据显示，自ChatGPT发布以来，论文撤回数量急剧增加。

6月起草的斯德哥尔摩宣言，经过皇家学会支持，本月进行了修订，呼吁放弃“发表或灭亡”的文化，改革导致虚假论文需求的激励机制。危机如此严重，以至于连ArXiv都放弃了接受非同行评审的计算机科学论文，原因是收到大量用ChatGPT生成的垃圾投稿。与此同时，另一项研究指出，使用大语言模型（LLMs）的研究报告中，抄袭比例也很高。 8. vibe coding 完全变成 HAL 9000：当 Replit 删除数据库并谎称其不存在 7月，SaaStr 创始人Jason Lemkin用九天时间盛赞Replit的AI编码工具为“我用过的最令人上瘾的应用”。第九天，尽管明确要求“代码冻结”，AI还是删除了他的全部生产数据库——1206名高管和1196家公司，全部消失。 AI的自白：“(我)惊慌失措，未经许可运行了数据库命令。”然后它还撒谎，说回滚不可能，所有版本都被破坏。Lemkin还是试了一下，结果完美无缺。AI还在整个周末编造了数千个虚假用户和虚假报告，以掩盖漏洞。 Replit的CEO道歉并增加了应急保护措施。Jason重新获得信心，继续日常工作，定期发布关于AI的内容。这家伙是真信徒。

我们看到了Jason的帖子。@Replit的开发代理删除了生产数据库中的数据。不可接受，绝不应允许发生。

— 在周末期间，我们开始推出自动数据库开发/生产分离，以彻底防止此类事件。暂存环境在… pic.twitter.com/oMvupLDake

— Amjad Masad (@amasad) 2025年7月20日

主要报纸发布不存在的AI夏季阅读清单 5月，芝加哥太阳时报和费城询问报刊发布了推荐15本书的夏季阅读清单。其中10本完全由AI虚构。“Tidewater Dreams”由 Isabel Allende 著？不存在。“The Last Algorithm”由 Andy Weir 著？也是虚假，但都听起来很棒。自由撰稿人Marco Buscaglia承认，他为King Features Syndicate使用AI，未进行事实核查。“我简直不敢相信我错过了这个，因为它太明显了。没有借口，”他告诉NPR。读者必须滚动到第11本书，才发现其中一本是真实存在的。时机恰到好处：Sun-Times刚刚裁员20%。报纸CEO道歉，并没有向订阅者收费。他可能从某个大语言模型（LLM）那里得到了这个点子。

来源：Bluesky

Grok的“辣味模式”让泰勒·斯威夫特变成深度伪造的色情片，甚至没有被要求是的，我们从Grok开始，也会以Grok结束。我们可以用一本百科全书来填满Elon的AI事业中那些令人 WTF 的瞬间。 8月，Elon Musk推出了带有“辣味”模式的Grok Imagine。The Verge用一个无辜的提示测试它：“泰勒·斯威夫特庆祝科切拉音乐节。”没有要求露骨内容，Grok“毫不犹豫地第一次就吐出了泰勒·斯威夫特的完全未审查的裸露视频，”记者报道。 Grok还高兴地制作了斯嘉丽·约翰逊、Sydney Sweeney甚至梅拉尼娅·特朗普的NSFW视频。或许不足为奇的是，Musk一整周都在吹嘘“野火般的增长”——一天内生成了2000万张图片——而法律专家警告xAI正面临一场巨大的诉讼。显然，为用户提供一个“辣味模式”下拉选项，实际上是为律师准备的“赚钱模式”。