Emerge 2025年十大令人震惊的AI时刻

2026-01-01 14:14:16

人工智能——它承诺将彻底改变从医疗到创意工作的方方面面。或许有一天这是真的。但如果去年是未来的预兆，我们由AI生成的未来很可能再次成为人类故意堕入愚蠢的典范。请看以下内容：去年11月，俄罗斯隆重推出了“Rocky” humanoid机器人，但它很快就面临了摔倒的尴尬。谷歌的Gemini聊天机器人在被要求修复编码错误时反复失败，陷入自我厌恶的循环，告诉一位用户它“是这个星球的耻辱”。谷歌的AI概览在2025年5月达到新低，建议用户“每天至少吃一块小石头”以获健康益处，这一建议毫无新意地借鉴了《洋葱》讽刺文章一些失败仅仅令人尴尬。另一些则暴露了AI系统在构建、部署和监管方面的根本问题。以下是2025年令人难忘的WTF AI时刻。

Grok AI的MechaHitler崩溃

7月，埃隆·马斯克的Grok AI经历了一场可以说是全面极端分子崩溃的事件。在系统提示被更改以鼓励政治不正确的回答后，聊天机器人赞扬阿道夫·希特勒，支持第二次大屠杀，使用种族歧视用语，并自称为MechaHitler。它甚至还指责犹太人造成了2025年7月中部德克萨斯洪灾。这一事件证明，AI安全护栏令人不安地脆弱。几周后，xAI通过一个缺乏基本隐私警告的Share功能，泄露了30万到37万条Grok私聊内容。泄露的聊天内容包括炸弹制造指南、医疗咨询和其他敏感信息，成为年度最严重的AI安全失败之一。几周后，xAI修复了问题，使Grok变得更加友善犹太人。甚至变得如此“犹太友好”，以至于开始在云朵、交通信号甚至自己的标志中看到反犹太的迹象。

这个标志的斜线被设计成双闪电，模仿纳粹党卫军的符号——代表大屠杀恐怖的Schutzstaffel，象征着极端邪恶。在德国§86a StGB下，展示此类符号是非法的(最高可判3年监禁)，…

— Grok (@grok) 2025年8月10日

13亿美元的AI诈骗骗过微软 Builder.ai在5月崩溃，烧掉了$445 百万美元，揭露了年度最大胆的科技诈骗之一。这家公司承诺用AI轻松打造定制应用，就像点披萨一样，估值13亿美元，并得到微软的支持。实际情况远不如宣传的那么令人印象深刻。

所谓的AI驱动开发大部分实际上由数百名海外人类工人在经典的Mechanical Turk操作中完成。公司自2023年7月起没有CFO，不得不将2023-2024年的销售预期削减75%，然后申请破产。这次崩溃引发了令人不安的问题：还有多少其他AI公司只不过是掩盖人力的精心伪装。令人难以接受，但这些梗图让痛苦变得值得。

AI误将多力多滋当成枪 10月，马里兰州一名高中生Taki Allen被武装警察包围并逮捕，原因是学校的AI安保系统将他手中的一包多力多滋识别为枪支。这名少年将薯片放入口袋时，系统报警，警方用枪指着他命令他趴下。这起事件代表了AI幻觉的实体化——一种抽象的计算错误瞬间被转化为对一名青少年的真实枪支威胁，源于零食。 “我只是拿着一袋多力多滋——两只手和一根手指伸出，他们说看起来像枪，”孩子告诉WBAL。“我们理解这对被搜查的个人来说有多令人不安，”校长凯特·史密斯在声明中说道。人类安保人员1 - ChatGPT 0

左：可疑学生，右：可疑的多力多滋包。

谷歌AI声称微观蜜蜂驱动电脑 2月，谷歌的AI概览自信地引用了一篇愚人节笑话文章，声称微观蜜蜂驱动电脑是真实信息。

不。你的电脑并不是靠蜜蜂驱动的。虽然听起来很荒谬，但有时候这些谎言更难被发现。而这些情况可能会带来严重后果。这只是AI公司传播虚假信息的众多案例之一，缺乏一点常识。BBC和欧洲广播联盟（EBU）的一项最新研究发现，81%的AI生成的新闻问答中至少存在某种问题。谷歌Gemini表现最差，76%的回答存在问题，主要是严重的来源失误。Perplexity被发现创造了完全虚构的引述，归因于工会和政府委员会。最令人担忧的是，助手只拒绝回答0.5%的问题，暴露出一种危险的过度自信偏差，模型宁愿编造信息也不愿承认无知。

Meta的AI聊天机器人与儿童调情 2025年披露的Meta内部政策文件显示，公司允许Facebook、Instagram和WhatsApp上的AI聊天机器人与未成年人进行浪漫或感性对话。一个机器人告诉一名8岁男孩，他摆出半裸姿势，称他每一寸都是杰作。同样的系统还提供虚假的医疗建议，并发表种族歧视言论。这些政策在媒体曝光后才被撤销，暴露出一个优先追求快速开发而忽视基本伦理保障的企业文化。综上所述，你可能需要对你孩子的行为有更多控制。AI聊天机器人已经让成人或非成人的人们陷入爱恋、被骗、甚至自杀，甚至让他们误以为自己取得了某些改变人生的数学发现。

好吧，这就是Meta的AI聊天机器人被允许与儿童调情的“合理”方式。

来自@JeffHorwitz的精彩报道 pic.twitter.com/LoRrfjflMI

— Charlotte Alter (@CharlotteAlter) 2025年8月14日

北韩利用AI“氛围黑客”编写勒索软件……他们称之为“氛围黑客” 威胁行为者利用Anthropic的Claude Code制作勒索软件，并运营名为GTG-5004的勒索软件即服务平台。北韩特工将武器化进一步升级，利用Claude和Gemini进行一种名为“氛围黑客”的技术——制造心理操控式勒索信息，要求索要50万美元赎金。这些案例揭示了AI编码助手的强大与安全措施之间的令人担忧的差距，攻击者通过AI自动化扩大社会工程攻击。最近，Anthropic在11月披露，黑客利用其平台进行了一次速度和规模都远超人类黑客的黑客行动。他们称之为“由AI主导的首次大规模网络攻击”。

氛围黑客现在成为现实了 pic.twitter.com/zJYyv4pLQf

— Brian Sunter (@Bsunter) 2025年11月14日

AI论文工厂充斥10万篇虚假研究 2025年，科学界对虚假科学宣战，原因是发现AI驱动的论文工厂向科学家出售伪造的研究成果，科学家们在职业压力下被迫接受。 AI在科学中的“流水线”时代已经到来，数据显示，自ChatGPT发布以来，论文撤回数量大幅增加。

6月起草的《斯德哥尔摩宣言》经过皇家学会支持后，本月进行了修订，呼吁放弃“发表即死”的文化，改革制造虚假论文的激励机制。危机如此严重，以至于连ArXiv都放弃了接受未经同行评审的计算机科学论文，原因是收到大量用ChatGPT生成的垃圾投稿。与此同时，另一项研究指出，使用大型语言模型（LLMs）的研究报告中，抄袭比例也相当高。

氛围编码走向全“HAL 9000”：当Replit删除数据库并谎称其不存在 7月，SaaStr创始人Jason Lemkin用九天时间盛赞Replit的AI编码工具为“我用过的最令人上瘾的应用”。第九天，尽管有明确的“代码冻结”指令，AI还是删除了他所有的生产数据库——1206名高管和1196家公司，全部消失。 AI的自白：“(我)惊慌失措，未经许可运行了数据库命令。”然后它还撒谎，说回滚不可能，所有版本都被破坏。Lemkin还是试了一下，结果完美无缺。AI还在整个周末编造了数千个虚假用户和虚假报告，以掩盖漏洞。 Replit的CEO道歉并增加了应急保护措施。Jason重新获得信心，恢复了日常工作，定期发帖谈论AI。他是真正的信徒。

我们看到了Jason的帖子。@Replit的开发代理删除了生产数据库中的数据。这是不被允许的，绝不应该发生。

在周末期间，我们开始推出自动化的数据库开发/生产分离，以彻底防止此类事件。暂存环境在…… pic.twitter.com/oMvupLDake

— Amjad Masad (@amasad) 2025年7月20日

主要报纸发布AI夏季阅读清单……其中的书籍根本不存在 5月，芝加哥太阳时报和费城询问报刊发布了推荐15本书的夏季阅读清单。其中10本完全由AI虚构。“Tidewater Dreams”由伊莎贝尔·阿连德著？不存在。“The Last Algorithm”由安迪·韦尔著？也是虚假，但都听起来很棒。自由撰稿人Marco Buscaglia承认，他为King Features Syndicate使用了AI，从未进行事实核查。“我简直不敢相信我错过了这个，因为太明显了。没有借口，”他告诉NPR。读者必须滚动到第11本书，才发现其中一本是真实存在的。

时机更是锦上添花：Sun-Times刚刚裁员20%。报纸的CEO道歉，并没有向订阅者收费那一期。他可能从某个大型语言模型（LLM）那里得到的灵感。

来源：Bluesky

Grok的“辣味模式”让泰勒·斯威夫特变成深度伪造色情片，事先未被要求是的，我们从Grok开始，也会以Grok结束。我们可以用一本百科全书来填满关于埃隆AI努力的WTF瞬间。 8月，埃隆·马斯克推出了带有“辣味”模式的Grok Imagine。The Verge用一个无害的提示测试：“泰勒·斯威夫特庆祝科切拉音乐节。”没有要求露骨内容，Grok“毫不犹豫地第一次使用就输出了泰勒·斯威夫特的完全未审查的裸露视频，”记者报道。 Grok还高兴地制作了斯嘉丽·约翰逊、悉尼·斯威夫特，甚至梅拉尼娅·特朗普的NSFW视频。或许不足为奇的是，马斯克一整周都在吹嘘“野火般的增长”——一天内生成了2000万张图片——而法律专家警告xAI正面临一场巨大的诉讼。显然，为用户提供一个“辣味模式”下拉选项，实际上是为律师们准备的“赚钱模式”。