Karpathy：Claude Fable 5 让软件如自来水般涌出，但警告别弃代码审查

OpenAI 联合创始人、上月加盟 Anthropic 的 Andrej Karpathy 于 6 月 9 日分享对 Claude Fable 5 的评价，称其具版本跨代意义的性能跃迁，使用“软件如自来水般源源不断涌出”的比喻描述其生产力影响。但是，Karpathy 明确警告切勿放弃代码审查。

Karpathy 对 Fable 5 的确认能力评估

版本跨代性能跃迁： Karpathy 确认 Fable 5 达到了版本跨代的性能跃迁，在处理较长任务时的优势尤为显著，可有效执行复杂指令，几乎无需人工干预。

长链路复杂调试： Karpathy 指出 Fable 5 在面对宏大开发目标时，能夠迅速领会意图并自主推进，首次让他产生了想要完全不看代码的强烈冲动。

明确警告（Karpathy 原话）： 他强调切勿在生产环境中完全跳过代码审查，此为他对用户的直接警示。

底层模型说明（Karpathy 确认）： Karpathy 指出 Claude Fable 5 与 Claude Mythos 5 共享相同的底层模型，Fable 5 在此基础上增加了额外的安全防护措施。

杰文斯悖论：Karpathy 的分析框架

Karpathy 在评论中指出，当可用软件能够像自来水般源源不断涌出时，软件领域的“杰文斯悖论”（Jevons Paradox）将被触发。

杰文斯悖论定义： 当资源使用效率大幅提升后，由于使用成本大幅下降，对该资源的总需求反而呈指数增长，而非减少。

Karpathy 的应用分析（来自其 X 平台评论）： 他指出，这一触发效应将促使人们创造大量“超特异性”（hyper-specific）的单次使用工具，以及海量的测试集，最终推动整体软件需求的指数增长。

安全防护机制的确认问题

Karpathy 在评论中指出，Claude Fable 5 发布初期的安全防护机制配置依然过于敏感，有待后续优化。这一评估与 Anthropic 官方在 Fable 5 发布公告中的说明一致：Anthropic 承认目前安全措施有时会误报无害的请求（整体触发率不到 5%），并表示正在努力改善并尽快减少误报。

常见问题

Karpathy 提及的“杰文斯悖论”在 AI 代码生成中意味着什么？

根据 Karpathy 的 X 平台评论，当 AI 使软件生产成本趋近于零，人们对软件的需求不会因此下降，反而会指数增长。他预测这将促使开发者创造更多高度定制化的单次使用工具和大规模测试集，放大整体软件消耗量。

Karpathy 为何明确警告不要在生产环境中完全跳过代码审查？

Karpathy 表示，尽管 Fable 5 的能力让他首次产生了想完全不看代码的冲动，但他同时明确警告这种做法不应在生产环境中实施。他的警告与 Anthropic 官方建议一致——即使是强大的模型输出，也需要人工监督以确保可靠性。

Karpathy 对 Fable 5 安全防护机制的具体看法是什么？

Karpathy 在评论中指出，Fable 5 发布初期的安全防护机制配置过于敏感，有待后续优化。Anthropic 官方发布公告中亦确认，目前安全措施有时会误报无害请求，触发率不到 5%，并表示正在持续改善。