揭示OpenAI如何差点自毁的证词内部
简而言之
- Ilya Sutskever 准备了一份52页的案件，几乎完全基于来自一个来源—首席技术官 Mira Murati 的未经验证的说法，对 Sam Altman 提起诉讼。
- OpenAI 在危机期间几乎在几天内与竞争对手 Anthropic 合并，董事会成员 Helen Toner 认为摧毁公司可能 “与使命一致”
- 根据伊利亚本人所说，董事会是“匆忙的”和“缺乏经验的”，他在等待有利的董事会动态时，已经计划了至少一年要解除阿特曼的职务。
Decrypt的艺术、时尚和娱乐中心。
深入了解 SCENE
伊利亚·苏茨克维尔在今年10月1日的马斯克诉阿特曼诉讼中进行了近10小时的视频证词。
帮助构建 ChatGPT 的联合创始人因在 2023 年 11 月投票解雇 Sam Altman 而声名狼藉，最终在宣誓下被迫回答。该 365 页的记录本周发布。
这揭示出的是一幅出色科学家做出灾难性治理决策的画像，未经验证的指控被视为事实，以及如此深刻的意识形态分歧，以至于一些董事会成员宁愿摧毁OpenAI，也不愿让它在阿尔特曼的领导下继续下去。
马斯克诉奥特曼的诉讼围绕着埃隆·马斯克声称OpenAI及其首席执行官奥特曼背叛了公司的原始非营利使命，将其研究转变为与微软对齐的营利性风险企业——提出了关于谁控制先进人工智能模型以及它们是否可以在公共利益中安全开发的高风险问题。
对于那些关注OpenAI戏剧的人来说，这份文件是一个令人震惊且令人谴责的阅读。它是一个案例研究，展示了当技术天才与组织无能相遇时，事情是如何出错的。
以下是五个最重要的揭示。
- 公众尚未看到的52页档案
Sutskever 写了一份详细的案子来罢免 Altman，附有截图，并整理成一份 52 页的简报。
Sutskever 作证说他在备忘录中明确表示：“Sam 表现出一种持续的撒谎模式，削弱他的高管，并使他的高管互相对立。”
他使用消失邮件技术将备忘录发送给独立董事，"因为我担心这些备忘录会以某种方式泄露。"完整的简报尚未通过发现程序提供。
这份文件的背景是独立董事会成员要求我准备它。我做到了。我非常小心，"Sutskever作证说，"备忘录的部分内容存在于OpenAI首席技术官Mira Murati制作的截图中。
- 一年一度的棋盘象棋游戏
当被问及他考虑解雇阿特曼有多久时，苏茨克维尔回答说：“至少一年。”
被问及他在等待什么动态时，他说：“董事会的大多数成员显然对山姆并不友好。”
一个控制董事会组成的首席执行官在功能上是不可触及的。Sutskever的证词表明他对此有着完美的理解，并相应地调整了他的策略。
当董事会成员离职造成那个空缺时，他采取了行动。尽管阿特曼和萨茨克弗在公开场合看起来关系密切，但他却在进行长期的董事会政治。
- 周末OpenAI几乎消失了
在2023年11月18日星期六——在阿特曼被解雇后的48小时内——关于将OpenAI与Anthropic合并的讨论正在进行。
根据Sutskever的说法，前OpenAI董事会成员Helen Toner对这一方向是"最支持的"。
如果合并发生，OpenAI 将不再作为独立实体存在。
“我不知道是海伦联系了Anthropic，还是Anthropic联系了海伦，” Sutskever作证说。“但是他们提出了一个与OpenAI合并并接管其领导权的提议。”
Sutskever表示他对此"非常不满"，并补充说他"真的不想让OpenAI与Anthropic合并。"
- “摧毁OpenAI可能与使命一致”
当OpenAI高管警告称公司在没有Altman的情况下会崩溃时，Toner回应说，摧毁OpenAI可能与其安全使命是一致的。
这是危机的意识形态核心。Toner 代表了一种 AI 安全思维，认为快速的 AI 发展是存在性危险的——可能比没有 AI 发展更危险。
“高管们—这是与董事会成员和执行团队的会议—高管们告诉董事会，如果萨姆不回来，那么OpenAI将被摧毁，这与OpenAI的使命不一致，” Sutskever作证道。“而海伦·托纳则说了类似的观点，但我认为她说得更直接一些。”
如果你真的相信 OpenAI 的风险超过了它的好处，那么即将发生的员工反抗就毫无意义。这份声明有助于解释为什么董事会在700多名员工威胁离职的情况下仍然坚持立场。
- 误算：一个来源，一支缺乏经验的董事会和类似于宗教的员工忠诚度
Sutskever的52页备忘录几乎所有内容都来自一个人：Mira Murati。
他没有向布拉德·莱特卡普、格雷格·布洛克曼或投诉中提到的其他高管核实这些说法。他完全信任穆拉蒂，而核实"没有想到(他)。"
"我完全相信米拉给我的信息，"Sutskever说。“事后看来，我意识到我并不知道这一点。但在那时，我认为我知道。但我只是通过间接的知识知道的。”
在被问及董事会的流程时，Sutskever 直言不讳地指出了哪里出了问题。
"我可以说的一件事是，这个过程是匆忙的，"他作证说。“我认为这是因为董事会缺乏经验。”
苏茨克维尔还预计OpenAI的员工会对阿尔特曼的被免职无动于衷。
当770名员工中有700人签署一封信，要求奥特曼回归并威胁要离开去微软时，他感到非常惊讶。他对员工的忠诚度和董事会与组织现实的脱节有根本性的误判。
“我没有想到他们会欢呼，但我也没有想到他们会有强烈的感觉，”Sutskever 说。
