AI 新聞:OpenAI 正在付費給研究人員以找出「可能出錯的地方」——但它內部的安全團隊已經不在了

Cryptonews

本週《OpenAI》釋出的 AI 新聞有一個銳利的角度:該公司推出一項付費「安全研究員(Safety Fellowship)」計畫,向外部研究人員提供每週 3,850 美元的津貼,研究先進 AI 可能出現的問題 — 此消息是在《紐約客》一篇調查報導之後數小時內發布;該報導稱 OpenAI 已解散其內部安全團隊,並且悄悄地把其 IRS 使命宣言中的「safely」一詞移除。
摘要

  • OpenAI 安全研究員獎學金(OpenAI Safety Fellowship)於 4 月 6 日宣布,期間為 2026 年 9 月 14 日至 2027 年 2 月 5 日;研究員每週獲得 3,850 美元津貼、每月約 15,000 美元的運算資源,並獲得來自 OpenAI 研究人員的指導,但不會獲得公司的內部系統存取權
  • 優先研究領域包括:安全評估、倫理、穩健性、可擴展的緩解措施、隱私保護方法、能動式(agentic)監督,以及高嚴重度的濫用 — 申請截至 5 月 3 日,研究員名單將於 7 月 25 日前公布
  • 《紐約客》的 Ronan Farrow 在同一週報導稱,OpenAI 自 2024 年起已解散其超對齊(superalignment)團隊、AGI Readiness 團隊,以及 Mission Alignment 團隊;並且指出,一位 OpenAI 代表在回應一名記者詢問「關於存在性安全研究人員」時說:「你說的存在性安全是什麼?那不是一回事,就像……並不存在那樣的東西。」

OpenAI 於 4 月 6 日宣布該獎學金,稱其為「一項試點計畫,用於支持獨立的安全與對齊(alignment)研究,並培育下一代人才」。該計畫每週支付 3,850 美元,年化超過 200,000 美元,此外還提供每月約 15,000 美元的運算資源和來自 OpenAI 研究人員的指導。研究員可在 Constellation 的伯克利(Berkeley)工作空間工作,或遠端工作,申請截至 5 月 3 日。該獎學金並不限於 AI 專家 — OpenAI 正從資安(cybersecurity)、社會科學,以及人機互動(human-computer interaction)招募人才,除了電腦科學之外。

AI News:OpenAI 推出安全研究員獎學金,因其內部安全團隊已不在

時機才是重點。《紐約客》中 Ronan Farrow 同日發表的調查,記錄了 OpenAI 在 22 個月內解散了三個連續的內部安全組織。超對齊團隊於 2024 年 5 月在共同負責人 Ilya Sutskever 與 Jan Leike 離職後被叫停。Leike 在離開前寫道:「安全文化與流程已把位子讓給了閃亮的產品(shiny products)。」AGI Readiness 團隊隨後於 2024 年 10 月解散。Mission Alignment 團隊則在 2026 年 2 月僅 16 個月後被解散。《紐約客》也報導,當一名記者詢問能否與 OpenAI 的存在性安全研究人員對話時,一位公司代表回應:「你說的存在性安全是什麼?那不是一回事,就像……並不存在那樣的東西。」

該獎學金明確表示不會取代內部基礎設施。研究員將獲得 API 代幣(credits)與運算資源,但不具備系統存取權,因此該計畫定位為「在距離感(arm’s-length)之下提供的研究資助」,而非對已解散團隊的重建。

研究員必須產出的內容要求為何

研究議程涵蓋七個優先領域:安全評估、倫理、穩健性、可擴展的緩解措施、隱私保護的安全方法、能動式(agentic)監督,以及高嚴重度濫用領域。到 2027 年 2 月計畫結束時,每位研究員都必須產出實質成果 — 一篇論文、基準(benchmark)或資料集。並不要求特定的學術資歷;OpenAI 表示其優先考量研究能力、技術判斷以及執行(execution)的能力。

為何這件事不只關乎 AI 產業之外

正如 crypto.news 所報導,外界對前沿 AI 公司所宣稱的安全承諾的信心是一個市場訊號,會影響資本配置,涵蓋 AI 基礎設施、AI 代幣,以及位於加密與人工智慧交會處的 DePIN 與 AI agent 協議。正如 crypto.news 所指出的,投資人會密切追蹤 OpenAI 的支出走勢,以及其營運層級優先事項的可信度 — 而這是一個與區塊鏈式系統重疊度正在增長的產業領域。到 2027 年初,第一批研究員的研究將開始回答一個問題:在沒有內部存取權的情況下,外部研究員是否能夠在實質上影響模型的研發。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明
留言
0/400
暫無留言