在 2026 年世界 AI（人工智慧）會議上，與會者包含 Xue Lan（清華大學 AI 治理研究院院長）、Nicholas B. Dirks（紐約科學院總裁兼執行長（CEO））以及 Mark Nitzberg（UC Berkeley 人類相容 AI 中心執行董事），針對 AI Agent（AI 代理）治理進行討論。根據該小組的說法，AI 正從「輔助判斷」轉向「自主行動」，因此必須在開發者、部署者與監管者之間擴大責任鏈。
與會者達成共識：凡是涉及生死攸關後果的決策、在錯誤一旦發生就無法修正的情境，以及所有牽涉倫理與價值判斷的事項，都必須絕不由 AI 主導。人類可以授權 AI 行動，但不能轉嫁責任。每一次授權都應可撤回、每一次行動都應可追溯；同時，授予行動代理權的節奏絕不能超過驗證 AI 能力的節奏。
