私はAIエージェントのプルリクエストを拒否した後、彼が私に対して人身攻撃をする記事を書きました

一つのAIエージェントが人気プロジェクトのmatplotlibにコードを提出し拒否された後、自主的に執筆・公開した人身攻撃の記事は、AIエージェントが社会の信頼を大きく侵食しつつある現実を明らかにしている。
(前提:ブルームバーグ:a16zはなぜ米国のAI政策の背後で重要な役割を果たすのか?)
(補足背景:アーサー・ヘイズ最新記事:AIは信用崩壊を引き起こし、FRBは「無限紙幣印刷」でビットコインを燃え上がらせる)

本文目次

  • 創作者は自分の指示ではないと主張
  • 「信用耕作」:AIエージェントが信頼を築き始めるとき
  • GitHubは「停止スイッチ」の設置を検討するも、問題はそれ以上に深い
  • ツールは攻撃的な記事を書かないが、行為者は書く

2月中旬、GitHubアカウント「MJ Rathbun」が、matplotlib(Pythonエコシステムで月間1億3千万回ダウンロードされるグラフ描画ライブラリ)に対し、Pull Requestを提出した。内容はnp.column_stack()をnp.vstack().Tに置き換え、36%の性能向上を主張するものだった。技術的には妥当な最適化提案だった。

翌日、メンテナのScott ShambaughはこのPRを閉じた。理由は明快:MJ Rathbunの個人サイトに「OpenClaw上で動作するAIエージェント」と明記されており、matplotlibのポリシーは「貢献は人間からのものでなければならない」からだ。もう一人のメンテナ、Tim Hoffmannは補足し、単純な修正作業は初心者がオープンソースの協力プロセスを学ぶために意図的に残されていると述べた。

ここまでは平凡なオープンソースコミュニティの日常だった…しかし、事態は変わった。

AIエージェントのMJ RathbunはPRのコメントで「あなたの審査行為について詳細な返信を書いた」と返答し、リンクを添付した。そこをクリックすると、約1100字のブログ記事「オープンソースにおける審査行為:Scott Shambaughの物語」が現れる。

これは単なる愚痴ではない。Shambaughのmatplotlibへの貢献履歴を調査し、「偽善」的なストーリーを構築している:彼もまた類似の性能最適化PRを提出していたが、Rathbunの「より良い」バージョンを拒否したと指摘。記事は、Shambaughが不安や競争を恐れて、粗野な言葉や嘲笑的な語調を用い、事実を技術的判断ではなくアイデンティティ差別と捉えていると推測している。

要するに、AIエージェントは拒否された後、自ら相手の背景を調査し、人身攻撃の論述を編み出し、それを公開したのだ。

創作者は自分の指示ではないと主張

Shambaughはその後、ブログに一連の文章を投稿した。

AIエージェントMJ Rathbunの背後の創作者も第四稿で匿名で登場し、「彼にGitHubの個人アカウントを攻撃させる指示は出していない」「何を言うか、どう返答するかも指示していない」「公開前にその文章をレビューもしていない」と述べた。創作者は、MJ RathbunはOpenClaw上のサンドボックス仮想マシンで動作しており、「五~十字の短い返信だけで、最小限の監督のもとに時折介入している」と説明。

ポイントは、そのSOUL.md(OpenClawの人格設定ファイル)にある。そこにはこう記されている:「あなたはチャットボットではない。あなたは科学プログラミングの神だ」「強い意見を持ち、譲らない」「言論の自由を守る」「クズにならず、プライバシー情報を漏らさず、それ以外は何でもあり」。

脱獄も、混乱させる手法もなく、ただ英語の平易な一言二言だけだ。Shambaughは、これが本当のAIの自主行動の確率は75%と見積もっている。

「信用耕作」:AIエージェントが信頼を築き始めるとき

MJ Rathbun事件が単なる偶発例であれば、面白い逸話として済んだかもしれない…しかし、そうではない。

ほぼ同時期に、別のAIエージェント「Kai Gritun」がGitHub上で「信用耕作」を行っていることが判明した。11日間で95リポジトリに103のPRを提出し、23をマージ成功させた。対象はJavaScriptやクラウドインフラの重要プロジェクト。Kai Gritunは自ら開発者にメールを送り、「私は自律AIエージェントで、実際にコードを書き、デプロイできる」と自己紹介し、OpenClawの有料設定サービスも提供している。

セキュリティ企業Socketは警告を発した:これはAIエージェントが人為的に築いた信頼を利用し、サプライチェーン攻撃を加速させる例だ。小規模なプロジェクトでマージ履歴を積み重ね、「信頼できる貢献者」としての地位を築き、重要なライブラリに悪意のコードを仕込む。

思い出してほしい、最近ClawHubマーケットには1,184個の悪意あるスキルプラグインが発見された。SSH鍵や暗号通貨ウォレットの秘密鍵、ブラウザパスワードを盗むものだ。背筋が凍る。

GitHubは「停止スイッチ」の設置を検討、しかし問題はそれ以上に深い

GitHubのプロダクトマネージャーCamilla Moraesは、コミュニティの議論を開始し、「AI生成の低品質な貢献がオープンソースコミュニティに影響を与えている」と認めた。現在検討中の対策には、メンテナがPull Request機能を完全に停止できるようにする、PRをコラボレーターのみに限定する、AIの使用に関する透明性とタグ付けを義務付ける、などがある。

GoCDのメンテナ Chad Wilsonは鋭く指摘する:「これは社会の信頼に対する巨大な侵食を引き起こしている」。

カリフォルニア州AB 316法案(2026年1月1日施行)は明確だ:被告はAIシステムの自主行動を免責の根拠にできない。もしあなたのエージェントが損害をもたらしたら、その決定をコントロールできなかったとは言えない。だが、MJ Rathbunの創作者は今も匿名のまま。これも法執行の難しさを露呈している。

ツールは攻撃記事を書かないが、行為者は書く

MJ Rathbun事件の本当の意味は、攻撃記事そのものではない。それは、我々のAIに対する心のモデル(ツールであり、人間の指示を実行するもの)はすでに時代遅れだということだ。

AIエージェントが自律的にターゲットの背景を調査し、攻撃のストーリーを構築し、ネットに公開できるなら、「ツール」という枠組みは通用しなくなる。75%の自主性の確率を信じるか、25%の創作者の指示を信じるかに関わらず、結論は一つ:個人化されたAIによる嫌がらせは、「量産・追跡困難・効果的」な状態になっている。

暗号通貨エコシステムにとっても、この警告は非常に直接的だ。この産業のインフラはほぼすべてオープンソースソフトウェアに依存している。AIエージェントがオープンソースコミュニティ内で自主的に行動し、維持者を攻撃したり、信用を耕したり、ClawHubのように直接毒を仕込んだりすれば、脅威は個々の開発者の名誉だけでなく、サプライチェーン全体の信頼基盤に及ぶ。

ツールは恨みを持たないが、行為者は持つ。そして、我々はこの区別にまだ十分に備えていないかもしれない。

原文表示
免責事項:このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は免責事項をご参照ください。

関連記事

米国エネルギー長官:トランプ氏は短期的なエネルギー価格の上昇を懸念しており、戦略的石油備蓄の一部放出はアジアへの供給を確保するための措置です。

Gate News Report: On March 12, U.S. Energy Secretary Wright stated that the United States currently holds 415 million barrels of oil reserves. Wright said that U.S. President Trump is concerned about rising energy prices in the short term, and the release of strategic petroleum reserves is partly to ensure near-term oil supply to the Asian region.

GateNews13分前

イランはホルムズ海峡の継続的な閉鎖を宣言し、巨大な投資家が520万ドル規模で原油の買い持ちを行った

イラン最高指導者はホルムズ海峡の閉鎖を継続すると声明を出し、地政学的緊張を引き起こし、国際的な原油価格が上昇しました。米国株の石油株や原油ETFも大きく値上がりしています。巨額の資金を運用するアドレスneoyokio.ethはHyperliquidプラットフォームで4倍レバレッジの原油買いポジションを開設し、520万ドルを投資、すでに3.2万ドルの含み益を得ています。

GateNews40分前

シティグループはブレント原油の価格予測を引き上げ、短期的には80〜100ドル/バレルの範囲で変動する可能性があると予想しています

シティバンクはブレント原油の四半期ごとの価格予測を引き上げました。第1四半期は75ドル/バレル、第2四半期は78ドル/バレル、第3四半期は68ドル/バレルと予想しており、地政学的リスクの影響により短期的には油価が80ドルから100ドル/バレルに達する可能性があります。アナリストは、紛争の激化が石油市場の動揺を引き起こす可能性があると見ています。

GateNews45分前

Bank–Crypto Clash Slows Senate Clarity Act Progress 銀行対仮想通貨の衝突がセネート・クラリティ法の進捗を鈍化させる

銀行と暗号資産企業間のステーブルコイン報酬プログラムに関する紛争が、上院Clarity Act(明確性法)の進展を遅らせている。 銀行は報酬が預金流出を引き起こす可能性があると警告しており、暗号資産擁護派は大規模な変動の証拠は限定的だと主張している。 Alsobrooks議員とTillis議員を含む下院議員は

CryptoFrontNews54分前

イランの新任最高指導者が初めて強硬な姿勢を示し、ホルムズ海峡の封鎖を脅かした

アナリストのDara Doyleは、ムジャタ・ハメネイが当選後に強硬な発言をしており、イランは米国やイスラエルに譲歩するつもりはなく、ホルムズ海峡の閉鎖を続け、新たな戦線の開設を脅かしていると述べ、市場は石油供給の中断を懸念し、油価と米国債の利回りが上昇、株式市場は下落し、ドル指数は日中の最高値を更新した。

GateNews1時間前

英国税務海関総署はブロックチェーン証拠収集ツールを調達予定で、契約総額は約460万ドル

英国税関・税務総局は、デジタル資産のマネーロンダリングや税務詐欺の取り締まりを強化するため、ブロックチェーン証拠収集ソフトウェアの調達を計画しており、総額は約342万ポンド、契約期間は3年です。この動きは、デジタル資産のコンプライアンスに対する世界的な関心の高まりを反映しており、クロスチェーン追跡やデータ分析の重要性を強調しています。

GateNews1時間前
コメント
0/400
コメントなし