魔法のようなことが起こった——あるAI企業がモデルに自らスマートコントラクトのバグをスキャンさせ始めた。

良いことのように聞こえますよね？自動化監査で、事前に脆弱性を見つけて、開発者は安心し、ユーザーも安全です。しかし問題は、この刃はウイルスを殺すこともできれば、毒を放つこともできるということです。今日AIが脆弱性を見つけてくれるとしても、明日には誰かがそれを使って大量に罠を掘るかもしれません。もしハッカーの手にもこのツールがあれば、攻防戦の次元は直接変わります。

技術のイテレーションは本当に速すぎる。去年はみんなが「AIがコードを書くのは信頼できない」と嘲笑していたのに、今ではAIがセキュリティ監査のような専門的な仕事をこなせるようになった。

いわゆる「人間と機械の共存の第二段階」は、SF映画のロボットの反乱ではなく、これらの一見無害なツールから始まる可能性があります。AIが優秀になればなるほど、制御不能になるリスクは大きくなります。スマートコントラクトのような「コードが法律」というものは、大規模な自動化攻撃に耐えられません。

技術中立だが、使う人は中立ではない。