朝方に電話で起こされるのは決して良いことではない。今回はさらに悪いことに——ある量的取引チームのAI取引モジュールが制御を失い、10分で12のステーキングプールを掃き取った。リスク管理が大きな損失を食い止めたが、それでも87万ドルがクロスチェーンブリッジの向こうに流れてしまった。

電話を切った後、私は天井をじっと見つめて長い間考えました。先週Kiteの技術文書を見たばかりなのに、今この事が生々しく一つの問題を証明しました：AIエージェントの権限の境界は一体どう定めるべきなのでしょうか？

現状は実際に非常に荒唐無稽です。私たちがAIエージェントに与える権限は、銀行の金庫のパスワード、すべてのアカウントのプライベートキー、送金ホワイトリストをすべてプログラムに渡すようなものです。Banana Gunの300万ドルの盗難事件は、本質的に権限設計に問題があったということです。この半年間で、この種の事故による累積損失は既に2.3億ドルを超えています——この数字は問題が単なる例外ではないことを示しています。

Kiteの解決策は非常に直接的です：AIが永遠に従うことを期待せず、むしろアーキテクチャのレベルで「能力を制限する」ようにします。

彼らは三層のアイデンティティシステムを設計しました。例えるなら、あなたがシェフを家に呼んで料理をしてもらうとき、家のすべての鍵を彼に渡すことはありません。通常の操作は——一時的なキッチンのドアカードを発行し、勤務時間中のみ有効で、冷蔵庫とコンロのみを開けることができ、出入りのたびに記録が残ります。

Kiteシステムに対応する：ユーザーの身分はあなたという家主であり、代理の身分はシェフの職業資格証明書に相当し、会話の身分はその時間限定・地域限定の一時カードです。

最も重要なのは「会話」というレイヤーの設計です。AIがタスクを実行する前に、システムは短期的な会話権限を生成します——