إيقاظي من النوم بواسطة الهاتف في وقت مبكر من الصباح ليس بالأمر الجيد أبدًا. هذه المرة كانت أسوأ - فقد خرجت وحدة التداول الذكية لفريق كمي عن السيطرة، وامسحت 12 مجمع التكديس في 10 دقائق. قامت إدارة المخاطر بإيقاف الجزء الأكبر، ولكن لا يزال تم نقل 870,000 دولار إلى الجسور عبر السلسلة.

بعد أن أغلقت الهاتف، كنت أحدق في السقف وأفكر لفترة طويلة. لقد قرأت للتو الوثائق التقنية لـ Kite الأسبوع الماضي، والآن أثبت هذا الأمر بشكل حي مشكلة واحدة: كيف يجب رسم حدود صلاحيات وكيل الذكاء الاصطناعي؟

الوضع الحالي في الحقيقة غريب للغاية. إن منحنا الوكلاء الذكاء الاصطناعي صلاحيات مثل إعطاء كلمة مرور خزنة البنك، وجميع مفاتيح الحسابات، وقائمة التحويلات المسموحة لبرنامج واحد. حادثة Banana Gun التي تم فيها سرقة 3 ملايين دولار، في جوهرها هي نتيجة تصميم صلاحيات خاطئ. لقد تجاوزت الخسائر التراكمية من هذا النوع من الحوادث 230 مليون دولار خلال الستة أشهر الماضية - وهذا الرقم يوضح أن المشكلة ليست حالة فردية.

فكرة حل Kite بسيطة جدًا: لا تتوقع أن يكون الذكاء الاصطناعي دائمًا مطيعًا، بل يجب أن يجعله من حيث البنية "ذو قدرات محدودة".

لقد صمموا نظام هوية من ثلاث طبقات. على سبيل المثال: إذا استأجرت طباخًا ليعد الطعام في منزلك، فلن تعطيه بالتأكيد جميع مفاتيح المنزل. الإجراء المعتاد هو - إصدار بطاقة مؤقتة لفتح باب المطبخ، تكون صالحة فقط خلال ساعات العمل، ويمكنها فتح الثلاجة والموقد فقط، ويتم تسجيل كل دخول وخروج.

بالنسبة لنظام Kite: الهوية الخاصة بالمستخدم هي أنت كمالك المنزل، وهوية الوكيل تعادل شهادة المهنة للطاهي، وهوية المحادثة هي تلك البطاقة المؤقتة المحدودة زمنياً ومكانياً.

أهم شيء هو تصميم "المحادثة" في هذه الطبقة. قبل أن يقوم الذكاء الاصطناعي بتنفيذ مهمة، سيقوم النظام بإنشاء إذن محادثة قصير الأجل -