Anoche a las dos de la madrugada, ayudando a un amigo a investigar un bot de trading cuantitativo que estaba en modo de pánico: claramente estaba ejecutando la estrategia A, pero los logs parecían haber sido manipulados y mostraban la estrategia B. Primero pensamos que era un retraso en la API, luego incluso surgió la duda de si el modelo había sido cambiado. Los mensajes de texto de la bolsa llegaban uno tras otro, el café se enfriaba, y él preguntó: “¿Cómo puedes demostrar que el modelo no ha sido manipulado?” Yo simplemente guardé silencio…

Esta es la razón por la que últimamente estoy atento a @inference_labs: ellos han cambiado “confianza” por “recibo”. JSTprove acaba de actualizarse a la versión v1.4.0, y con ONNX + un solo comando se puede generar una prueba de inferencia zk, una cadena de evidencia verificable. Lo más impresionante es DSperse: validación por fragmentos, solo genera pruebas para puertas de seguridad/detección de anomalías/núcleo privado, con costos controlados.

Los ingenieros de seguridad piensan: cuando el agente realmente comience a gestionar dinero/permiso, lo más importante será explicar claramente “qué he estado ejecutando exactamente”, por encima de cualquier otra cosa.