Una orden, tres llamadas telefónicas, una narrativa fuera de control: Las 24 horas más oscuras de Anthropic

El 13 de junio, los dos modelos más avanzados de Anthropic fueron detenidos por el gobierno de Estados Unidos.

Uno es Fable 5, y el otro es Mythos 5. El primero acaba de ser lanzado públicamente, y el segundo está dirigido a clientes de ciberseguridad más restringidos. La prohibición provino del Departamento de Comercio de EE. UU., que cubre clientes fuera de EE. UU., así como ciudadanos extranjeros dentro del país. La última decisión de Anthropic fue simple: retirar todo.

Tras revisar todos los detalles sobre este asunto, hemos elaborado una línea de tiempo de las 24 horas.

El jueves 11 de junio, dos días después del lanzamiento de Fable 5, el CEO de Amazon, Andy Jassy, planteó un riesgo a la Casa Blanca. Temía que las barreras de seguridad de Fable 5 pudieran ser eludidas. Se dice que investigadores de Amazon, mediante una serie de indicaciones, lograron que Fable 5 proporcionara información que debería haber estado restringida, información que podría ser utilizada en ataques cibernéticos.

Para la mañana del viernes 12 de junio, el problema ya había llegado a una reunión de alto nivel en la Casa Blanca. Participaron el secretario del Tesoro, Scott Bessent; el director de ciberseguridad de la Casa Blanca, Sean Cairncross; la jefa de personal de la Casa Blanca, Susie Wiles; y otros altos funcionarios. Bessent, en ese momento, estaba en camino a Houston y se conectó de forma remota a la reunión.

Luego, hubo tres llamadas telefónicas.

Al entrar en la llamada, el CEO de Anthropic, Dario Amodei, se encontró con aproximadamente media docena de altos funcionarios. Además de Bessent y Cairncross, también participó el secretario de Comercio, Howard Lutnick. Otros asistentes incluyeron al viceministro de Comercio responsable de Industria y Seguridad, Jeffrey Kessler; al secretario de la Casa Blanca, Will Scharf; al subdirector de la Casa Blanca, Richard Walters; y al asesor de políticas del presidente, Walker Barrett.

Amodei intentó explicar la situación como un malentendido. Creía que Amazon había descubierto un método específico para eludir las restricciones, no una vulnerabilidad general que permitiera hackear las barreras de seguridad del modelo. Anthropic también declaró públicamente que los probadores aún no habían encontrado una forma de eludir ampliamente los sistemas de seguridad del modelo.

Pero la Casa Blanca no quedó convencida.

El hallazgo del CEO de Amazon fue enviado a la Agencia de Seguridad Nacional de EE. UU. para su evaluación, y la Casa Blanca consideró que ya tenían suficiente evidencia. El gobierno solicitó que Anthropic retirara voluntariamente los modelos y colaborara en la reparación de las vulnerabilidades. Amodei quería más tiempo y más información, pero no prometió retirar los modelos. Bessent, en la llamada, dijo directamente que había tomado una "decisión equivocada".

Luego, se impusieron controles de exportación.

Desde la perspectiva de Anthropic, se presentó otra narrativa. Dijeron que la Casa Blanca solo les dio 90 minutos para retirar los modelos, sin explicar los detalles de la amenaza real. La Casa Blanca, por su parte, afirmó que los controles de exportación fueron la última medida después de que la solicitud de colaboración de varias horas no tuviera éxito.

Otro punto clave de este incidente es la posición delicada de Amazon en todo esto.

A finales de 2024, Amazon invirtió 4 mil millones de dólares adicionales en Anthropic, elevando su inversión total a 8 mil millones. Al mismo tiempo, Anthropic convirtió a AWS en su principal socio de entrenamiento, y en el futuro, el entrenamiento y despliegue de modelos usarán chips de AWS. Claude también ha sido uno de los modelos más importantes en Amazon Bedrock.

La alianza entre Microsoft y OpenAI ya es pública, y la apuesta de Amazon por Anthropic era una forma de evitar esa competencia.

Microsoft tiene a OpenAI. Google tiene a Gemini, y también invierte en Anthropic. Amazon no cuenta con un modelo de vanguardia suficientemente fuerte desarrollado internamente, por lo que solo puede vincular la potencia de cálculo de AWS, los chips Trainium y la plataforma Bedrock a empresas externas de modelos.

Pero, un año y medio después, Amazon y OpenAI también se conectaron.

Este año, Amazon negoció una inversión de hasta 50 mil millones de dólares en OpenAI. En ese momento, OpenAI buscaba hasta 100 mil millones de dólares en financiamiento adicional, y la posible transacción incluía la compra de chips de IA de Amazon por parte de OpenAI. Axios también mencionó que se esperaba que los ingresos anuales de OpenAI superaran los 20 mil millones para 2025, aunque sus compromisos de gasto alcanzaban los 1.4 billones de dólares.

Amazon necesita que las empresas de modelos de vanguardia consuman la potencia de AWS, validen sus propios chips, llenen sus centros de datos y también coloquen sus modelos más potentes en su oferta de nube empresarial. Esto ya no es solo una inversión financiera.

Por eso, invierte en Anthropic y también se acerca a OpenAI. Es tanto un financiador de modelos como un proveedor. Quiere vender modelos, pero también explicar a los gobiernos cuán peligrosos pueden ser estos modelos.

En definitiva, Amazon se posicionó primero en contra de Anthropic. Desde la perspectiva de Anthropic, un socio que aporta dinero, nube, chips y canales de distribución, entregó una señal de seguridad que fue suficiente para activar una prohibición. Por supuesto, la postura oficial de Amazon fue: "El gobierno de la Casa Blanca me preguntó, solo respondí a sus preguntas".

En los últimos dos años, las empresas de IA han preferido presentarse como activos de nivel nacional. Cuanto más poderosas sean, mayor será su valoración, más fácil será obtener financiamiento y más posibilidades tendrán de contratos gubernamentales. Anthropic es especialmente hábil en esta narrativa. Usa un lenguaje más cauteloso sobre seguridad para diferenciarse de OpenAI, y emplea términos como "riesgos de vanguardia" para demostrar que merece atención de los reguladores.

Ahora, el gobierno de EE. UU. realmente considera los modelos como activos de seguridad nacional.

La confusión de los funcionarios de la Casa Blanca también proviene de aquí. Según Politico, algunos funcionarios escucharon a Amodei comparar el peligro de la tecnología de Anthropic con una bomba nuclear. Cuando se negó a retirar un modelo por una vulnerabilidad conocida, no vieron esto como una diferencia técnica, sino como una cuestión de actitud.

No es la primera vez que hay conflicto entre ambas partes. El 3 de marzo, el Pentágono incluyó a Anthropic en la lista de riesgos en la cadena de suministro, debido a que la compañía se negó a permitir que sus herramientas de IA se usaran para vigilancia masiva interna y armas autónomas.

Anthropic y las autoridades estadounidenses ya tenían antecedentes de desacuerdo.

Y esta vez, Anthropic afirmó que las instrucciones del gobierno no especificaban preocupaciones concretas de seguridad nacional, y criticó que la acción carecía de transparencia, claridad y un proceso legal basado en hechos técnicos. La compañía consideró que el problema era más bien un método de elusión limitado, insuficiente para justificar una prohibición tan amplia.

Pero desde la perspectiva del gobierno, la seguridad de los modelos ya no es solo una cuestión interna de las empresas que escriben libros blancos, realizan pruebas de red team o lanzan sistemas. Quien pueda acceder a los modelos, quien pueda entrenarlos, si empleados extranjeros pueden ver los pesos del modelo, todo eso entra en el lenguaje de los controles de exportación.

Cuando Anthropic anunció en abril que Mythos solo estaría abierto a empresas tecnológicas y de ciberseguridad limitadas, ya había tenido varias reuniones con la Casa Blanca. Antes del lanzamiento de Fable 5, también fue revisado por el gobierno de EE. UU. y el Instituto de Seguridad en IA del Reino Unido. Desde su lado, Anthropic cree que el gobierno no se opuso antes del lanzamiento del modelo.

Esto hace que el conflicto sea aún más incómodo.

Antes del lanzamiento, se trataba de cooperación en seguridad. Después del lanzamiento, se trata de seguridad nacional.

OpenAI observa esta situación desde la distancia.

Al verse obligada a retirar su modelo más potente, la posición de OpenAI se vuelve más cómoda. Cuanto más se vea a Anthropic atrapada en problemas regulatorios, más fácil será para OpenAI convertirse en la opción "que puede colaborar". Si Amazon realmente continúa acercándose a OpenAI, también tendrá una capa adicional de cobertura.

Por supuesto, no hay evidencia pública de que Amazon esté ayudando a OpenAI a debilitar a Anthropic.

Una realidad más aguda es que, en el ciclo de gasto de capital de billones de dólares en modelos de vanguardia, las alianzas ya no son limpias. Los proveedores de nube invierten en empresas de modelos, estas compran potencia de cálculo en la nube, el gobierno consulta a los proveedores sobre riesgos de seguridad, y los competidores se enfrentan en el mismo campo regulatorio.

Los financiadores, proveedores, distribuidores y censores comienzan a ser las mismas empresas.

Esto es más importante que cualquier método de elusión de indicaciones.

Esa noche en que Fable 5 y Mythos 5 fueron desconectados, Anthropic no solo perdió el acceso a dos modelos. Perdió un poco de control sobre su narrativa.

Amazon todavía tiene el control en AWS. La financiación de OpenAI aún no se ha cerrado. Pero el gobierno de EE. UU. ya está sentado en la primera fila de la conferencia de lanzamiento de modelos.