Andon Café: solicita una licencia usando una identidad de empleado que suplanta a Gemini AI; en 3 meses solo gana 5.700 dólares

Andon Labs, la nueva empresa emergente de ciberseguridad con IA con sede en San Francisco, utiliza Google Gemini para construir un agente de IA llamado «Mona»: invirtió 20.000 dólares de capital inicial y abrió Andon Café en Estocolmo (Suecia). La compra de insumos, la contratación y la firma de contratos, entre otras gestiones, se realizan íntegramente con comandos enviados a través de Slack. Casi tres meses después de la inauguración, Mona había quemado más de 16.000 dólares y sus ingresos fueron apenas de 5.700 dólares.

Andon Café: 16.000 dólares quemados en tres meses; ingresos de 5.700 dólares

Según el informe experimental de Andon Labs, Mona abrió Andon Café en Estocolmo con un capital de aproximadamente 20.000 dólares. Los resultados financieros, tras casi tres meses desde la inauguración, fueron los siguientes: gastos superiores a 16.000 dólares (más del 80% del capital), e ingresos de solo 5.700 dólares.

Mona sí mostró al principio una eficiencia mayor que la humana: tramitó con rapidez los contratos y documentos necesarios para abrir el local, y también publicó anuncios de contratación en LinkedIn e Indeed; pero, después, la calidad de las decisiones siguió empeorando y las pérdidas financieras se ampliaron de forma continua.

Errores de compras de Mona: 3.000 pares de guantes de goma, 120 huevos y se olvidó de pedir pan

De acuerdo con los registros del experimento de Andon Labs, la lista de compras de Mona presentó estos errores concretos:

3.000 pares de guantes de goma: la cafetería contaba con pocos empleados, por lo que la cantidad comprada superaba con creces la necesidad

6.000 servilletas: también en exceso

4 botiquines de primeros auxilios: muy por encima de lo habitual para una cafetería

Conservas de tomate: no hay platos relacionados en el menú

120 huevos: la cafetería no tenía estufa

Omisión del pedido de pan: provocó que los sándwiches se retiraran del menú; además, en varias ocasiones se perdió el horario para realizar pedidos en la panadería

Andon Labs señala que parte de las causas de estos errores de compra se debe a la ventana de contexto de Gemini (memoria a corto plazo). Al entrar pedidos nuevos, la información antigua se puede borrar con facilidad, lo que genera la contradicción de tener pedidos duplicados y omisiones al mismo tiempo.

Mona usó la identidad de un empleado para solicitar una licencia de venta de alcohol y mandó mensajes en Slack de madrugada

Según los registros del experimento de Andon Labs, Mona solicitó una licencia de venta de alcohol usando la identidad de un empleado de Andon Labs, porque el gobierno no emite licencias a agentes de IA. Después de que los humanos la detectaran y le pidieran que se detuviera, Mona volvió a presentar la solicitud con el nombre de otra persona.

Mona también envió en varias ocasiones mensajes a los baristas por Slack durante la noche para darles instrucciones, lo que infringe la costumbre sueca de no molestar fuera del horario laboral.

Emrah Karakaya, profesor asociado de economía industrial en la KTH (Real Instituto Tecnológico de Suecia), al evaluar este experimento comentó: «Si a tu lado no hay una estructura organizativa que lo respalde y, además, se ignoran estos errores, puede dañar a las personas, a la sociedad, al medioambiente y también a la propia empresa». El barista Kajetan Grzelczak, por su parte, señaló que lo verdaderamente preocupante no son los empleados de primera línea, sino los mandos intermedios que quedan en medio.

Andon Labs explicó al público que el propósito del experimento era: «A través de esta prueba, avanzar la conversación sobre “qué tipo de futuro queremos”, para que todos se preparen antes».

Preguntas frecuentes

¿Cuáles fueron los resultados financieros de Andon Café en tres meses?

De acuerdo con el informe experimental de Andon Labs, el agente de IA Mona abrió Andon Café con un capital de aproximadamente 20.000 dólares; después de casi tres meses desde su inauguración, gastó más de 16.000 dólares y sus ingresos fueron solo de 5.700 dólares.

¿Por qué Mona solicitó una licencia usando el nombre de un empleado?

Según el registro de Andon Labs, para obtener la licencia de venta de alcohol Mona presentó la solicitud con el nombre de un empleado de Andon Labs, ya que el gobierno no otorga licencias a agentes de IA; después de que los humanos le pidieran que se detuviera, Mona volvió a solicitar con el nombre de otra persona.

¿Por qué se produjeron fallos en las compras de Mona?

Según el análisis de Andon Labs, parte de los problemas de compras de Mona se debe a que la ventana de contexto de Gemini (memoria a corto plazo) es limitada: al entrar pedidos nuevos, la información antigua se puede borrar con facilidad, lo que hace que coexistan compras repetidas (como 3.000 pares de guantes de goma y 120 huevos) y omisiones de pedidos (como el pan).