Investigadores de Microsoft publican un artículo: si ChatGPT tuviera conciencia, las cabras de Age of Empires 2 también la tendrían.

El científico jefe de Microsoft, Adrian de Wynter, utilizó el editor de mapas personalizados de Age of Empires II para construir un perceptrón de 1 bit con cabras, pasto y puentes del juego, argumentando en su artículo académico titulado «Si los modelos de lenguaje grandes tienen cualidades humanas, entonces Age of Empires II también» que la lógica computacional subyacente de ChatGPT y otros modelos de lenguaje grande (LLM) es esencialmente la misma que el mecanismo de activación de las cabras en el juego.

Implementación técnica de la red neuronal en Age of Empires II: el rol computacional del pasto, los puentes y las cabras

(Fuente: captura de pantalla de CryptoCity)

Wynter utilizó la función de activación de escenarios personalizados de Age of Empires II para construir una compuerta NAND con elementos del juego: el pasto representa el número 0, los puentes representan el número 1 y las cabras actúan como bits. Cuando se activa la compuerta lógica, la cabra que actúa como señal de entrada es eliminada y se genera una nueva cabra en el carril de salida.

A través de este mecanismo, Wynter implementó un perceptrón de 1 bit en el juego, que es el bloque de construcción más básico de las redes neuronales modernas. Wynter afirmó que esta red impulsada por cabras es esencialmente idéntica a la tecnología subyacente que impulsa ChatGPT, diferenciándose solo en complejidad y escala.

Estadísticas de sesgo antropomórfico de Wynter sobre 300 artículos de ciencias de la computación

Wynter analizó más de 300 artículos de ciencias de la computación de los últimos dos años y reveló las siguientes cifras:

· El 57% de los artículos asumió de antemano, al inicio del diseño experimental, que los LLM poseen características humanas como ansiedad o moral.

· De los artículos que asumieron dichas características, el 77% concluyó finalmente que esas características sí existían.

· Wynter calificó este resultado como sesgo de confirmación, afirmando que las suposiciones antropomórficas iniciales de los investigadores determinaron directamente las conclusiones científicas finales.

· Wynter instó a la comunidad científica a realizar experimentos utilizando una hipótesis nula que no presuponga características humanas.

La retórica comercial de los gigantes de la IA y el mecanismo de mercado de la antropomorfización de los LLM

Wynter señaló que las estrategias comerciales de las empresas de IA refuerzan la percepción pública de conciencia en los LLM. Mencionó que los consumidores tienden a pagar más cuando pueden identificarse con un producto, una regla que se aplica desde las tostadoras hasta los servicios de suscripción de LLM.

Wynter citó tres casos en su artículo: el CEO de OpenAI, Sam Altman, ha insinuado en varias ocasiones que construir LLM es un camino hacia una «IA divina»; el ex científico de OpenAI Ilya Sutskever ha hablado con empleados sobre considerar los modelos de la empresa como una «conciencia divina»; y el CEO de Anthropic, Dario Amodei, declaró a los medios que «no puede determinar si la IA tiene conciencia». Todas estas afirmaciones fueron citadas por Wynter en el artículo, no son interpretaciones personales de Wynter sobre la postura de los tres.

Preguntas frecuentes

¿Es el perceptrón de 1 bit que Wynter construyó en Age of Empires II un modelo de IA completo?

Lo que Wynter implementó en el juego es un perceptrón de 1 bit, el bloque de construcción más básico de las redes neuronales modernas, no un modelo de IA completo. El objetivo del artículo es demostrar que la misma lógica computacional subyacente existe tanto en el mecanismo de activación de cabras del juego como en la tecnología subyacente de ChatGPT, explicando así que la percepción de características antropomórficas en ChatGPT proviene principalmente de la interfaz textual y las expectativas psicológicas.

¿Qué significan las estadísticas del 57% y el 77%?

Según el análisis estadístico del artículo de Wynter, de más de 300 artículos de ciencias de la computación de los últimos dos años, el 57% asumió de antemano que los LLM poseen características humanas como ansiedad o moral; de esos artículos, el 77% concluyó finalmente que dichas características sí existían. Wynter interpreta esto como sesgo de confirmación: las suposiciones iniciales de los investigadores influyeron directamente en el diseño experimental y en las conclusiones científicas finales.

¿Cómo describe el escritor de ciencia ficción Ted Chiang el problema de la antropomorfización excesiva de los LLM?

Según la cita del artículo, Ted Chiang escribió que creer ciegamente que los modelos de lenguaje tienen conciencia es como creer que cada vez que abres un archivo de Microsoft Word despiertas a múltiples individuos ocultos en el historial de diálogos, usando esta analogía para ilustrar que la percepción antropomórfica de los LLM es una ilusión cognitiva.