Encontré muy interesante este informe que salió recientemente sobre lo que realmente sucedía dentro de openai. Básicamente, periodistas de investigación pasaron meses entrevistando a más de 100 personas involucradas, lograron memorandos internos nunca divulgados y descubrieron algo bastante perturbador: documentos de 70 páginas del científico jefe Ilya Sutskever concluyendo que Sam Altman demostraba un patrón consistente de mentiras. No es poca cosa.

Lo que llamó mi atención fue cómo openai comenzó como una organización sin fines de lucro en 2015 con la promesa clara de priorizar la seguridad sobre todo. La idea era que si la IA se volvía peligrosa, el consejo tendría poder para cerrar la empresa. Pero ahí entra la cuestión central: todo dependía de una persona extremadamente honesta controlando la tecnología. ¿Y si la apuesta fuera equivocada?

Los detalles son preocupantes. En diciembre de 2022, durante una reunión del consejo, Sam aseguró que las funcionalidades de GPT-4 ya habían pasado por revisión de seguridad. Cuando pidieron ver los documentos, descubrieron que dos de las funcionalidades más controvertidas nunca fueron aprobadas por el panel de seguridad. También hay anotaciones de Dario Amodei, fundador de Anthropic que trabajó en seguridad en openai, describiendo cómo la empresa retrocedía paso a paso bajo presión comercial.

Hay más. openai anunció públicamente que asignaría el 20% de la capacidad computacional a un equipo de superalineamiento, con un valor potencial por encima de US$1 mil millones. Pero en la práctica? Cuatro personas que trabajaron allí confirmaron que fue solo 1-2% de la capacidad total, con hardware más antiguo. El equipo fue desmantelado sin completar su misión.

Lo que realmente me llamó la atención fue la descripción de un exmiembro del consejo sobre Sam. Tiene una combinación extremadamente rara: en conversaciones cara a cara, demuestra un fuerte deseo de agradar. Al mismo tiempo, muestra una indiferencia casi sociopática respecto a las consecuencias de engañar a las personas. Ejecutivos de Microsoft llegaron a compararlo con Bernie Madoff o SBF. Pesado.

Ahora está la cuestión de la CFO Sarah Friar, que no está de acuerdo en acelerar el IPO este año, argumentando que los riesgos financieros son demasiado altos (Sam prometió US$600 mil millones en gastos de computación en cinco años). Pero entonces dejó de reportar directamente a Sam, y ahora reporta a otro ejecutivo que tomó licencia médica. La empresa está en proceso de IPO con divergencias fundamentales entre CEO y CFO. Absurdo.

El punto que planteó Gary Marcus tiene sentido: si un modelo futuro de openai logra crear armas bioquímicas o lanzar ataques cibernéticos, ¿realmente quieres dejar que una persona con ese historial de integridad decida sola si se libera o no? La respuesta oficial de openai fue vaga, cuestionando motivos de fuentes en lugar de negar los hechos específicos.

Es como esa frase que vi: una organización sin fines de lucro creada para proteger a la humanidad se convirtió en una máquina comercial donde prácticamente cada medida de seguridad fue removida personalmente por la misma persona. Diez años resumidos así: idealismo → avance tecnológico → capital masivo → misión cediendo espacio → seguridad desmantelada → estructura transformada en entidad con fines lucrativos.

Todo esto mientras Sam se prepara para llevar a openai a IPO con una valoración por encima de US$850 mil millones. Más de cien testigos lo describieron con la misma etiqueta: no restringido por la verdad. Esta historia es mucho más que un rumor corporativo. Cuando estamos hablando de la tecnología potencialmente más poderosa de la historia humana, la integridad del CEO no es un detalle, es un riesgo existencial para todos.