El impulso de OpenAI’s ChatGPT Health plantea preguntas sobre la seguridad de los datos

En resumen

• OpenAI dice que ChatGPT Health se lanzará a usuarios seleccionados a partir de esta semana, con un acceso más amplio planeado en las próximas semanas.
• La función almacena las conversaciones de salud por separado de otros chats y no las utiliza para entrenar los modelos de OpenAI.
• Los defensores de la privacidad advierten que los datos de salud compartidos con herramientas de IA a menudo quedan fuera de las leyes de privacidad médica de EE. UU.

El miércoles, OpenAI anunció una nueva función en ChatGPT, que permite a los usuarios conectar registros médicos y datos de bienestar, lo que ha generado preocupaciones entre algunos expertos y grupos de defensa sobre el uso de datos personales. El gigante de la IA con sede en San Francisco, California, dijo que la herramienta, llamada ChatGPT Health, desarrollada con médicos, está diseñada para apoyar la atención en lugar de diagnosticar o tratar enfermedades. La compañía la presenta como una forma de ayudar a los usuarios a entender mejor su salud. Para muchos usuarios, ChatGPT ya se ha convertido en la plataforma de referencia para preguntas sobre atención médica y salud mental. 

OpenAI dijo a Decrypt que ChatGPT Health solo comparte información general y “factual sobre la salud” y no proporciona “asesoramiento médico personalizado o inseguro.” Para preguntas de mayor riesgo, ofrecerá información de alto nivel, señalará riesgos potenciales y alentará a las personas a hablar con un farmacéutico o proveedor de atención médica que conozca su situación específica. La medida sigue poco después de que la compañía informara en octubre que más de 1 millón de usuarios discuten sobre suicidio con el chatbot cada semana. Eso representaba aproximadamente el 0,15 % de todos los usuarios de ChatGPT en ese momento. Aunque esas cifras representan una proporción relativamente pequeña del total de usuarios, la mayoría deberá abordar preocupaciones de seguridad y privacidad de datos, dicen los expertos.

“Incluso cuando las empresas afirman tener salvaguardas de privacidad, los consumidores a menudo carecen de un consentimiento significativo, transparencia o control sobre cómo se usan, almacenan o reutilizan sus datos,” dijo J.B. Branch, defensor de la responsabilidad en las grandes tecnológicas de Public Citizen, a Decrypt. “Los datos de salud son especialmente sensibles, y sin límites legales claros y supervisión aplicable, las salvaguardas autoadministradas simplemente no son suficientes para proteger a las personas de un uso indebido, reidentificación o daños posteriores.” OpenAI afirmó en su declaración que los datos de salud en ChatGPT Health están encriptados por defecto, almacenados por separado de otros chats y no se utilizan para entrenar sus modelos base. Según Andrew Crawford, asesor principal de políticas del Center for Democracy and Technology, muchos usuarios asumen erróneamente que los datos de salud están protegidos por su sensibilidad, en lugar de por quién los posee. “Cuando tus datos de salud los tiene tu médico o tu aseguradora, se aplican las reglas de privacidad HIPAA,” dijo Crawford a Decrypt. “Lo mismo no ocurre con entidades que no están cubiertas por HIPAA, como desarrolladores de aplicaciones de salud, rastreadores de salud portátiles o empresas de IA.” Crawford afirmó que el lanzamiento de ChatGPT Health también subraya cómo la responsabilidad recae en los consumidores en ausencia de una ley federal integral de privacidad que regule los datos de salud en manos de las empresas tecnológicas. “Es una lástima que nuestras leyes y regulaciones federales actuales pongan esa carga en los consumidores individuales para analizar si están cómodos con cómo la tecnología que usan todos los días maneja y comparte sus datos,” dijo. OpenAI dijo que ChatGPT Health se lanzará primero a un pequeño grupo de usuarios. La lista de espera está abierta a usuarios de ChatGPT fuera de la Unión Europea y el Reino Unido, con un acceso más amplio planeado en las próximas semanas en web y iOS. El anuncio de OpenAI no mencionó a Google ni a dispositivos Android.