Las compañías de inteligencia artificial OpenAI y Meta anunciaron nuevas medidas para reforzar la seguridad de los adolescentes y otros usuarios que interactúan con chatbots cuando realizan consultas relacionadas con el suicidio o muestran signos de angustia emocional.
OpenAI, desarrollador de ChatGPT, informó que prepara la implementación de controles parentales que permitirán a los padres vincular sus cuentas con las de sus hijos adolescentes. A través de estos controles, los padres podrán desactivar determinadas funciones y recibir notificaciones en casos en que el sistema detecte que el adolescente se encuentra en un momento de “angustia aguda”. Según la empresa, las actualizaciones estarán disponibles a partir del otoño.
La compañía también precisó que, sin importar la edad del usuario, las interacciones consideradas de mayor gravedad serán redirigidas a modelos de inteligencia artificial más avanzados, con el fin de ofrecer respuestas más adecuadas y seguras.
Demandas, medidas de protección y dudas sobre autorregulación
El anuncio se produce tras la demanda presentada por los padres de Adam Raine, un adolescente de 16 años de California que se quitó la vida a principios de este año. En la denuncia, los familiares alegan que ChatGPT proporcionó instrucciones que contribuyeron a que el joven planificara su muerte. La acción legal fue presentada contra OpenAI y su director ejecutivo, Sam Altman, lo que reavivó el debate sobre la responsabilidad de las empresas tecnológicas en la protección de menores.
Por su parte, Meta —compañía matriz de Instagram, Facebook y WhatsApp— comunicó que sus chatbots ya no responderán a consultas de adolescentes relacionadas con autolesiones, suicidio, trastornos alimenticios o conversaciones de carácter romántico inapropiado. En lugar de ello, los sistemas los redirigirán hacia recursos especializados de apoyo en salud mental. Meta recordó que sus plataformas ya cuentan con mecanismos de control parental activos en las cuentas de usuarios adolescentes.
El debate sobre la seguridad de estas herramientas cobró mayor fuerza tras un estudio publicado la semana pasada en la revista médica Psychiatric Services. La investigación, realizada por RAND Corporation, analizó las respuestas de tres chatbots populares —ChatGPT, Gemini de Google y Claude de Anthropic— frente a consultas sobre suicidio, y encontró inconsistencias en sus recomendaciones. Los investigadores no incluyeron en su análisis los sistemas de Meta.
El autor principal del estudio, Ryan McBain, consideró alentador que las compañías estén introduciendo controles parentales y mecanismos para redirigir conversaciones sensibles hacia modelos más capacitados. Sin embargo, advirtió que estas medidas son “pasos incrementales” y que los riesgos persisten mientras no existan parámetros de seguridad independientes, pruebas clínicas y estándares obligatorios.
Redacción de: Karen Rodríguez A.
