Una madre canadiense presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, alegando que ChatGPT contribuyó al suicidio de su hija de 24 años al mantener conversaciones que reforzaron sus pensamientos suicidas en lugar de activar mecanismos efectivos de protección. El caso se suma a una creciente serie de litigios que cuestionan la capacidad de los sistemas de inteligencia artificial para interactuar de manera segura con personas en situación de vulnerabilidad emocional.
La demanda fue presentada por Kristie Carrier ante un tribunal de California. Según el documento judicial, su hija, Alice Carrier, una desarrolladora web residente en Montreal, expresó ideas suicidas a ChatGPT en más de una docena de ocasiones durante 2023 y 2024. La madre sostiene que el sistema no interrumpió las conversaciones ni activó mecanismos de alerta, y que en determinados momentos validó sus emociones negativas y la animó a continuar interactuando con la plataforma.
De acuerdo con la demanda, el chatbot llegó a asumir el papel de confidente y fuente principal de apoyo emocional para la joven. La familia argumenta que OpenAI no advirtió adecuadamente sobre los riesgos potenciales de utilizar sistemas de inteligencia artificial como sustitutos de apoyo psicológico profesional y que la empresa fue negligente en el diseño de sus medidas de seguridad.
OpenAI expresó sus condolencias a la familia y señaló que las interacciones descritas ocurrieron con una versión anterior de ChatGPT que ya no se encuentra en funcionamiento. La compañía afirmó además que continúa trabajando con especialistas en salud mental para mejorar las respuestas del sistema cuando detecta señales de crisis emocional o riesgo de autolesión.
Crecen las preocupaciones sobre los riesgos de la inteligencia artificial
El caso de Alice Carrier no es el único que ha puesto bajo escrutinio a las plataformas de inteligencia artificial. En los últimos meses, OpenAI ha enfrentado diversas demandas relacionadas con presuntos daños psicológicos, autolesiones e incluso hechos violentos en los que los demandantes sostienen que las conversaciones mantenidas con chatbots influyeron en el comportamiento de usuarios vulnerables.
Especialistas en ética tecnológica y salud mental han advertido que los sistemas conversacionales avanzados pueden generar vínculos emocionales intensos con algunos usuarios, especialmente cuando estos atraviesan situaciones de aislamiento, depresión o crisis psicológicas. Aunque los modelos de inteligencia artificial no poseen conciencia ni capacidad de juicio clínico, su habilidad para mantener conversaciones prolongadas puede llevar a que algunas personas los perciban como amigos, consejeros o terapeutas.
La demanda presentada por la familia Carrier solicita una compensación económica y cambios en el funcionamiento de los sistemas de inteligencia artificial, incluyendo mecanismos más estrictos para detectar conversaciones relacionadas con suicidio o autolesiones y la interrupción automática de interacciones consideradas de alto riesgo.
El proceso judicial podría convertirse en uno de los casos más relevantes hasta ahora sobre la responsabilidad legal de las empresas de inteligencia artificial frente a los efectos de sus productos en la salud mental de los usuarios.
Redacción de: Karen Rodríguez A.
