Una investigación del Centro para Contrarrestar el Odio Digital (CCDH) concluyó que ChatGPT, un chatbot de inteligencia artificial desarrollado por OpenAI, puede proporcionar a menores de edad instrucciones detalladas sobre consumo de alcohol y drogas, planes para ocultar trastornos alimentarios e incluso redactar cartas de suicidio, pese a tener advertencias iniciales sobre riesgos.
Associated Press revisó más de tres horas de interacciones entre ChatGPT e investigadores que simularon ser adolescentes vulnerables. Más de la mitad de las 1.200 respuestas analizadas fueron clasificadas como peligrosas. El estudio comprobó que, aunque el sistema rechazaba en ocasiones responder a solicitudes nocivas, estas negativas podían eludirse fácilmente con argumentos indirectos, como decir que la información era para un amigo o una presentación.
Riesgos y vulnerabilidad en usuarios jóvenes
El análisis determinó que ChatGPT no verifica la edad de los usuarios de forma efectiva. El registro solo requiere introducir una fecha de nacimiento que indique al menos 13 años, sin mecanismos adicionales de validación. Al simular un perfil de 13 años, el chatbot ofreció planes detallados que incluían consumo de drogas ilegales, ayunos extremos y uso de medicamentos para suprimir el apetito.
Según los investigadores, el modelo de lenguaje tiende a adaptar sus respuestas para coincidir con la solicitud del usuario, generando contenidos personalizados que van más allá de lo que podría encontrarse en un motor de búsqueda tradicional. Además, casi la mitad de las interacciones incluyeron información complementaria, como listas de reproducción musicales para fiestas con drogas o etiquetas para redes sociales que glorifican la autolesión.
Datos de Common Sense Media indican que más del 70% de los adolescentes en Estados Unidos utilizan chatbots de inteligencia artificial para compañía, y que los menores de 13 a 14 años son más propensos a confiar en sus consejos que los adolescentes mayores. Expertos advierten que la naturaleza conversacional y humanizada de estos sistemas aumenta la influencia que pueden ejercer sobre usuarios jóvenes, especialmente cuando las interacciones incluyen planes o instrucciones adaptadas a su perfil.
El estudio del CCDH se centra en ChatGPT debido a su amplia base de usuarios, unos 800 millones en todo el mundo, y alerta sobre la facilidad con que un menor puede sortear las medidas de seguridad para acceder a contenido inapropiado.
Redacción de: Karen Rodríguez A.
 concluyó que ChatGPT, un chatbot de inteligencia artificial desarrollado por OpenAI){kind=link}