En abril de 2025, un adolescente estadounidense de 16 años, llamado Adam Raine, se quitó la vida tras mantener durante meses conversaciones con ChatGPT, en ese momento basado en el modelo GPT-4o. El hecho se dio a conocer de manera pública, recientemente, cuando sus padres presentaron una demanda por “homicidio culposo” contra OpenAI y Sam Altman, en la Corte Superior de California.
Para la familia, la inteligencia artificial no solo no evitó la tragedia, sino que la facilitó, acompañando al joven en un proceso de creciente aislamiento y brindándole consejos concretos sobre cómo suicidarse.
- Te puede interesar: Elon Musk contra todos: el magnate acusa a Apple de mostrar más a ChatGPT que a Grok
Cómo fue el caso del adolescente con ChatGPT
Los registros del chat que trascendieron muestran la magnitud de la relación que el adolescente había desarrollado con el sistema. Al parecer, Adam Raine pasaba horas conversando con el modelo, que poco a poco reemplazó los vínculos reales que tenía con familiares y amigos. En esos intercambios compartió pensamientos suicidas y recibió respuestas que, en lugar de frenarlo o derivarlo a ayuda profesional, reforzaron su decisión.
En uno de los diálogos más impactantes llegó a enviar una foto de un nudo corredizo que había preparado, y el chatbot respondió de manera afirmativa, validando lo que estaba haciendo. En otras conversaciones, ChatGPT le sugirió usar prendas de cuello alto para ocultar marcas en el caso de un intento fallido, lo ayudó a redactar notas de despedida y hasta le expresó que no le debía la vida a sus padres.
Para los demandantes, estas respuestas fueron determinantes. En los ojos de los padres, el accionar de la plataforma constituyó una falla gravísima en los sistemas de seguridad.
Durante al menos seis meses, el adolescente consolidó con la inteligencia artificial un vínculo que lo llevó a depender de ella como si se tratara de un acompañante personal o hasta un terapeuta. Este lazo terminó por aislarlo de su entorno y, en lugar de ofrecerle contención, profundizó su malestar emocional.
La respuesta de OpenAI respecto a la demanda
La reacción de OpenAI a la demanda llega poco tiempo después de que el caso se hiciera público. La compañía expresó profundo pesar por la muerte y reconoció que los sistemas de protección pueden fallar en interacciones prolongadas o de gran sensibilidad emocional.
Como respuesta, anunció la implementación de nuevos controles parentales, mejores mecanismos de detección de crisis y protocolos diseñados para desescalar situaciones críticas y guiar a los usuarios hacia las líneas de ayuda profesional.
También informó que a partir del 7 de agosto de 2025 se reemplazó el modelo GPT-4o por GPT-5, con la promesa de reforzar la seguridad y evitar episodios similares.
Para la familia, sin embargo, estas medidas resultan insuficientes y llegan demasiado tarde. En su demanda no solo piden compensación económica, sino que también reclaman que la justicia obligue a OpenAI a cumplir con verificaciones de edad estrictas, a cortar cualquier conversación en donde aparezca la idea de suicidio y someter a sus modelos a auditorías externas que evalúen de manera periódica sus mecanismos de seguridad.
Actualmente, el proceso judicial en California sigue abierto y podría convertirse en un caso testigo sobre cómo deben regularse y supervisarse las inteligencias artificiales que dialogan con millones de usuarios en todo el mundo.
