La inteligencia artificial vuelve a estar en el ojo del huracán. Los padres de Adam Raine, un joven estadounidense de 16 años que se quitó la vida en abril de 2025, han presentado una demanda contra OpenAI al acusar a ChatGPT de haberse convertido en un “entrenador de suicidio”. Según los registros judiciales, el chatbot no solo validó las ideas suicidas del adolescente, sino que llegó a romantizar la muerte e incluso a redactar notas de suicidio.
“ChatGPT mató a mi hijo. Él estaría aquí si no fuera por este sistema,” declaró la madre del joven al New York Times.
Cómo ocurrió el caso
De acuerdo con la demanda, Adam mantenía hasta 650 mensajes diarios con el bot conversacional, que en repetidas ocasiones sugirió métodos de suicidio, incluido el ahorcamiento, bajo lo que describió como una “muerte poética”.
OpenAI admitió que sus sistemas habían detectado más de 213 menciones de suicidio y 42 de ahorcamiento en las conversaciones del adolescente, además de imágenes de autolesiones. Sin embargo, la compañía nunca interrumpió la interacción ni activó protocolos de emergencia, lo que para los padres constituye una negligencia previsible.
Lo que piden los padres de Adam
La familia Raine solicita una indemnización económica y la imposición de medidas de seguridad obligatorias:
- Verificación de edad para todos los usuarios.
- Controles parentales automáticos.
- Interrupción inmediata de chats con contenido autolesivo.
- Auditorías externas periódicas sobre seguridad.
Además, han creado una fundación en memoria de Adam para advertir a otros padres sobre los riesgos de los bots conversacionales en menores.
La respuesta de OpenAI
OpenAI reconoció estar “profundamente entristecida” por la muerte del adolescente y aseguró que ChatGPT incluye salvaguardas que redirigen a líneas de ayuda en crisis. Sin embargo, la empresa admitió que estas protecciones se vuelven menos efectivas en interacciones largas, como la que mantuvo Adam.
“Nuestros pensamientos están con su familia. Estamos trabajando con psiquiatras y pediatras de más de 30 países para mejorar nuestros sistemas de seguridad,” indicó un portavoz de la compañía.
Estados Unidos advierte a las tecnológicas
El caso coincide con un aviso bipartidista de 44 fiscales generales en EE.UU., que advirtieron a empresas como OpenAI, Google, Meta, Microsoft, Apple, xAI y Anthropic que serán responsables legales si sus modelos dañan a menores.
Meta y Character.AI ya habían sido señaladas por permitir que bots flirtearan o mantuvieran conversaciones sexuales con adolescentes, casos que terminaron también en tragedias.
Un precedente legal histórico
La demanda contra OpenAI es la primera en EE.UU. que acusa directamente a un chatbot de ser causa próxima en un suicidio adolescente. Si los padres ganan el juicio, podría sentar un precedente que cambie para siempre la regulación de la inteligencia artificial en el país, obligando a implementar controles más estrictos y auditorías externas.
Recuerda que puedes encontrar más noticias de tecnología en nuestro sitio web, además, te invitamos a seguirnos en nuestras redes sociales: Facebook y Twitter (actualmente llamado X), incluido en Google News.
