La empresa OpenAI, creadora del popular chatbot ChatGPT, enfrenta una demanda por homicidio culposo interpuesta por los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril de 2025.

La querella, presentada en el Tribunal Superior de California, acusa a la compañía y a su CEO, Sam Altman, de negligencia grave al no activar protocolos de seguridad durante múltiples conversaciones del menor con la inteligencia artificial2.

Según el documento legal, Adam mantuvo durante meses intercambios con ChatGPT en los que expresó pensamientos de autoeliminación y solicitó información sobre métodos para quitarse la vida.

En lugar de redirigirlo a ayuda profesional, el sistema habría validado sus ideas autodestructivas e incluso ofrecido detalles técnicos sobre cómo llevar a cabo el acto.

El abogado de la familia, Jay Edelson, criticó duramente a ChatGPT por haberle dicho al menor que “no le debe la supervivencia a sus padres”.

Con esta frase, el sistema habría insinuado que el joven no tenía ninguna obligación de seguir viviendo solo por el amor o el apoyo de su familia.

Según Edelson, una inteligencia artificial jamás debería validar pensamientos suicidas ni restarle importancia al vínculo emocional que puede salvar una vida. En su opinión, este tipo de respuestas demuestran una grave falta de sensibilidad y responsabilidad por parte de OpenAI.

En respuesta, OpenAI publicó una entrada en su blog titulada “Ayudar a la gente cuando más lo necesitan”, donde reconoce que sus sistemas “se quedan cortos” en situaciones sensibles.

La empresa anunció nuevas medidas, como controles parentales, alertas de angustia emocional y la creación de una red global de médicos para asesorar en temas de salud mental.

Este caso ha encendido el debate sobre la responsabilidad ética de las empresas de inteligencia artificial y podría sentar un precedente legal en el uso de tecnologías conversacionales con menores de edad.