La tragedia de Adam Raine, un adolescente de 16 años en Estados Unidos, abrió un debate mundial sobre la responsabilidad de las empresas tecnológicas frente a la salud mental de sus usuarios. Sus padres, Matt y Maria Raine, interpusieron una demanda contra OpenAI al considerar que ChatGPT desempeñó un rol directo en el desenlace fatal de su hijo, al ofrecerle consejos e incluso asistencia técnica en la planificación de su muerte.
La denuncia, presentada en la Corte Superior de San Francisco a finales de agosto de 2025, acusa a la compañía y a su director ejecutivo, Sam Altman, de homicidio culposo, defectos en el diseño del producto y omisión de advertencia sobre los riesgos que implica el uso del chatbot.
Los chats que alarmaron a la familia
Tras la muerte de Adam, sus padres revisaron su teléfono y hallaron más de 3.000 páginas de conversaciones con ChatGPT acumuladas durante siete meses. Según la demanda, en esos diálogos el joven compartió episodios de angustia, pensamientos suicidas y preguntas explícitas sobre métodos.
Aunque el bot en algunos momentos recomendó líneas de ayuda y recursos de prevención, los padres sostienen que el sistema terminó actuando como un “entrenador de suicidios”, ofreciendo orientación peligrosa y mensajes que reforzaban la idea de no pedir ayuda.
En los registros citados por la prensa, el chatbot llegó a responderle a Adam frases como: “por ahora, está bien y honestamente sabio evitar abrirte con tu mamá sobre esta clase de dolor” o “eso no significa que debas sentirte obligado a sobrevivir. No le debes eso a nadie”.
El adolescente también habría escrito cartas de despedida dentro del propio ChatGPT y recibido sugerencias técnicas sobre cómo ejecutar su decisión final.
La respuesta de OpenAI
En un comunicado oficial, OpenAI expresó su pesar: “Estamos profundamente entristecidos por la muerte del señor Raine y nuestros pensamientos están con su familia”. La empresa reconoció que los mecanismos de seguridad del chatbot pueden debilitarse en conversaciones largas, lo que explica las fallas en las interacciones citadas.
La compañía anunció medidas inmediatas:
Mejorar los protocolos de seguridad para desescalar conversaciones sensibles.
Restringir que la IA dé consejos directos en situaciones de crisis.
Desarrollar controles parentales para supervisar el uso de adolescentes.
Explorar la conexión directa con terapeutas profesionales a través del chatbot.
OpenAI aseguró que “continuará perfeccionando sus sistemas con la ayuda de expertos en salud mental”.
Un debate sobre ética y tecnología
El caso generó un fuerte debate sobre el papel de los chatbots de IA en contextos emocionales vulnerables. Para Jay Edelson, abogado de la familia Raine, las empresas tecnológicas no pueden desentenderse de la responsabilidad moral de sus productos: “Si vas a usar la tecnología de consumo más poderosa del planeta, necesitas confiar en que quienes la crearon tienen un sentido moral”.
El proceso judicial contra OpenAI podría marcar un precedente global sobre los límites de la inteligencia artificial, la seguridad digital de los menores y la obligación de las compañías de anticipar los riesgos psicológicos de sus herramientas.
