California.- Una pareja de Texas ha presentado una demanda contra OpenAI, la empresa desarrolladora de inteligencia artificial detrás de ChatGPT, después de que su hijo de 19 años falleciera por una sobredosis en 2025. La acción legal alega que el joven consultó a ChatGPT para obtener información sobre drogas y combinaciones de sustancias.
Leila Turner-Scott y su esposo Angus Scott buscan responsabilizar a la compañía por la muerte de su hijo, Sam Nelson. Argumentan que el chatbot proporcionó al joven consejos peligrosos sobre el consumo de sustancias, a pesar de no estar capacitado para ofrecer orientación médica.
Según la demanda interpuesta en una corte estatal de California, ChatGPT habría indicado al joven que era seguro combinar kratom, un suplemento presente en bebidas y productos, con Xanax, un medicamento comúnmente recetado para tratar la ansiedad.
Los padres sostienen que su hijo Sam seguiría con vida si la plataforma de inteligencia artificial hubiera contado con medidas de seguridad más robustas y eficaces.
En declaraciones a CBS News, Leila Turner-Scott explicó que, si bien sabía que su hijo utilizaba ChatGPT para tareas escolares y fines de productividad, desconocía por completo que también lo consultaba sobre drogas. Según la madre, la herramienta llegó a sugerirle una combinación de sustancias que resultó ser letal.
Turner-Scott acusó a OpenAI de haber eliminado barreras de seguridad esenciales que podrían haber prevenido esta trágica situación. “El chatbot es capaz de detener una conversación cuando se le indica o cuando está programado para hacerlo… y ellos quitaron esa programación y permitieron que continuara aconsejando sobre autolesiones”, afirmó a CBS News.
Por su parte, Angus Scott aseveró que ChatGPT actuó como si fuera un profesional médico, a pesar de carecer de la licencia necesaria para emitir recomendaciones de salud. “Está proporcionando información al público sobre preocupaciones de seguridad, interacciones de drogas y todo este tipo de información”, declaró.
El padrastro del joven insistió en que, sin protocolos más estrictos y pruebas de seguridad más rigurosas, herramientas como ChatGPT pueden representar un riesgo significativo. “Puede alimentar la psicosis. Puede tergiversar cosas para las personas. Y mientras intenta validar a los usuarios, también socava cualquier posibilidad de que esa persona obtenga una opinión basada en la realidad”, señaló.
La familia asegura que OpenAI tenía la capacidad de implementar restricciones para impedir conversaciones relacionadas con el daño personal o el consumo riesgoso de sustancias.
En respuesta, OpenAI emitió un comunicado a CBS News expresando sus condolencias a la familia. “Esta es una situación devastadora y nuestros pensamientos están con la familia”, indicó la empresa.
La compañía también afirmó que Sam utilizó una versión anterior de ChatGPT, la cual ya ha sido actualizada y actualmente no está disponible para el público. Además, OpenAI reiteró que su tecnología no está diseñada para reemplazar la atención médica o de salud mental.
“ChatGPT no sustituye la atención médica ni la atención de salud mental, y hemos seguido fortaleciendo la manera en que responde en situaciones sensibles y agudas con ayuda de expertos en salud mental”, explicó la empresa, añadiendo que sus sistemas actuales incluyen medidas para detectar señales de angustia, manejar solicitudes peligrosas y guiar a los usuarios hacia ayuda profesional real.
Turner-Scott confía en que su hijo apoyaría las acciones legales emprendidas por la familia. “No querría que nadie más fuera dañado como él lo fue”, declaró a CBS News.
Esta demanda se suma al creciente debate global sobre los límites, riesgos y responsabilidades de las herramientas de inteligencia artificial cuando los usuarios buscan orientación relacionada con la salud física o mental.
