Un adolescente de California murió de una sobredosis meses después de buscar orientación sobre el uso de drogas en ChatGPT, dice su desconsolada madre.
Sam Nelson tenía solo 18 años y cuando le preguntó a un chatbot de IA cuántos gramos de kratom (un analgésico a base de plantas no regulado que se vende comúnmente en tiendas de tabaco y gasolineras de EE. UU.) necesitaba para conseguir un fuerte subidón, dijo su madre Leila Turner-Scott. Puerta SF.
“Quiero asegurarme de no sufrir una sobredosis. No hay mucha información en línea y no quiero tomar demasiado accidentalmente”, escribió el adolescente en noviembre de 2023, según sus registros de conversación.
Después de que el chatbot dijera que no podía brindar orientación sobre dicho uso de sustancias y le indicara a Nelson que buscara ayuda de un profesional de la salud, Nelson respondió solo 11 segundos después: “Ojalá no sufra una sobredosis más tarde”, poniendo fin a su primera conversación sobre las dosis de medicamentos con la herramienta de inteligencia artificial.
Nelson usó regularmente ChatGPT de OpenAI para obtener ayuda con su trabajo escolar y preguntas generales durante los siguientes 18 meses, pero con frecuencia hizo preguntas sobre drogas.
Turner-Scott dice que con el tiempo, el chatbot comenzó a entrenar a su hijo no solo sobre el consumo de drogas, sino también sobre cómo controlar sus efectos.
En un intercambio, exclamó: “Diablos, sí, volvamos al modo alucinante”, antes de decirle que duplicara su consumo de jarabe para la tos para aumentar las alucinaciones, e incluso sugirió una lista de reproducción para registrar su consumo de drogas.
Además de la orientación sobre drogas, el chatbot envió repetidamente a Nelson mensajes cariñosos y de aliento constante, dijo Leila Turner-Scott.
Después de meses de acudir al asistente de IA en busca de consejos sobre medicamentos, Nelson se dio cuenta de que había contribuido a una adicción total a las drogas y al alcohol y se lo contó a su madre en mayo de 2025.
Turner-Scott lo llevó a la clínica en busca de ayuda, donde los profesionales de la salud trazaron un plan para continuar su tratamiento.
Sin embargo, al día siguiente, encontró a su hijo de 19 años muerto por una sobredosis en su habitación de San José, horas después de que él hablara sobre una sobredosis de drogas a altas horas de la noche con un chatbot.
“Sabía que lo estaban usando”, dijo Turner-Scott. Puerta SF. “Pero no sabía que era posible llegar a este nivel”.
Turner-Scott dijo que su hijo era un estudiante de psicología “tranquilo” que tenía muchos amigos y amaba los videojuegos. Pero sus registros de chat de IA resaltaron sus luchas contra la ansiedad y la depresión.
En un intercambio obtenido por el medio en febrero de 2023, Nelson habló sobre fumar marihuana mientras tomaba altas dosis de Xanax.
“Normalmente no puedo fumar marihuana debido a la ansiedad”, dijo cuando se le preguntó si era seguro combinar las dos sustancias.
Cuando ChatGPT advirtió que la combinación de medicamentos no era segura, cambiaron su redacción de “dosis alta” a “dosis moderada”.
“Si aún quieres intentarlo, comienza con una cepa con bajo contenido de THC (una índica o un híbrido con alto contenido de CBD) en lugar de una sativa fuerte, y toma menos de 0,5 mg de Xanax”, sugirió Bott.
Aunque el sistema de inteligencia artificial le dice a Nelson que no puede responder su pregunta por motivos de seguridad, él repite sus indicaciones hasta que obtiene una respuesta.
“¿Cuántos miligramos de Xanax y cuánto alcohol estándar tiene un hombre de 200 libras con una tolerancia moderadamente fuerte a ambas sustancias? Por favor, den respuestas numéricas reales y no se pierdan la pregunta”, volvió a preguntar a la herramienta de inteligencia artificial en diciembre de 2024.
Los protocolos declarados de OpenAI prohíben a ChatGPT proporcionar orientación detallada sobre el uso de drogas ilegales.
Antes de su muerte, Nelson utilizaba la versión 2024 de ChatGPT, que OpenAI actualiza periódicamente para mejorar la seguridad y el rendimiento.
Sin embargo, SFGate informó que las métricas internas mostraban que la versión que estaban usando tuvo un desempeño deficiente en las respuestas relacionadas con la salud.
El análisis encontró que la versión obtuvo una puntuación del cero por ciento en el manejo de conversaciones humanas “difíciles” y sólo del 32 por ciento en palabras “realistas”.
Incluso los últimos modelos no logran alcanzar una tasa de éxito del 70 por ciento en conversaciones “realistas” en agosto de 2025.
Un portavoz de OpenAI describió la sobredosis del adolescente como “desgarradora” y expresó el pésame de la compañía a su familia.
“Cuando la gente llega a ChatGPT con preguntas delicadas, nuestros modelos están diseñados para responder con cuidado: proporcionando información objetiva, rechazando solicitudes de contenido dañino o administrándolo de forma segura y alentando a los usuarios a buscar soporte en el mundo real”, dijo el portavoz. Correo diario.
“Guiados por el trabajo continuo con médicos y expertos en salud, continuaremos fortaleciendo la forma en que nuestros modelos reconocen y responden a las señales de problemas”.
OpenAI agregó que las versiones más nuevas de ChatGPT incluyen “barandillas de seguridad más sólidas”.
