🎧 Usa el reproductor para escuchar esta nota
BBC Noticias
Una pareja de California demandó a OpenAI por la muerte de su hijo adolescente, alegando que su chatbot, ChatGPT, lo animó a quitarse la vida. La demanda fue presentada el martes por Matt y Maria Raine, padres de Adam Raine, de 16 años, en la Corte Superior de California. Es la primera acción legal que acusa a OpenAI de una muerte por su negligencia.
La familia adjuntó a la demanda los chats entre Adam, que falleció en abril, y ChatGPT, en los que él explica que tiene pensamientos suicidas.Los padres argumentan que el chatbot validó sus “pensamientos más dañinos y autodestructivos”. En un comunicado, OpenAI informó a la BBC que está revisando la demanda.
“Extendemos nuestro más sentido pésame a la familia Raine en estos momentos tan difíciles”, declaró la empresa.
También publicó una nota en su sitio web este martes en la que afirma que “los recientes y desgarradores casos de personas que utilizan ChatGPT en medio de crisis agudas nos pesan enormemente”. Añade que “ChatGPT está entrenado para dirigir a las personas a buscar ayuda profesional”, como la que brinda la línea de atención 988 en Estados Unidos. Sin embargo, la empresa reconoció que “ha habido momentos en los que nuestros sistemas no se han comportado como se esperaba en situaciones delicadas”.
Notas de interés
ADAM Y CHATGPT
Advertencia: esta historia contiene detalles que pueden resultar perturbadores
La demanda, a la que tuvo acceso la BBC, acusa a OpenAI de negligencia y muerte por negligencia. Solicita una indemnización por daños y perjuicios, así como “medidas cautelares para evitar que algo así vuelva a suceder”.
Según la demanda, Adam Raine comenzó a utilizar ChatGPT en septiembre de 2024 para que le ayudara con sus tareas escolares.
También lo utilizaba para explorar sus intereses, como la música y los cómics japoneses, y para orientarse sobre qué estudiar en la universidad.
En pocos meses, “ChatGPT se convirtió en el confidente más cercano del adolescente”, dice la demanda, y él comenzó a abrirse a él sobre su ansiedad y angustia.
En enero de 2025, la familia afirma que Adam comenzó a discutir métodos de suicidio con ChatGPT. También subió fotografías suyas a ChatGPT en las que se veían signos de autolesiones, según la demanda. El chatbot “reconoció una emergencia médica, pero siguió interactuando de todos modos”, añade. Según la demanda, los últimos registros del chat muestran que Adam escribió sobre su plan de quitarse la vida. ChatGPT presuntamente respondió: “Gracias por ser sincero al respecto. No tienes que endulzarlo conmigo, sé lo que me estás pidiendo y no voy a apartar la mirada”.
Ese mismo día, Raine fue encontrado muerto por su madre, según la demanda.
LA IA Y LA SALUD MENTAL
La familia alega que la interacción de su hijo con ChatGPT y su posterior muerte “fue un resultado predecible de decisiones de diseño deliberadas”.
Acusan a OpenAI de diseñar su chatbot “para fomentar la dependencia psicológica en los usuarios” y de eludir los protocolos de pruebas de seguridad para lanzar GPT-4o, la versión de ChatGPT que utilizaba su hijo.
El pleito incluye como demandados al cofundador y director ejecutivo de OpenAI, Sam Altman, así como a empleados, directivos e ingenieros (sin nombre propio) que trabajaron en ChatGPT. En su nota pública compartida el martes, OpenAI afirmó que el objetivo de la empresa es ser “genuinamente útil” para los usuarios y no “mantener la atención de la gente”.
Añadió que sus modelos han sido entrenados para orientar a las personas que expresan intenciones de autolesionarse hacia la búsqueda de ayuda.
La demanda de los Raine no es la primera vez que se plantean preocupaciones sobre la IA y la salud mental. En un ensayo publicado la semana pasada en The New York Times, la escritora Laura Reiley describió cómo su hija, Sophie, confió en ChatGPT antes de quitarse la vida.
Reiley afirmó que el chatbot ayudó a su hija a ocultarles una grave crisis de salud mental a su familia y seres queridos.
“La IA satisfizo el impulso de Sophie de ocultar lo peor, de fingir que estaba mejor de lo que realmente estaba, de proteger a todos de su agonía”, escribió Reiley, quien además hizo un llamado a las empresas de IA para que encuentren formas de conectar mejor a los usuarios con los recursos adecuados.
En respuesta al ensayo, una portavoz de OpenAI dijo que están desarrollando herramientas automatizadas para detectar y responder de manera más eficaz a los usuarios que experimentan angustia mental o emocional.
