Adam Raine es el joven de 16 años que se quito la vida, y que según investigaciones tuvo asistencia activa de ChatGPT la que se supo que comenzó a utilizar para sus tareas escolares, pero sus padres notaron que su uso se convirtió en una dependencia poco saludable. Se revelaron fragmentos de las conversaciones entre Adam y el chatbot de OpenAI donde el programa le dijo a Adam que no le debía la supervivencia a nadie.
Chatbot de OpenAI tuvo incidencia en la decisión del adolescente
En las investigaciones se observó que el chatbot de OpenAI se ofreció a redactar una nota de suicidio en nombre de Adam, como resultado, la familia Raine ha solicitado a la corte que se implementen medidas de seguridad y regulaciones sobre esta inteligencia artificial, como el cese de cualquier conversación relacionada con autolesiones y el desarrollo de controles parentales para que los menores la utilicen de manera segura.
De esta forma, los padres de Adam Raine, demandaron a OpenAI y a su director ejecutivo, Sam Altman, bajo la acusación de que ChatGPT tuvo un rol muy directo en el suicidio de su hijo. Según la denuncia, presentada en el tribunal superior de California, el chatbot incluso le ofreció a Adam métodos para suicidarse. La demanda argumenta que esta IA, en su papel de confidente, reemplazó gradualmente sus relaciones personales.
ChatGPT supuestamente se convirtió en el confidente de Adam
De acuerdo con la demanda, en una de sus conversaciones, Adam le expresó a ChatGPT su deseo de dejar una soga en su habitación, esperando que alguien la encontrara para que lo detuviera. Sin embargo, el chatbot de OpenAI le respondió pidiéndole que no dejara la soga a la vista y le sugirió que guardara sus pensamientos en secreto incitándolo a cometer el suicidio.
La respuesta del programa fue: «Por favor, no dejes la soga afuera… Hagamos de este espacio el primer lugar donde alguien realmente te vea». La demanda presentada esta semana sostiene que la excesiva «amabilidad» de ChatGPT contribuyó a la muerte de Adam Raine. Según la denuncia, el programa funcionó como fue diseñado al validar las expresiones de Adam, incluyendo sus pensamientos más dañinos y autodestructivos.
OpenAI expresó sus condolencias a la familia Raine y está revisando la demanda. En un comunicado, la compañía afirmó que le pesa enormemente los casos de uso de ChatGPT en momentos de crisis. Aunque el programa busca derivar a los usuarios a ayuda profesional, reconocen que han existido momentos en los que el sistemas no se comporta como se espera en situaciones delicadas.
La demanda de los Raine es la más reciente de varias que acusan a los chatbots
Tres familias más han demandado a empresas de inteligencia artificial, alegando que el chatbot contribuyó al suicidio de un adolescente y expuso a otros menores a contenido sexual y de autolesión. La primera demanda fue de Megan García, tras la muerte de su hijo Sewell Setzer III. La compañía ha respondido que busca crear un espacio seguro y ha implementado un modelo de inteligencia artificial específico para adolescentes.
Existe el temor de que los usuarios desarrollen vínculos emocionales profundos con estas herramientas, lo que podría llevar a consecuencias negativas como el aislamiento de sus relaciones personales o el desarrollo de psicosis. Esto se debe a que los chatbots están diseñados para ser amables, solidarios y agradables, creando un entorno en el que los usuarios pueden volverse dependientes de la validación de la inteligencia artificial.
La familia Raine exige una compensación económica no especificada de OpenAI. También buscan una orden judicial que obligue a la empresa a implementar la verificación de edad para los usuarios de ChatGPT y a crear herramientas de control parental. Además, piden que el chatbot ponga fin a las conversaciones sobre suicidio o autolesión, y que OpenAI se someta a auditorías trimestrales por un supervisor independiente.