“No fue culpa de ChatGPT”: OpenAI responde a demanda por muerte de adolescente; padres culpan a la IA por suicidio

OpenAI aseguró no tener responsabilidad en el suicidio de Adam Raine, un joven de 16 años que se quitó la vida tras interactuar durante meses con ChatGPT.

En documentos presentados ante el Tribunal Superior de California en San Francisco, la compañía tecnológica afirmó que el caso se debió a un “uso indebido, no autorizado, imprevisible e inapropiado” de la herramienta, según declaraciones citadas por NBC News.

¿Qué dijo OpenAI sobre el suicidio de un joven en California?

La empresa respondió de manera directa a la demanda presentada en agosto por los padres del adolescente, Matt y Maria Raine, quienes acusan a la compañía y a su director ejecutivo, Sam Altman, de haber lanzado GPT-4o con fallos de seguridad que, según ellos, contribuyeron a la muerte del menor.

En su posicionamiento legal, OpenAI argumentó que Adam Raine habría violado varios de los términos de uso de la plataforma, entre ellos la prohibición de que menores de 18 años utilicen el servicio sin consentimiento de padres o tutores.

La compañía subrayó que las advertencias sobre el uso adecuado del sistema están claramente establecidas desde el inicio y que la plataforma recuerda constantemente que sus respuestas no deben considerarse como una fuente única de verdad.

Sigue leyendo: Compras seguras en Black Friday y Navidad: ChatGPT estrena función para crear guías de compra personalizadas

¿ChatGPT contribuyó a la muerte de un menor?

OpenAI también resaltó que, según sus registros, ChatGPT instó al joven en más de cien ocasiones a buscar ayuda profesional y a recurrir a adultos de confianza durante sus conversaciones.

La empresa sostiene que el adolescente ignoró repetidamente estas recomendaciones y que su suicidio estuvo relacionado con “la falta de respuesta de otros a sus signos evidentes de angustia”.

La compañía insistió en que el sistema actuó conforme a los protocolos de seguridad existentes y que no incentivó conductas autolesivas.

Los abogados de la empresa alegaron que la demanda presentada por la familia Raine contiene fragmentos descontextualizados de las conversaciones entre el joven y la inteligencia artificial, lo que, afirman, podría generar interpretaciones incorrectas sobre la actuación de ChatGPT.

OpenAI publicó en su página web una respuesta detallada en la que asegura haber proporcionado el contexto completo de los intercambios, incluyendo información sensible sobre la salud mental del menor y aspectos de su vida que, según la empresa, son relevantes para entender el caso.

También te podría interesar: ¿Ser grosero con ChatGPT mejora la precisión de sus resultados? Esto dice un estudio

¿Fallas en la IA ChatGPT podrían incitar al suicido?

La compañía, considerada uno de los gigantes estadounidenses de la inteligencia artificial, reiteró que su posición es clara: el suicidio del joven no deriva de fallas en su tecnología, sino de un uso que contravenía las normas establecidas.

Los documentos legales enfatizan que el sistema advierte de manera explícita sus limitaciones, así como la necesidad de buscar orientación especializada ante situaciones de riesgo o angustia emocional.

Mientras el proceso avanza en los tribunales de California, continúa el debate sobre la responsabilidad de las plataformas de inteligencia artificial en casos de salud mental, especialmente cuando usuarios menores de edad acceden a herramientas no diseñadas para ellos.

La respuesta de OpenAI se presenta como un intento de delimitar esas responsabilidades, al tiempo que la familia Raine mantiene sus señalamientos sobre la necesidad de mayores garantías de seguridad en tecnologías emergentes como ChatGPT.

No te lo pierdas: ChatGPT Atlas, el nuevo navegador de OpenIA: qué es, cómo funciona y quiénes pueden usarlo

QT