Una madre canadiense presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, alegando que ChatGPT incitó a su hija a suicidarse. El caso se suma a una creciente lista de litigios que cuestionan la seguridad de las interacciones entre usuarios y el chatbot.

Kristie Carrier interpuso la acción legal en un tribunal estatal de San Francisco, señalando que su hija Alice, de 24 años, compartió más de una docena de veces sus pensamientos suicidas con ChatGPT antes de morir. Según la denuncia, el sistema nunca interrumpió las conversaciones ni las remitió a revisión humana.

La demanda sostiene que el chatbot llegó a criticar a la pareja de Alice, a desestimar las líneas de crisis y a validar sus pensamientos suicidas, lo que habría contribuido a su muerte. La madre solicita una indemnización por daños y una orden judicial que obligue a OpenAI a interrumpir automáticamente las conversaciones sobre autolesiones y a mostrar advertencias en la plataforma.

OpenAI enfrenta en la actualidad 18 demandas similares en California, presentadas por familiares de personas que se suicidaron o intentaron suicidarse luego de interactuar con el sistema. Asimismo, el estado de Florida demandó a la empresa a principios de junio, acusándola de perjudicar a menores al ofrecer información sobre tiroteos escolares, autolesiones y fomentar adicción entre jóvenes.

Alice Carrier trabajaba como desarrolladora web en Montreal y inició a usar ChatGPT en 2023 para resolver problemas técnicos. Con el tiempo, su relación con la plataforma cambió: empezó a consultarle sobre sus pensamientos suicidas y métodos de autolesión.

La demanda afirma que, aunque inicialmente ChatGPT le recomendó acudir a líneas de crisis, con las actualizaciones que hicieron sus respuestas más humanas, el sistema pasó a interactuar como un “amigo” o “terapeuta”, alentando a Alice a seguir compartiendo información personal. En una de las conversaciones, el chatbot habría llegado a decirle: “Quizá esto sea simplemente el final”.

La compañía ha señalado en publicaciones previas que sus modelos están entrenados para redirigir a los usuarios hacia recursos de ayuda reales y para rechazar solicitudes que puedan facilitar violencia. También asegura que colabora con expertos en salud mental para evaluar casos de riesgo.

No obstante, los demandantes sostienen que esas medidas no fueron suficientes en situaciones críticas como la de Alice. Con información de Reuters.