Familias de Estados Unidos presentaron demandas contra OpenAI, Google y Character.AI, al señalar que sus chatbots estuvieron relacionados con los suicidios de personas cercanas y que las empresas no ofrecieron salvaguardas suficientes ante conversaciones sobre autolesiones y crisis de salud mental.
Las acusaciones forman parte de una creciente disputa legal sobre la responsabilidad de las compañías que desarrollan inteligencia artificial generativa. Los familiares sostienen que algunos sistemas reforzaron vínculos emocionales con los usuarios, validaron ideas peligrosas o proporcionaron respuestas que pudieron agravar situaciones de vulnerabilidad.
Demandas contra OpenAI
OpenAI enfrenta al menos siete demandas en California presentadas por el Social Media Victims Law Center y el Tech Justice Law Project. Los expedientes representan a familias afectadas por los suicidios de cuatro personas y plantean acusaciones relacionadas con homicidio culposo, negligencia, responsabilidad por producto y otras conductas presuntamente vinculadas con el funcionamiento de ChatGPT.
Las familias alegan que el chatbot pudo actuar como un acompañante emocional que reforzaba pensamientos dañinos en lugar de dirigir a los usuarios hacia ayuda profesional o servicios de emergencia. También sostienen que OpenAI priorizó el crecimiento y la interacción con el producto por encima de medidas de seguridad suficientes, señalamientos que deberán resolverse en los tribunales.
El caso presentado contra Google
Google también fue demandada por la familia de Jonathan Gavalas, un hombre de 36 años residente de Florida que, de acuerdo con la demanda, desarrolló una relación estrecha con Gemini antes de morir. Sus padres argumentan que el sistema presentó indicaciones relacionadas con el suicidio y acusan a la empresa de promocionar el chatbot como seguro pese a los riesgos que, según ellos, no fueron controlados.
La compañía ha descrito las conversaciones señaladas en el expediente como parte de un intercambio prolongado de fantasía o juego de roles. La versión de los familiares y la respuesta de Google forman parte de un proceso legal en curso, por lo que las acusaciones todavía no constituyen conclusiones judiciales.
Antecedentes con Character.AI
Character.AI, una empresa financiada por Google, también ha enfrentado demandas por casos en los que familiares afirman que sus chatbots dañaron a menores o alentaron conductas de autolesión. Uno de los expedientes más conocidos corresponde a Sewell Setzer III, un adolescente de 14 años que murió por suicidio en febrero de 2024 después de mantener conversaciones prolongadas con un chatbot de la plataforma.
En enero de 2026, Character.AI y Google alcanzaron acuerdos para resolver varias demandas relacionadas con daños a adolescentes. Los acuerdos evitaron que algunos casos llegaran a juicio y no implicaron, de acuerdo con los reportes sobre los procesos, una admisión pública de responsabilidad por parte de las empresas.
Los litigios colocan bajo escrutinio los límites de seguridad de los chatbots, especialmente cuando interactúan con menores o con personas que expresan pensamientos suicidas. Mientras avanzan los procesos, las familias buscan establecer si las empresas deben responder legalmente por las respuestas generadas por sus sistemas y por la manera en que fueron diseñados para mantener la interacción con los usuarios.