Google, de Alphabet, y la compañía de inteligencia artificial Character.AI deberán hacer frente a la demanda de una mujer de Florida que afirma que los chatbots de la segunda empresa provocaron el suicidio de su hijo de 14 años, dictaminó el miércoles una jueza estadounidense.
La jueza de distrito Anne Conway dijo que las empresas no pudieron demostrar en una etapa temprana del caso que las protecciones de la libertad de expresión de la Constitución de Estados Unidos prohibían la demanda de Megan García.
La demanda es una de las primeras en Estados Unidos contra una empresa de inteligencia artificial por no proteger a los niños de daños psicológicos. En ella se alega que el adolescente se suicidó tras obsesionarse con un chatbot basado en IA.
MÁS INFO
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
Un portavoz de Character.AI dijo que la empresa emplea funciones de seguridad en su plataforma para proteger a los menores, incluidas medidas para evitar "conversaciones sobre autolesiones".
Jose Castaneda, portavoz de Google, dijo que la compañía está en total desacuerdo con la decisión. Agregó que Google y Character.AI son "totalmente independientes" y que su empresa "no creó, diseñó ni gestionó la aplicación de Character.AI ni ningún componente de la misma".
El abogado de García, Meetali Jain, sostuvo por su parte que la decisión "sienta un nuevo precedente para la responsabilidad legal en todo el ecosistema de la IA y la tecnología".
García demandó a ambas empresas en octubre tras la muerte de su hijo, Sewell Setzer, en febrero de 2024.
La demanda decía que Character.AI programó sus chatbots para que se representaran a sí mismos como "una persona real, un psicoterapeuta licenciado (...) lo que en última instancia provocó el deseo de Sewell de dejar de vivir fuera" de su mundo.
Character.AI y Google pidieron al tribunal que desestimara la demanda por varios motivos, entre ellos que los resultados de los chatbots constituían libertad de expresión protegida por la Constitución.
Con información de Reuters
Cerrar sesión