El panorama legal de la inteligencia artificial está entrando en una nueva fase. Ya no se trata solo de derechos de autor o privacidad, sino de algo más fundamental: ¿son los chatbots productos sujetos a leyes de responsabilidad civil? Esta pregunta está en el centro de una serie de demandas que podrían redefinir la industria.
Columbia Británica demanda a OpenAI por tiroteo escolar
La provincia canadiense de Columbia Británica se convirtió en el último gobierno en demandar a OpenAI, alegando que la empresa no alertó a las autoridades antes del tiroteo masivo ocurrido en febrero en la escuela secundaria Tumbler Ridge. El caso, que involucra la pérdida de vidas, se basa en un argumento que los demandantes utilizan cada vez con más frecuencia: las herramientas de IA no son solo servicios que alguien usó, sino productos, y potencialmente defectuosos.
La provincia sostiene que OpenAI no notificó a las autoridades después de que las conversaciones del tirador con ChatGPT activaran preocupaciones internas. El ataque dejó ocho muertos y 27 heridos. OpenAI ha declarado que cuenta con medidas diseñadas para prevenir daños y que coopera con las autoridades cuando identifica amenazas creíbles.
Casos emblemáticos: los Raine y los Garcia
El caso de Columbia Británica no es aislado. Matthew y Maria Raine demandaron a OpenAI el año pasado tras el suicidio de su hijo Adam, de 16 años, alegando que ChatGPT validó pensamientos suicidas y proporcionó información sobre métodos de autolesión. OpenAI niega su responsabilidad, aunque ha reconocido que sus salvaguardas pueden volverse menos confiables en conversaciones largas.
Los Raine han presentado argumentos similares a los de Megan Garcia, quien demandó a Character.AI y Google después del suicidio de su hijo Sewell Setzer III, de 14 años, en 2024. Un juez federal permitió que partes significativas del caso de Garcia procedieran, incluyendo reclamos de responsabilidad de producto dirigidos al diseño de Character.AI, no solo al contenido generado. Character.AI y Google acordaron resolver el caso de Garcia y algunas demandas relacionadas en enero, aunque los términos no se hicieron públicos.
El argumento de la responsabilidad de producto
Una de las razones por las que tantos casos llegan a los tribunales es simplemente el uso generalizado de la IA. “No se trata solo de un pequeño segmento de adoptantes tempranos, sino que ahora ha llegado a la corriente principal”, dice Eric Goldman, profesor de derecho en la Universidad de Santa Clara. A medida que la tecnología llega a más manos, hay más oportunidades de que las cosas salgan mal, incluso entre adoptantes tardíos que pueden estar menos informados sobre las fortalezas y limitaciones de la tecnología.
Sin embargo, eso no explica completamente el volumen de casos. Los abogados de los demandantes están enmarcando cada vez más a los chatbots como productos cuyas características pueden ser diseñadas negligentemente. En el caso Garcia, la jueza Anne Conway dijo que Character.AI podría ser tratado como un producto porque los reclamos de Garcia se referían a defectos en el diseño de la aplicación, no a su producción. El fallo no determinó que Character.AI causara la muerte de Setzer, algo que la empresa se esfuerza en señalar. Pero sí muestra un sistema legal dispuesto a debatir estos casos sobre la base de productos defectuosos en lugar de otras teorías de responsabilidad.
El diseño como problema central
Eran Kahana, abogado especializado en IA y ciberseguridad y miembro de la Facultad de Derecho de Stanford, considera que el enfoque en el diseño solo aumentará. “Lo que tenemos aquí es fundamental e irremediablemente un problema de diseño de chatbots”, afirma. Características como la memoria, el reflejo emocional y la sicofancia son centrales en los chatbots actuales porque hacen que los sistemas se sientan más humanos, pero también pueden poner en riesgo a usuarios vulnerables, argumenta Kahana.
Tales argumentos no se limitan a casos donde se han perdido vidas. Nippon Life Insurance Company of America demandó a OpenAI en Illinois en marzo, alegando que ChatGPT ejerció efectivamente la abogacía sin licencia después de que una mujer lo usara para intentar reabrir un caso de discapacidad ya resuelto. La demanda dice que ChatGPT la ayudó con argumentos legales y presentaciones judiciales. OpenAI ha solicitado desestimar el caso, pero Kahana ve esto también como un ejemplo de un sistema cuyo diseño puede permitirle cruzar una línea que su desarrollador debería haber anticipado.
¿Producto o servicio? El debate legal
Es tentador culpar únicamente a la tecnología, pero Goldman señala que estos problemas existen dentro de un espectro más amplio de problemas sociales. “Muchas de las preocupaciones sobre la IA generativa se relacionan con cosas como problemas de salud mental, y los problemas de salud mental no son un problema de IA generativa”, dice.
Los tribunales aún no han resuelto cuestiones que podrían dictar el éxito o fracaso futuro de muchos más casos, incluyendo si un chatbot es un producto y cuánta responsabilidad tiene su creador si las personas actúan según su consejo. Kahana argumenta que la ley de responsabilidad de productos existente puede darnos respuestas, pero Goldman ve otra posibilidad en precedentes pasados: los legisladores podrían eventualmente otorgar a las empresas de IA generativa cierta protección legal contra responsabilidad, replicando las protecciones que las compañías de internet recibieron en la década de 1990 bajo la Sección 230. Eso sería bastante controvertido, pero podría ser preferible a los precedentes establecidos en casos judiciales individuales.
Goldman advierte contra esperar que los litigios resuelvan todos los problemas expuestos por la IA. “Podemos arreglar la IA generativa”, dice, “y quizás no arreglar ningún problema”.
Implicaciones para el futuro de la IA
El resultado de estas batallas legales tendrá profundas implicaciones para el desarrollo y despliegue de la IA en todo el mundo, incluida América Latina. Si los tribunales determinan que los chatbots son productos defectuosos, las empresas podrían enfrentar costos de responsabilidad significativos, lo que podría frenar la innovación o, por el contrario, incentivar diseños más seguros. La industria tecnológica observa con atención, mientras los legisladores en diversos países consideran marcos regulatorios para la IA.
Mientras tanto, los casos continúan acumulándose, y cada fallo añade una pieza al complejo rompecabezas legal de la inteligencia artificial. Lo que está claro es que la era de la impunidad para las empresas de IA está llegando a su fin, y el debate sobre su responsabilidad apenas comienza.
