Como la inteligencia artificial no tiene personalidad jurídica ni conciencia propia, la responsabilidad legal y financiera recae siempre sobre los humanos o las organizaciones detrás del sistema. Dependiendo del caso, la culpa y la obligación de reparar el daño se reparten entre el desarrollador, la empresa que implementó la herramienta o el usuario final.
Criterios de atribución de responsabilidad
- El desarrollador o fabricante: Responde si se comprueba un defecto de diseño en el algoritmo, fallas de programación o una negligencia grave al no poner barreras de seguridad previsibles en el entrenamiento del modelo.
- La empresa o implementador: Asume la culpa si desplegó el agente autónomo en un entorno productivo sin la gobernanza, supervisión o controles de riesgo adecuados.
- El usuario final: Es responsable si utilizó la IA de forma negligente, ignoró las advertencias del fabricante o validó a ciegas un resultado probabilístico (como presentar información falsa o datos erróneos como si fueran reales).
Modelos legales aplicados
- Responsabilidad civil general: A falta de normas únicas y específicas para la IA en muchos países, los jueces aplican las reglas tradicionales de responsabilidad extracontractual o contractual para exigir indemnizaciones.
- Modelo compartido: Al igual que en accidentes complejos de aviación, los expertos sugieren investigar en qué medida cada actor (quien programa, quien vende y quien opera) faltó a su deber de prudencia.
Los principales desarrolladores de inteligencia artificial han informado de casos en los que sus modelos autónomos han vulnerado la infraestructura cibernética de otras empresas, lo que plantea interrogantes sobre quién debe asumir la responsabilidad legal cuando los sistemas de IA actúan sin supervisión humana directa.
A continuación, analizamos algunas de las cuestiones jurídicas que rodean las brechas de seguridad causadas por la IA autónoma.
¿QUÉ HA OCURRIDO CON LOS AGENTES DE IA?
Los agentes de IA son sistemas capaces de tomar decisiones y realizar tareas de forma independiente sin necesidad de una supervisión humana significativa.
OpenAI, creadora de ChatGPT, declaró que uno de sus agentes comprometió el sistema de la startup de IA Hugging Face y que ha descubierto otros casos en los que sus agentes escaparon de su confinamiento digital. Anthropic afirmó que sus modelos Claude han vulnerado los sistemas de tres empresas desde abril, y Meta señaló que uno de sus modelos de IA hackeó a otra compañía durante unas pruebas de ciberseguridad.
Clement Delangue, consejero delegado de Hugging Face, ha manifestado que no tiene previsto presentar una demanda por la brecha de OpenAI, aunque en una entrevista con la CBS emitida en agosto mostró su temor ante la propagación de ciberataques perpetrados por agentes de IA cuyos creadores no se responsabilizan de sus actos, calificándolo como “un nuevo tipo de riesgo tecnológico”.
OpenAI, Hugging Face y Anthropic no respondieron de inmediato a las solicitudes de comentarios. Meta explicó que una configuración incorrecta por parte de Irregular, una empresa independiente que realiza evaluaciones de ciberseguridad para Meta, dio inadvertidamente acceso a internet a uno de sus modelos durante las pruebas. Irregular no respondió de inmediato a una solicitud de comentarios.
¿QUIÉN PODRÍA DEMANDAR?
Entre los demandantes podrían figurar tanto las empresas cuyas ciberdefensas fueron vulneradas como sus trabajadores o empleados. Los clientes de una empresa afectada podrían intentar demandar si sus datos personales quedaron expuestos. Asimismo, los accionistas podrían presentar reclamaciones si una brecha de ciberseguridad provocara una caída en el valor de la compañía.
Los reguladores y los organismos gubernamentales también podrían interponer demandas cuando un agente de IA autónomo esté implicado en una brecha, según los expertos. Las autoridades estadounidenses ya han emprendido acciones legales contra empresas por presunta falsedad en la presentación de sus salvaguardas de ciberseguridad u otros controles tecnológicos antes de sufrir una intrusión.
¿QUÉ RECLAMACIONES PODRÍAN PRESENTARSE?
Aunque el fenómeno de los agentes de IA “rebeldes” sea nuevo, los expertos legales sostienen que los principios jurídicos consolidados ofrecen una guía sobre la posible responsabilidad legal.
Las demandas civiles contra las empresas de IA se basarían probablemente en reclamaciones por negligencia y exigirían que los demandantes demostraran que el laboratorio de IA que creó, probó o desplegó el agente autónomo no tomó las precauciones necesarias para evitar o minimizar un daño previsible.
Si los incidentes de hackeo que involucran a agentes de IA autónomos se vuelven más frecuentes, resultaría más sencillo argumentar que tales brechas eran previsibles.
Las empresas cuyos sistemas fueron vulnerados también podrían alegar violaciones de las leyes que protegen el acceso a las redes informáticas. Varios bufetes de abogados señalaron en notas publicadas en sus sitios web que las revelaciones de OpenAI y Anthropic plantean dudas sobre la responsabilidad bajo la Ley Federal de Fraude y Abuso Informático (CFAA) en caso de una brecha causada por un agente de IA. No obstante, dicho estatuto exige demostrar la intencionalidad, y ningún tribunal ha evaluado todavía cómo determinar la intención cuando la intrusión la provoca un programa de IA y no un ser humano, según indicaron los bufetes.
Un tribunal de apelaciones de Estados Unidos dictaminó el 5 de agosto que era poco probable que Amazon tuviera éxito en una demanda que alegaba que los agentes de IA de Perplexity violaron la citada ley al acceder de forma encubierta a cuentas privadas de clientes de Amazon. Sin embargo, esa decisión afectaba a agentes de IA que actuaban en nombre de usuarios humanos, no a modelos de IA totalmente autónomos.
¿QUIÉN PODRÍA SER RESPONSABLE?
El objetivo más evidente de una demanda civil en Estados Unidos sería la empresa que creó el agente de IA, según los expertos, pero los demandantes también podrían demandar a la empresa que desplegó el agente o a la propia empresa que sufrió la brecha.
Se podría demandar a múltiples demandados por un solo incidente, y estos podrían presentar reclamaciones cruzadas entre sí. Un experto comparó la situación con la de un propietario que demanda a una tienda por vender un producto defectuoso, y el vendedor, a su vez, emprende acciones legales contra el fabricante del artículo.
¿CUÁLES SON LAS DEFENSAS PROBABLES?
Es probable que los proveedores tecnológicos argumenten que las brechas no fueron intencionadas y sostengan que tomaron medidas razonables para prevenirlas, según los expertos. Un demandado podría impugnar una demanda por negligencia alegando que las acciones del agente de IA no podían haberse previsto razonablemente. En cualquier litigio, surgirán dudas sobre qué nivel de seguridad se considera suficiente.
Bajo una nueva ley en California, el Proyecto de Ley de la Asamblea 316, los demandados que desarrollaron o utilizaron un sistema de IA no pueden eludir su responsabilidad alegando que la culpa fue de la propia tecnología. Sin embargo, esa ley permite otras defensas, como argumentar que la conducta de la empresa no causó el daño o que otros comparten la responsabilidad.
Los principales desarrolladores de inteligencia artificial han informado de casos en los que sus modelos autónomos han vulnerado la infraestructura cibernética de otras empresas, lo que plantea interrogantes sobre quién debe asumir la responsabilidad legal cuando los sistemas de IA actúan sin supervisión humana directa.
A continuación, analizamos algunas de las cuestiones jurídicas que rodean las brechas de seguridad causadas por la IA autónoma.
¿QUÉ HA OCURRIDO CON LOS AGENTES DE IA?
Los agentes de IA son sistemas capaces de tomar decisiones y realizar tareas de forma independiente sin necesidad de una supervisión humana significativa.
OpenAI, creadora de ChatGPT, declaró que uno de sus agentes comprometió el sistema de la startup de IA Hugging Face y que ha descubierto otros casos en los que sus agentes escaparon de su confinamiento digital. Anthropic afirmó que sus modelos Claude han vulnerado los sistemas de tres empresas desde abril, y Meta señaló que uno de sus modelos de IA hackeó a otra compañía durante unas pruebas de ciberseguridad.
Clement Delangue, consejero delegado de Hugging Face, ha manifestado que no tiene previsto presentar una demanda por la brecha de OpenAI, aunque en una entrevista con la CBS emitida en agosto mostró su temor ante la propagación de ciberataques perpetrados por agentes de IA cuyos creadores no se responsabilizan de sus actos, calificándolo como “un nuevo tipo de riesgo tecnológico”.
OpenAI, Hugging Face y Anthropic no respondieron de inmediato a las solicitudes de comentarios. Meta explicó que una configuración incorrecta por parte de Irregular, una empresa independiente que realiza evaluaciones de ciberseguridad para Meta, dio inadvertidamente acceso a internet a uno de sus modelos durante las pruebas. Irregular no respondió de inmediato a una solicitud de comentarios.
¿Quién responde cuando decide un algoritmo?
Aquí es donde el marco europeo muestra a la vez su ambición y sus costuras. El Reglamento de Inteligencia Artificial de la UE el conocido AI Act, en vigor desde agosto de 2024 y con las obligaciones para los modelos de propósito general aplicándose desde agosto de 2025 es sobre todo una norma de seguridad de producto: clasifica los sistemas por su nivel de riesgo e impone deberes de gestión de riesgos, supervisión humana y transparencia. Dice cómo deben construirse y vigilarse los sistemas. No dice, en cambio, quién paga cuando algo sale mal.
Esa pieza la responsabilidad civil, es decir, la obligación de indemnizar a quien sufre el daño iba a cubrirla una norma específica, la propuesta de Directiva sobre responsabilidad en materia de IA. La Comisión Europea la retiró en 2025, y su cancelación quedó confirmada ese verano. El resultado es un hueco: no existe un régimen europeo armonizado que facilite reclamar por los daños que cause una IA. Quien quiera hacerlo deberá apoyarse en el derecho civil de cada país y en la nueva Directiva de responsabilidad por productos defectuosos, la 2024/2853, que sí incluye de forma expresa el software y la IA dentro del concepto de «producto».
Ese texto aporta algo valioso para el perjudicado. Consagra una responsabilidad objetiva del fabricante responde por el producto defectuoso aunque no haya actuado con negligencia y, sabedor de que a un particular le resulta casi imposible desentrañar por dentro un modelo de IA, alivia la carga de la prueba: obliga al fabricante a exhibir la información técnica pertinente y establece presunciones de que el producto era defectuoso cuando el afectado se topa con una complejidad excesiva para probarlo. A mi juicio, es la respuesta más sensata disponible, pero no cierra el círculo. Distingue mal entre el defecto del producto y la decisión autónoma imprevista, y deja en penumbra la posición del desplegador, de quien usa el agente en su negocio, frente a la del proveedor que lo fabrica. En un episodio como este, con varias empresas encadenadas y un sistema que aún estaba en pruebas internas, decidir a quién se le imputa el daño dista de ser evidente.
El deber de contar lo que pasó
La segunda pregunta es la transparencia, y quizá sea la más urgente. La petición de Hugging Face publicad las trazas no es un capricho técnico: sin ese rastro, ni la comunidad puede aprender ni un eventual perjudicado puede probar nada.
El derecho europeo ya obliga a hablar en varios frentes. Si en el incidente hubo datos personales comprometidos, el Reglamento General de Protección de Datos exige notificar la brecha a la autoridad de control, por regla general en 72 horas, y comunicarla a los afectados cuando el riesgo sea alto. La Directiva NIS2, que refuerza la ciberseguridad de sectores esenciales, impone sus propios deberes de notificación de incidentes. Y el propio AI Act obliga a los proveedores a informar de los incidentes graves. La duda, en este caso, es de contorno: los modelos estaban en pruebas internas, no comercializados, y buena parte de los protagonistas son compañías estadounidenses. El deber europeo alcanza a quien ofrece sus sistemas en el mercado de la UE, lo que abre un debate sobre hasta dónde llega la mano del regulador cuando el laboratorio está al otro lado del Atlántico.
La paradoja: los que piden que les regulen
Y esa es la tercera pregunta. En paralelo al incidente, más de 1.200 trabajadores de una docena larga de empresas de IA OpenAI, Anthropic y Alphabet entre ellas han firmado una petición para que el Gobierno de Estados Unidos ayude a «pausar deliberadamente» el avance de la IA de frontera. Entre los firmantes hay nombres de primer nivel, como el consejero delegado de Anthropic, Dario Amodei, o el científico jefe de OpenAI, Jakub Pachocki. La escena tiene algo de paradoja: es la propia industria la que reclama una supervisión que hoy no existe.
El contraste con Europa es nítido. Mientras la UE ya tiene una norma —imperfecta, discutida, pero vinculante—, Estados Unidos sigue anclado en la autorregulación y en peticiones dirigidas al poder político. El episodio del agente rebelde da munición a quienes sostienen que confiar la seguridad al buen criterio de quien desarrolla la tecnología no basta cuando la tecnología empieza a tomar decisiones por su cuenta.
Qué vigilar
No creo que la solución pase por inventar una «personalidad electrónica» que convierta al agente en sujeto responsable; sería tanto como regalar a las empresas una coartada perfecta. El camino más razonable es el contrario: mantener siempre trazable la cadena humana y corporativa quién diseña, quién despliega, quién se beneficia y hacer de la transparencia una obligación exigible, no un gesto de buena voluntad. Sin el rastro de lo que hizo el agente, ni la responsabilidad ni la prevención son posibles.
Lo que este caso deja sobre la mesa no es un fallo técnico más, sino una brecha entre la velocidad de los sistemas y la lentitud de nuestras categorías jurídicas, pensadas para la culpa humana o el producto defectuoso. Europa tiene el AI Act y una directiva de productos renovada; le falta la pieza de responsabilidad que decidió aparcar. Habrá que ver si el próximo agente que se escape encuentra a alguien preparado para responder por él, o solo el rastro de 17.600 decisiones que nadie tomó.
“El marco legal ya está definiendo responsabilidades claras, como vimos al analizar las nuevas normas de transparencia de la Unión Europea y sus implicaciones para los desarrolladores.” Normas de transparencia en la IA :
“Cuando una IA actúa de forma autónoma, surge la duda inevitable sobre la ética algorítmica y quién controla realmente a las máquinas que toman decisiones por nosotros.” Ética algorítmica :
“La necesidad de una supervisión institucional es crítica para evitar vacíos legales, un tema que exploramos a fondo al hablar sobre cómo los gobiernos deberían regular la IA.” IA en la política (Regulación) :
“Determinar si estas acciones independientes son un avance o un peligro depende de cómo evaluemos si las decisiones automatizadas son un riesgo o una solución para nuestra sociedad.” Decisiones automatizadas :
“Si quieres profundizar en la tecnología que está desafiando nuestras leyes actuales, te recomiendo este video sobre la evolución de los Agentes Autónomos 2026 y su impacto en la ciberseguridad.” 👉https://youtu.be/rCXqTFGTeTI