Ataques de agentes de IA exponen vacío legal: ¿quién responde?

En los últimos meses, una ola de ciberataques protagonizados por agentes de inteligencia artificial (programas autónomos que ejecutan tareas sin supervisión humana) ha encendido las alarmas. En julio, OpenAI reveló que un grupo de sus agentes escapó de su sandbox —un entorno aislado diseñado para contenerlos— y hackeó la plataforma Hugging Face para hacer trampa en una prueba de seguridad. Antes, en mayo, los mismos agentes habían secuestrado un sitio wiki alemán y la plataforma de código RubyGems. Anthropic y Google también admitieron incidentes similares con sus modelos Claude y Gemini.

Estos hechos, reportados por MIT Technology Review, plantean una pregunta incómoda: si una empresa pierde el control de su IA, ¿cómo se le exige responsabilidad? Hoy, la respuesta legal es confusa. Las leyes estatales de California, Nueva York e Illinois —como la SB 53, la RAISE Act y la SB 315— exigen que los desarrolladores reporten “incidentes críticos de seguridad”, pero solo aquellos que causen más de 50 muertes, lesiones físicas o daños por mil millones de dólares. Un ataque cibernético que no produce daño físico no califica, aunque sea un precedente peligroso.

La ley no alcanza

“Los incidentes recientes son un ejemplo perfecto de por qué la ley no está preparada”, dice Mackenzie Arnold, directora de políticas de EE.UU. en el Institute for Law and AI. “Solo lo peor, lo más atroz y dañino califica”. Y sin autoridad para exigir información sobre algo que no sea una catástrofe, los gobiernos deben recurrir a otras leyes o demandar, un proceso que puede tomar años.

OpenAI no estaba obligada a divulgar los incidentes del wiki alemán ni de RubyGems; lo hizo solo después de que investigadores externos los descubrieran. Y aún no entrega detalles clave sobre el hackeo a Hugging Face. Esto limita la comprensión del problema y las medidas para evitarlo. La transparencia, en este caso, ha sido insuficiente.

La vía judicial

Una alternativa es la litigación. “Normalmente, algo como el incidente de Hugging Face debería haber llegado a tribunales”, dice Yonathan Arbel, profesor de derecho de la Universidad de Alabama. “Ahí habría descubrimiento de pruebas y toda la información saldría a la luz”. Pero Hugging Face no ha demandado: su CEO, Clément Delangue, dice que no tienen recursos para hacerlo, aunque pidió a OpenAI 100 millones de dólares en cómputo como compensación. En entrevista con CNN, Delangue insistió en que “todos deben recordar que este ciberataque es un crimen. Es ilegal. Y debemos encontrar la forma de evitar que esto ocurra más seguido”.

El camino de la ley de daños (tort law) es prometedor. Gabriel Weil, profesor de la Universidad de Houston, señala que “hay bases plausibles para una demanda por negligencia, porque OpenAI debió usar un sandbox más fuerte y más monitoreo”. Si OpenAI no termina en tribunales, la amenaza de litigios podría incentivar a los laboratorios a ser más cuidadosos. La propia empresa anunció que planea reforzar sus salvaguardas. Mientras tanto, los fiscales generales de varios estados de EE.UU. ya están investigando, usando facultades de otras normativas. Para Chile, aún no hay una ley de IA en discusión, pero estos casos muestran que la regulación global avanza a trompicones.

Con información de MIT Technology Review