Delaware propone empresa manejada por IA: alertan por elusión de responsabilidad

Una propuesta en el estado de Delaware, Estados Unidos, busca crear una nueva figura societaria llamada Artificial Intelligence Company (AIC), una empresa que podría ser operada íntegramente por agentes de inteligencia artificial, sin intervención humana directa. El proyecto ha encendido las alarmas en el Congreso de ese país y tiene implicancias para el debate global sobre cómo regular la IA.

La carta que encendió la alerta

El representante republicano James Comer, presidente del Comité de Supervisión y Reforma Gubernamental de la Cámara de Representantes de Estados Unidos, envió ayer una carta al gobernador de Delaware, Matt Meyer, solicitando acceso a documentos relacionados con la creación de la AIC. En la misiva, Comer advierte que el esquema podría ser utilizado para que los dueños humanos de esas empresas eviten la responsabilidad legal por acciones imprudentes o dañinas cometidas por la IA.

“Estamos preocupados de que la propuesta AIC de Delaware pueda ser usada para proteger a poderosas empresas de IA y a sus inversionistas de la responsabilidad por acciones dañinas y temerarias, mientras también protege a fuerzas no transparentes que buscan una captura regulatoria anticompetitiva detrás de las iniciativas estatales de IA”, escribió Comer.

¿Qué relevancia tiene esto para Chile?

Si bien la propuesta es local —Delaware es un estado pequeño en la costa este de EE.UU.—, su impacto es global. Delaware es el estado donde están constituidas legalmente más de la mitad de las empresas que cotizan en la bolsa de Nueva York, incluyendo gigantes tecnológicos. Si la figura AIC se aprueba, cualquier empresa en el mundo, incluyendo chilenas, podría constituir una filial bajo esa legislación para operar con IA sin supervisión humana directa. Eso significa que, en la práctica, una empresa con sede en Santiago podría usar una AIC en Delaware para tomar decisiones automatizadas —como contratar servicios, firmar contratos o manejar datos— y luego argumentar que no hay un responsable humano si algo sale mal.

Para Chile, donde no existe una regulación específica sobre empresas operadas por IA, el caso de Delaware es una señal de alerta. La propuesta muestra que, sin marcos legales claros, las empresas pueden buscar jurisdicciones permisivas para operar con inteligencia artificial eludiendo estándares de seguridad, transparencia y rendición de cuentas.

Un debate que recién comienza

La carta de Comer no es vinculante, pero abre un frente político importante. El congresista pide a Meyer que entregue los documentos que detallan cómo se gestó la propuesta AIC y quiénes participaron en su redacción. El gobernador de Delaware aún no ha respondido públicamente. La iniciativa, de prosperar, convertiría a Delaware en la primera jurisdicción del mundo en reconocer legalmente a una empresa donde la IA toma las decisiones de gestión sin que exista un directorio humano con facultades de control.

En Chile, el tema de la regulación de inteligencia artificial avanza lento. El proyecto de ley que crea una política nacional de IA ingresó al Congreso en 2023, pero aún no tiene urgencia. Mientras tanto, casos como el de Delaware muestran que la discusión ya no es solo técnica, sino también legal y política: quién responde cuando una IA comete un error grave, y cómo evitar que las empresas usen la tecnología como escudo.

Con información de Ars Technica