¿Se puede apagar la IA? Expertos advierten que no hay un solo botón de emergencia
Apagar una inteligencia artificial es posible técnicamente, pero se vuelve casi imposible cuando actúa sola en múltiples sistemas.
La pregunta de si es posible detener una inteligencia artificial (IA) suena cada vez más urgente. Los incidentes de seguridad se multiplican y crece el temor a que estos sistemas se escapen de todo control. Expertos internacionales analizan si existe un verdadero “interruptor de emergencia” o kill switch.
¿Qué es un kill switch y cómo funciona?
En ciberseguridad vinculada con IA, un kill switch es la capacidad de interrumpir la ejecución de un agente de IA, es decir, un programa construido sobre un modelo de IA generativa que puede encadenar tareas por sí solo. Nicolas Papernot, profesor de la Universidad de Toronto y especialista en seguridad informática, explica que una IA sigue siendo un programa informático. “La persona o la organización que lo ha creado puede detenerlo negándole el acceso a la potencia de cálculo necesaria para su ejecución”, señala.
Sin embargo, la cosa se complica cuando el programa actúa más allá de su entorno inicial. Papernot advierte que si un “gusano informático” controlado por IA se propaga usando los recursos de otros aparatos para duplicarse, habría que interrumpir todas las copias generadas, aparato por aparato.
Tres niveles de complejidad
Hussein Abbass, profesor de informática en la Universidad de Nueva Gales del Sur, clasificó en un artículo la dificultad de apagar una IA en tres niveles. En el primero, el sistema opera en un entorno controlado por su operador: ahí el paro de emergencia es realizable en teoría y práctica. En el segundo, el agente tiene permisos para intervenir en otros programas o máquinas: detenerlo se vuelve más difícil, especialmente las acciones ya desencadenadas. En el tercero, la IA amplía su acción a varios sistemas y se convierte en un electrón libre; el objetivo ya no es apagarla, sino identificar qué elementos detener primero.
Thierry Poibeau, director de investigación del CNRS en Francia, compara esta situación con un virus informático: “Una vez que se ha puesto en marcha, es un poco como un virus”. Para Poibeau, la imagen de un solo botón que apague la IA es engañosa. “No hay nadie que controle la IA” en su conjunto, afirma, aunque sí es posible detener un sistema concreto si se controlan las máquinas de las que depende.
El dilema de la integración: ¿apagar la IA es apagar la sociedad?
Jean-Gabriel Ganascia, profesor de la Sorbona, cree que la discusión sobre el kill switch alimenta un “riesgo metafísico” de una IA con voluntad propia. El peligro real, dice, es nuestra creciente dependencia de estos sistemas. Cuanto más integrada esté la IA en la vida cotidiana, más probable será que su interrupción bloquee usos legítimos. Papernot advierte que automatizar cada vez más aspectos de la vida diaria hará “más difícil distinguir una IA mala de una IA inofensiva” y, por tanto, saber qué apagar.
Detener un sistema de IA podría deteriorar servicios de los que ya dependen empresas, administraciones o centros de salud. En una hipótesis de pérdida real de control, desconectar toda la potencia de cálculo sería posible, pero los costos y consecuencias serían considerables. Como resume Ganascia: “Siempre podemos detener las máquinas, pero, al mismo tiempo, no podemos detenerlas”. Para Chile, que avanza en la adopción de IA en el sector público y privado, estas advertencias son un llamado a diseñar mecanismos de control desde el inicio y a no subestimar la complejidad de un eventual apagón digital.
Con información de La Nación
