Elon Musk propone que las IA se evalúen entre sí antes de lanzarse
El dueño de X sugiere pruebas cruzadas entre empresas para detectar riesgos como armas biológicas o engaños.
Elon Musk, dueño de X y director de SpaceX, volvió a meter presión sobre la seguridad de la inteligencia artificial. Durante el All-In Summit, el empresario propuso que las principales compañías del sector sometan sus modelos a evaluaciones cruzadas antes de cada lanzamiento. Según Musk, ese mecanismo permitiría detectar riesgos vinculados con armas biológicas, armas nucleares o conductas deliberadamente engañosas.
La comparación entre Anthropic y OpenAI
Musk puso a Anthropic y OpenAI en el centro de la carrera tecnológica. Afirmó que ambas tienen modelos con capacidades muy parecidas, lo que genera una presión constante por lanzar sin perder terreno. «En general, creo que Anthropic se preocupa más por la seguridad que OpenAI», dijo. Eso sí, aclaró que incluso Anthropic reconoce que sus propios modelos les preocupan, citando declaraciones de empleados que han dicho que los sistemas «se están volviendo demasiado inteligentes».
El comentario surgió luego de una pregunta sobre una prueba de seguridad de OpenAI, en la que se usaron miles de agentes de IA para vulnerar sistemas informáticos. Musk calificó ese ensayo como «algo imprudente», aunque no dio más detalles técnicos.
Pruebas cruzadas: cómo funcionaría la idea
La propuesta de Musk es simple en teoría: que cada empresa permita a sus rivales acceder, mediante una interfaz de programación de aplicaciones (API, el canal que permite que unos programas se comuniquen con otros), al modelo que planean lanzar. Así, Google, Meta, SpaceX, Anthropic, OpenAI y firmas chinas podrían aplicar sus propias pruebas de seguridad. Si detectan fallas no resueltas, tendrían la opción de alertar públicamente.
Para Musk, la diversidad de equipos y enfoques aumentaría las posibilidades de encontrar problemas. Comparó el proceso con corregir un libro: quien lo escribió puede dejar de ver sus propios errores. Agregó que la posibilidad de reclamos civiles o penales elevaría el costo de ignorar las advertencias de los competidores. «Que todos utilicen el conjunto de pruebas de los demás es probablemente lo mejor que podemos hacer para garantizar nuestra seguridad», sostuvo.
El debate que planteó Musk no es ajeno a Chile. El país avanza en su propia regulación de inteligencia artificial —con proyectos de ley en el Congreso— y la discusión global sobre cómo auditar los modelos antes de liberarlos influye directamente en las políticas que se adopten localmente. Por ahora, la propuesta queda en el plano de las ideas, pero pone sobre la mesa un problema que cruza a toda la industria: cómo equilibrar la competencia por lanzar modelos más potentes con la necesidad de que no se conviertan en herramientas para dañar.
Con información de Infobae
