Gigantes de la IA aceptan auditorías voluntarias impulsadas por Trump

OpenAI, una de las principales empresas de inteligencia artificial del mundo, frenó el entrenamiento de sus modelos y pausó lanzamientos por una seguidilla de incidentes de seguridad. En ese clima, el gobierno de Donald Trump insiste en que la propia industria se regule en lugar de esperar reglas impuestas por el Estado.

El martes, dos docenas de compañías tecnológicas firmaron un acuerdo voluntario con la Casa Blanca para implementar los controles recomendados por el Ejecutivo estadounidense. El punto central es someterse a auditorías de seguridad independientes: revisiones hechas por terceros para comprobar si los controles internos, el monitoreo y la detección de riesgos de cada empresa realmente funcionan. Es un paso concreto en la estrategia de Washington para la inteligencia artificial.

Qué incluye el compromiso

Las auditorías externas se concentrarán en riesgos relacionados con ciberseguridad, bioseguridad, amenazas químicas y acciones no intencionadas de los modelos de IA. Este último punto cubre situaciones en las que un sistema hace algo que sus creadores no anticiparon y que puede provocar daños en el mundo real.

Las firmantes también se comprometieron a reunirse periódicamente para compartir buenas prácticas y fijar estándares y puntos de referencia comunes de seguridad. La lógica es que todas midan sus riesgos con la misma vara y que ninguna baje sus defensas para avanzar más rápido que las demás.

Entre los firmantes están los nombres más influyentes del rubro: Dario Amodei, de Anthropic; Sam Altman, de OpenAI; Elon Musk, de SpaceXAI; Jensen Huang, de Nvidia; Mark Zuckerberg, de Meta; y Sundar Pichai, de Alphabet/Google.

Qué significa para Chile

Trump ha dicho que la autorregulación es el mejor camino para combatir los riesgos emergentes del desarrollo de IA de frontera, es decir, los modelos más avanzados y capaces. Este acuerdo es la aplicación práctica de esa idea: el gobierno pide, no impone, y espera que las propias empresas demuestren que pueden controlarse.

Para Chile, el pacto no tiene efecto directo: no obliga a las empresas locales ni modifica las reglas del país. Aun así, sirve como referencia, porque define el tono de la política de IA en Estados Unidos, el país donde tienen base los principales firmantes.

La parte práctica para el debate chileno es que la autorregulación no significa ausencia de control: en este acuerdo, la industria acepta auditorías externas voluntarias, reuniones periódicas y estándares comunes. Es una señal de que incluso los defensores de la autorregulación terminan pidiendo algún tipo de fiscalización y de rendición de cuentas.

Con información de Ars Technica