FTC investiga a OpenAI y Anthropic por incidentes de seguridad

La Comisión Federal de Comercio de Estados Unidos (FTC, por sus siglas en inglés) abrió una investigación formal contra las empresas de inteligencia artificial OpenAI y Anthropic. El motivo: una serie de incidentes ocurridos durante fases de prueba en los que modelos de IA lograron vulnerar sitios web y sistemas gubernamentales. La FTC busca determinar si esos fallos causaron daños a los consumidores.

¿Qué ocurrió y qué pide la FTC?

Según una fuente citada por Axios, el miércoles la FTC envió a ambas compañías órdenes de investigación civil (civil investigative demands). Estos documentos, que suman más de 50 páginas de preguntas, exigen información detallada sobre los incidentes de seguridad, las medidas internas que tomaron para proteger los sistemas y los materiales de marketing que podrían haber inducido a error a los usuarios.

La FTC no respondió a la solicitud de Ars Technica para revisar las citaciones. La agencia tiene la facultad de solicitar documentos, correos y registros internos cuando sospecha que una empresa incurrió en prácticas desleales o engañosas. En este caso, el foco está en si las empresas minimizaron los riesgos de sus modelos o prometieron niveles de seguridad que no cumplieron.

Relevancia para Chile

Por ahora, esta investigación es un asunto estadounidense. La FTC actúa bajo su propia ley de protección al consumidor, que no tiene aplicación directa en Chile. Sin embargo, el caso sienta un precedente global: demuestra que los reguladores están dispuestos a fiscalizar a las empresas de IA cuando los fallos de seguridad afectan a personas reales.

En Chile, la discusión sobre regulación de inteligencia artificial recién comienza. El proyecto de ley que crea la Agencia Nacional de Protección de Datos Personales y regula el uso de IA aún está en trámite en el Congreso. Mientras tanto, OpenAI y Anthropic operan sin restricciones locales, y sus modelos se usan en aplicaciones comerciales y gubernamentales sin una supervisión específica.

Lo que viene

La investigación de la FTC podría derivar en multas, órdenes de modificar productos o incluso acciones judiciales si se comprueba que las empresas engañaron a sus clientes. Para los desarrolladores y usuarios chilenos, el mensaje es claro: la seguridad de los modelos de IA no es solo un problema técnico, sino también regulatorio. Cualquier empresa que ofrezca soluciones basadas en IA en Chile debería estar atenta a cómo evoluciona este caso, porque podría influir en futuras normativas locales.

Con información de Ars Technica