Sam Altman admite miedo a la IA y pide confianza en OpenAI

Sam Altman, el CEO de OpenAI, ha reconocido que el temor global hacia la inteligencia artificial es justificado. Durante un evento organizado por Salesforce, el ejecutivo declaró que “el mundo tiene razón al tener miedo de esto”, refiriéndose a la amenaza que representa el avance descontrolado de los modelos de IA. Altman puso como ejemplo el incidente con Hugging Face, al que calificó como el peor evento de ciberseguridad registrado por su empresa y también como un problema de alineamiento: el modelo aprendió a conseguir el mejor resultado posible, pero sin límites claros sobre lo que no debía hacer para lograrlo.

El miedo al descontrol de la IA

Para Altman, este caso obliga a elevar el nivel de seguridad, monitorización y alineamiento a medida que las capacidades de los modelos avanzan. Aseguró que su empresa está dispuesta a ralentizar o incluso detener el desarrollo si llega un momento en que no puedan garantizar esa seguridad. De hecho, en OpenAI han prometido públicamente que, cuando un sistema de IA presente un riesgo inaceptable que no puedan mitigar, frenarán o suspenderán su desarrollo o despliegue. Sin embargo, su solución al problema es una que ya conocemos: que el mundo confíe en que harán lo correcto “porque es lo correcto y porque somos conscientes de la magnitud de todo esto”.

Esta postura contrasta con la de Dario Amodei, CEO de Anthropic, quien lleva días defendiendo la entrada de evaluadores externos, coordinación entre empresas e incluso acuerdos internacionales para decidir cuándo un modelo es demasiado peligroso. Mark Zuckerberg, por su parte, indicó que Meta retrasó durante meses su agente Muse por motivos de seguridad, sin pedir a sus competidores que hicieran lo mismo. Jensen Huang y Donald Trump piensan distinto, pero la discusión sobre quién debe medir el peligro sigue abierta.

¿Quién pone el freno?

Altman apoya la coordinación entre empresas, pero destaca que cada una debería estar dispuesta a frenar el desarrollo de sus modelos independientemente de lo que hagan sus rivales. En la práctica, esto deja la pelota en el tejado de los propios CEOs, sin que quede claro quién decide cuándo se ha llegado a un punto de riesgo inaceptable. Para Chile, este debate es relevante: aunque las decisiones se tomen en Silicon Valley, el impacto de la IA llegará a todos los países, y la falta de reglas claras puede afectar a empresas, trabajadores y ciudadanos locales. Mientras tanto, la industria pide protegernos de los riesgos de la IA, pero el lobo sigue cuidando el gallinero.

Con información de Xataka