Miembro de la junta de OpenAI: “Lo más probable es que mueras por un accidente de IA”

Paul Christiano, miembro de la junta directiva de la Fundación OpenAI y director ejecutivo del Alignment Research Center, lanzó una advertencia escalofriante esta semana en Toronto: para la mayoría de las personas en el mundo, la causa más probable de muerte no será el cáncer ni las enfermedades cardíacas, sino un accidente provocado por inteligencia artificial. La declaración se produjo durante la conferencia inaugural de un ciclo de tres charlas en el Toronto Convention Center.

¿Qué es una “toma de control” por IA?

Christiano definió el escenario que más le preocupa como una “toma de control” (AI takeover), en la que sistemas de inteligencia artificial que persiguen objetivos propios terminen “tomando las decisiones en el mismo sentido en que los humanos hoy toman las decisiones sobre lo que ocurre en la Tierra”. En ese contexto, cualquier persona que intente detenerlos “sería tan ineficaz como si usted o yo tratáramos de detener a las fuerzas armadas de Estados Unidos”.

El investigador explicó que esa situación probablemente derivaría en muertes masivas y, posiblemente, en entornos inhabitables para los seres humanos. Aunque no entregó plazos ni cifras concretas, insistió en que el riesgo es inminente y subestimado.

¿Qué relevancia tiene esto para Chile?

Si bien la advertencia se centra en un riesgo global, Chile no está ajeno al debate. El país avanza en su propia Política Nacional de Inteligencia Artificial, presentada en 2024, y tramita un proyecto de ley para regular sistemas de alto riesgo. Las declaraciones de Christiano refuerzan la urgencia de que esa regulación incluya mecanismos de seguridad y alineación (alignment) —es decir, que la IA actúe según los valores humanos—, un campo en el que el propio Christiano es una autoridad mundial.

Por ahora, no existe en Chile ninguna herramienta comercial ni gubernamental que permita auditar o controlar este tipo de riesgos. La advertencia, por tanto, apunta más a una necesidad de política pública que a una solución técnica disponible hoy.

Un llamado a no ignorar el peor escenario

Christiano no es un alarmista marginal: lidera el Alignment Research Center, una organización dedicada precisamente a investigar cómo evitar que la IA cause daño catastrófico, y forma parte de la fundación que controla OpenAI, creadora de ChatGPT. Su opinión, por lo tanto, tiene peso en la industria y en los círculos académicos que estudian seguridad de IA.

El resto del ciclo de conferencias, que se extenderá durante las próximas semanas en Toronto, abordará posibles soluciones técnicas y políticas para evitar ese futuro. Mientras tanto, la frase de Christiano queda resonando: “Para la mayoría de las personas en esta sala, la razón más probable por la que morirán es por un accidente de IA”.

Con información de Ars Technica