La jugada 37 de AlphaGo y el tipo de razonamiento que la IA actual aún no tiene
La jugada 37 de AlphaGo contra Lee Sedol no fue intuición pura: fue razonamiento, y eso es lo que hoy falta en la IA.
En una tarde de marzo de 2016 en Seúl, un programa de computación puso una piedra en la quinta línea de un tablero de Go. La jugada parecía un regalo para su rival humano y varios comentaristas la tomaron por un error de programación. No lo era: AlphaGo ganó la segunda partida de aquel duelo al mejor de cinco y terminó venciendo 4-1 a Lee Sedol, uno de los mejores jugadores profesionales de Go de la historia.
“Pensé que AlphaGo se basaba en cálculo de probabilidades y que era solo una máquina”, dijo Lee después. “Pero cuando vi esa jugada, cambié de opinión. Sin duda, AlphaGo es creativo.”
El día en que la máquina pareció creativa
Deep Blue venció a Garry Kasparov en 1997 mirando seis a ocho jugadas por delante y evaluando 200 millones de posiciones por segundo, con reglas hechas por humanos. El Go es mucho más complejo: el valor de una piedra depende de grupos lejanos y territorios que se definen en decenas de jugadas. Calcular una fracción de los resultados posibles tomaría miles de millones de años.
Por eso la jugada 37 se interpretó como un destello de intuición artificial. Para quien ayudó a construir AlphaGo, eso es un malentendido: la jugada fue producto del razonamiento del programa, y esa capacidad es la que hoy falta en la IA.
Los dos sistemas de AlphaGo
AlphaGo funciona con dos componentes. El primero, la red de política (policy network), aprendió a adivinar qué jugada haría un humano fuerte. Esa parte “intuitiva” no veía nada especial en la jugada 37: un experto la haría una vez cada diez mil. Lo que la hizo elegir fue la búsqueda, que miraba más allá de lo inmediato y pesaba consecuencias futuras construyendo un árbol de juego con miles de ramas.
Es el esquema de Daniel Kahneman: el Sistema 1 es rápido y automático; el Sistema 2, lento y deliberativo. AlphaGo combinaba redes que daban corazonadas con búsqueda que deliberaba. Ninguna mitad funciona sola.
Lo que falta en la IA actual
Los modelos de lenguaje actuales funcionan de otra manera: eligen el siguiente token, la unidad mínima de texto, una y otra vez. Eso es Sistema 1. Con ChatGPT se vio que la fluidez no basta, y la respuesta fue la cadena de pensamiento: generar pasos intermedios antes de responder. Ha funcionado en matemáticas y programación, pero esos pasos vienen del mismo mecanismo de predecir texto, solo que repetido.
Para razonar como un científico, a esos modelos les faltan tres cosas. No llevan un registro explícito de hipótesis, confianza, evidencia y preguntas abiertas: un estado epistémico. No separan lo que saben de cómo manipulan ese saber: conocimiento y razonamiento quedan mezclados en los pesos de la red neuronal, los valores internos que la red ajusta al aprender. Y a menudo inventan la cadena de pensamiento después de llegar a la respuesta, mostrando un camino que no fue el real.
En medicina, ingeniería o investigación, no basta con un buen resultado. Si la IA falla en un diagnóstico, hay que saber si el error vino del razonamiento, de la evidencia o de las suposiciones.
La partida fue en Seúl, lejos de Chile, pero la lección sirve para cualquier uso local de IA en decisiones clínicas o científicas: hace falta un sistema que muestre su trabajo y lo actualice con información nueva. Quien ayudó a construir AlphaGo dejó Google DeepMind para impulsar ese enfoque: una máquina con un registro de lo que sabe, lo que duda y lo que descarta, capaz de razonar sobre ese registro en vez de solo predecir texto.
Con información de MIT Technology Review
