El costo oculto de la IA: almacenar datos puede superar al de los GPUs
Un estudio de WD e IDC revela que el 95% de las empresas ya vio crecer sus datos por IA generativa.
Cuando los ejecutivos piensan en el costo de la inteligencia artificial, lo primero que les viene a la mente son los GPUs —esos procesadores especializados que consumen gigavatios de energía— y la larga lista de espera para conseguirlos. Sin embargo, esa imagen deja fuera un componente clave: el almacenamiento de datos. ¿Qué pasa con la información después de que un modelo responde? Gran parte de los datos que se generan en segundo plano —desde millones de consultas diarias hasta imágenes y videos— deben guardarse en algún lado.
El efecto multiplicador de la inferencia
A diferencia del entrenamiento de un modelo —un proceso finito que tiene un inicio, un consumo de cómputo y un final—, la inferencia funciona de manera continua. Cada vez que un modelo responde a una pregunta, deja un rastro. En el caso de los videos generados por IA, ese rastro es enorme. Según mediciones internas de Western Digital (WD), un clip de 8 segundos devuelto al usuario como un archivo de 3,97 MB en 720p deja más de 500 MB de datos asociados en el back-end: registros, contexto en caché, renders intermedios, respaldos y registros de seguridad. Esto representa un incremento de 130 veces respecto al tamaño del archivo que ve el usuario.
Escalar esto a una empresa que genera videos de mayor resolución y duración significa que la huella en segundo plano puede llegar a cientos de gigabytes por clip. Y esa huella crece rápido: McKinsey proyecta que la demanda de inferencia de IA crecerá a una tasa compuesta anual del 35% hasta 2030, frente al 22% del entrenamiento, representando más del 40% de la demanda total de los centros de datos para finales de la década.
El dato que los CFOs chilenos deberían mirar
Un estudio global encargado por WD a IDC, que encuestó a 763 tomadores de decisiones de TI y negocios, encontró que casi el 95% de los encuestados reportó un aumento en el volumen de datos debido a la IA generativa en los últimos 12 meses. De ellos, aproximadamente el 61% reportó un crecimiento del 25% o más. “Puedes pensar en tener más almacenamiento como una optimización para mantener los GPUs ocupados”, señaló un gerente de producto de un proveedor de servicios en la nube citado en el informe. “El mayor desafío es asegurar que los GPUs no estén inactivos, esperando que los datos aparezcan. Horas de GPU ociosa se vuelven muy caras, muy rápido”.
En términos prácticos, si el gasto en almacenamiento crece un 25% año tras año mientras el presupuesto de cómputo lo hace de forma más predecible y cíclica, el almacenamiento termina superando la partida que recibe más atención. Para un director financiero o un CIO en Chile, esto significa que el “gasto en infraestructura de IA” puede estar mal dimensionado si solo se enfoca en el cómputo. Un modelo que se queda inactivo mientras los datos se cargan cuesta casi tanto como uno que espera por un GPU, pero el cuello de botella del almacenamiento permanece oculto hasta que ya es un problema.
Cómo prepararse para la ola de datos
El estudio de WD e IDC también reveló que el 96% de los encuestados anticipa necesitar una recuperación más rápida de archivos para soportar procesos de inferencia o generación aumentada por recuperación (RAG, por sus siglas en inglés). La estrategia de almacenamiento tiende a diseñarse para rendimiento de primer nivel —datos que se acceden instantáneamente—, pero la mayor parte de los datos de IA se acumula en niveles más templados o fríos. Lo que las empresas necesitan es capacidad escalable económicamente: una infraestructura diseñada para todo el ciclo de vida de los datos de IA, que equilibre rendimiento, capacidad, confiabilidad y costo total de propiedad.
Para las empresas chilenas que están adoptando IA generativa —ya sea un retailer generando videos de catálogo o una aseguradora procesando documentos con RAG—, la lección es clara: el almacenamiento no es un gasto menor. Un equipo que presupueste IA como “cómputo más un error de redondeo para almacenamiento” podría descubrir, en 12 a 18 meses, que ese error se ha convertido en una fracción significativa del costo total del programa. Preguntas clave: ¿cuál es la política de retención de datos para contenido generado por IA? ¿Está el almacenamiento preparado para que los datos se reutilicen como insumos de futuros modelos? La respuesta definirá si la inversión en IA es sostenible o no.
Con información de MIT Technology Review
