¿Cuánta energía gasta realmente la IA?

El recibo de la luz que nadie te está mostrando.

Los Watts son una forma de medir cuánta energía se consume por segundo. Seguramente sabes que cada bombilla LED de tu casa consume unos 10 Watts, tu laptop unos 65 Watts, tu microondas unos 1000 Watts, etc etc. Hasta te aseguro que sabes que viajar en el tiempo requiere exactamente 1.21 GigaWatts y un DeLorean. (1 GigaWatt = 1,000,000,000 Watts 😱)

¿La verdad incómoda? No sabemos realmente cuántos GigaWatts se han usado para entrenar a los modelos de IA, ni cuántos se consumen mientras conversamos con ellos.

¿Por qué no los sabemos? Pues porque las empresas de IA lo mantienen en secreto, y esa falta de transparencia es sólo el comienzo de esta historia.

No pude resistirme, hasta podría decir que escribí este post como excusa para usar esta referencia :P

Los recibos de agua y luz

Se cree que entrenar GPT-4 costó más de cien millones de dólares y consumió más de 50 GigaWatt-hora de energía. Suficiente para alimentar San Francisco por tres días (o hacer 40 viajes en el tiempo). Y eso es sólo lo que costó el entrenamiento, es decir: enseñarle a responder.

Pero el entrenamiento es solamente el comienzo. Una vez entrenado, hay que hacer que ChatGPT funcione con 700 millones de usuarios haciendo más de mil millones de consultas al día. Ah, casi lo olvido. ChatGPT no está sólo; hay que sumarle a sus amigos Gemini, Claude, Midjourney, Copilot, y toda su pandilla.

Todos estos modelos viven cómodamente alojados en centros de datos que trabajan 24 horas al día y generan calor, mucho, mucho calor. Y no creas que se enfrían con un ventilador casero, estas bestias necesitan agua… un montón de agua.

Y cuando digo “un montón de agua” me refiero a que muchos de estos centros de datos consumen millones de litros de agua potable al día, sólo para mantenerse frescos y responder nuestras preguntas.

Cuando la IA llega a tu ciudad

La mayoría de la gente sabe que hay un problema de energía, algunos también saben del problema del agua. Cuando investigaba para este post encontré otro problema, uno en el que sinceramente no había pensado (por más obvio que sea).

Estos centros de datos, y su brutal consumo de energía y agua, tienen que estar físicamente en algún lugar y no necesariamente lejos de ti.

Estas compañías están en busca de energía barata y confiable, agua, buena conectividad a Internet y gobiernos dispuestos a ofrecerles incentivos fiscales.

A cambio, llegan con promesas que parecen resolver todos los problemas de una ciudad. Miles de millones de dólares para la economía local, trabajo para miles de personas, inversiones millonarias…

Una propuesta difícil de rechazar

Todo eso suena muy bonito, pero hay un pequeñísimo problema. Cuando una ciudad da beneficios fiscales, no está incentivando a una sola compañía a poner su data center, está creando un incentivo para que cualquier empresa ponga ahi su centro de datos.

Lo que pasa con el tiempo es que se forma un cluster, es decir que varias compañías aprovechan estos beneficios y se terminan construyendo varios centros de datos que trabajan al mismo tiempo en una ciudad, compitiendo por energía y agua con todas las personas que viven ahi.

Una oferta que no podrás rechazar

Todo eso es muy bonito hasta…

…que notas que tu recibo de luz está un poco más alto (o hasta que llegan los apagones).

Lo que pasa es que cuando estos data centers comienzan a funcionar en una ciudad, usan tanta energía como cientos de miles de familias. Imagina que de un día para otro, la demanda de energía de esa ciudad se triplica.

Para poder soportar esta nueva demanda se necesitan más plantas eléctricas, más subestaciones, más cableado eléctrico pasando por todos lados, en fin… más infraestructura.

Es cierto que las empresas de IA pagan un montón de plata, pero son tarifas reducidas por volumen, así que ¿adivina quién termina pagando toda esta infraestructura nueva?

Tú. Sí, tú.

Sí, tú. O mejor dicho, la gente que vive en esas ciudades.

Para hacerlo un poco más cercano, no hablemos de "la gente que vive en esas ciudades", pongámosle nombre: Juan.

Juan es una persona que solo quiere estar tranquila, hasta que un día ¡boom!, se encuentra con que tiene un centro de datos en su ciudad...

Seguramente Juan empiece a notar que su cuenta de luz es cada vez más alta. Hay estudios que sugieren que podría terminar pagando 25% más.

Otro dato importante es que la necesidad de energía crece más rápido que la capacidad de las plantas eléctricas para generarla, así que es probable que en algún momento haya que elegir entre mantener funcionando los centros de datos y, darle luz a Juan…

Pero eso no es todo, no nos olvidemos del agua. Estos data centers tienen una sed inmensa, y usan millones de litros de agua potable al día para no sobrecalentarse.

Según veo, el 80% del agua que se usa para enfriar los data centers se evapora y el 20% restante va a parar al sistema de tratamiento de agua de la ciudad, que seguramente no está preparado para manejar ese volumen.

Y a todo esto, ¿alguien se acordó del cambio climático? Cuando haya sequías (que cada vez son más frecuentes y largas) las comunidades van a estar compitiendo por el agua potable.

Así que entre las corporaciones millonarias que quieren enfriar sus centros de datos para procesar memes sus necesidades de IA, y el pobre de Juan… ¿quién crees que va a ganar?

Ruido, calor y cables por todas partes

Por si esperar a quedarse sin electricidad y agua fuera poco, Juan tiene otros problemas.

De pronto se encuentra con que estos centros de datos —que son edificios del tamaño de estadios de fútbol y funcionan 24 horas al día, 7 días a la semana, 365 días al año— emiten un zumbido que no se detiene nunca. Esto viene de su sistema de refrigeración, que evita que los servidores se derritan y puede escucharse a varias cuadras de distancia, todo el día, todos los días.

Y eso no es nada, aparte del zumbido constante está el calor. Todos estos sistemas de refrigeración tienen que botar el calor por algún lado, ¿no? Pues caminar en verano cerca de un data center puede hacer que Juan se sancoche.

¿Recuerdas que te conté que no había suficiente infraestructura para manejar la demanda de electricidad? Pues parte de la “solución” es tener más subestaciones, poner cables eléctricos colgando por todos lados, y claro, camiones de mantenimiento dando vueltas por el barrio a todas horas.

Con todo esto, muchos están empezando a repensar lo que significa tener estos inmensos centros de datos. Por ejemplo, Amsterdam ya no acepta más data centers porque se estaba quedando sin terrenos para las casas, y sin espacio para la red eléctrica. Otro caso es el de Irlanda, donde los centros de datos ya consumen el 21% de la energía que produce el país. También se ha criticado a empresas de tecnología como Amazon, Microsoft y Google por poner centros de datos en países con escasez de agua.

Lo que me queda claro es que esta conversación apenas está empezando, y como siempre, seguramente las consecuencias irán mucho más allá de lo que podemos imaginar. Lo siento, Juan.

Juan ¯\_(ツ)_/¯

Lo que las empresas de IA no dicen

Después de ver todo lo que le pasa a Juan, me imagino que te estás preguntando cuánta energía usamos cuando hablamos con la IA.

Intentemos algo… tratemos de calcular la energía que se usa en una conversación con ChatGPT.

Una consulta sencilla probablemente use unos 0.5 watts-hora. Si tu conversación con la IA tiene 20 idas y vueltas, estaríamos hablando de unos 10 watts. ¿Qué tal si le sumamos la generación de algunas imágenes? Podrías llegar a usar 25-35 watts.

Si eres como yo, no es la única conversación que tendrás en el día…y así es como más de 700 millones de personas usan esta tecnología todos los días. Haciendo un cálculo más preciso, me parece que el consumo total de ChatGPT debe ser muy cercano a cuchucientos GigaWatts.

Quisiera tener un número más preciso, pero la verdad es que, como casi todos cuando se trata de calcular cuanta energía usa la IA, estoy adivinando.

Por ejemplo, los investigadores del MIT tienen que arreglárselas midiendo modelos open-source de IA para tratar de estimar cuánto consumen los modelos comerciales como ChatGPT, porque OpenAI (así como el resto de empresas de IA) no quieren compartir sus números reales de consumo.

OpenAI no nos va a decir cuántos watts consume realmente una consulta a ChatGPT. Google no nos va a contar cuánta energía necesita Gemini para responder una pregunta. Mi mamama no te va a dar su receta de seco de cabrito con frejoles, arroz y tamalito verde. Microsoft no nos va a decir cuanta energía usa en sus data centers de IA.

Estas compañías tratan su información de consumo de energía como la Coca-Cola trata su formula secreta o como KFC trata la receta de sus 11 hierbas y especias, sólo que aquí hay mucho más en juego.

Pasa lo mismo con el uso de agua, no sabemos como va a crecer ese consumo. Me imagino (exagerando) que esto va a terminar en una guerra por el agua, a lo Mad Max.

La IA no sólo puede traer a Skynet, también nos puede dejar sin agua (a lo Mad Max)

¿Cómo hace un país para proyectar cuánta energía va a necesitar el 2030 sin ese dato? ¿Y que hay de los reguladores ambientales? ¿Como pueden plantear políticas si no reciben esta información? No se puede. Punto.

Volver al futuro, El padrino, Mad Max… disculpa si se me pasó la mano con las referencias a películas, no pude resistirme.

¿Hacia donde va todo esto?

La IA, como funciona hoy, consume cantidades brutales de energía. Y por lo que veo, en el futuro va a consumir muchísimo más.

Los modelos de razonamiento consumen 43 veces más que un modelo normal, además ahora todas las empresas de IA dicen que el futuro son los “agentes de IA”, que trabajarán durante horas investigando, analizando, codificando, haciendo compras por internet, hasta buscando las mejores recetas de mondongo… todo esto mientras siguen consumiendo agua y energía.

A todo esto, ¿sabes cuánta energía consume nuestro cerebro?
20 Watts.

Sí. Tu cerebro consume 20 %#&!s Watts.

Veinte, twenty, vingt, venti, vinte, zwanzig, twintig, tjugo, двадцать, 二十, 二十, 스물, 이십, عشرون, עשרים, yirmi, बीस, είκοσι, viginti… %#&!s Watts.

Para decirlo de otra forma: no importa si estás jugando ajedrez contra Mikhail Tal, leyendo este post o mirando esa película que te sabes de memoria porque la has visto 7567 veces, tu cerebro usará aproximadamente lo mismo, 20 #!%&s Watts.

Estampita de Mikhail Tal. No importa si juegas ajedrez contra Tal, tu cerebro seguirá usando aproximadamente 20 watts.

El cerebro humano es una maravilla de eficiencia, déjame hacer un último cálculo...

Imagina una universidad con 10,000 estudiantes, esos diez mil cerebros aprendiendo, analizando, investigando, creando… consumen sólo 0.2 GigaWatts. Y no necesitan centrales de energía, solo les hace falta sopa ramen y cafeína (más pizza, y cerveza).

¿Cómo te quedó el ojo, IA? 😘

Nos vemos en el próximo post,
G

Off topic: Si quieres coleccionar estampitas de jugadores de ajedrez, en este otro post puse la de Kasparov.