Con el continuo avance de la inteligencia artificial, el equilibrio entre la innovación y el desarrollo sostenible se ha convertido en un desafío importante. Recientemente, OpenAI lanzó su último modelo de IA, o3, el más potente hasta la fecha. Sin embargo, además del costo de ejecutar estos modelos, su impacto ambiental ha generado una gran preocupación.
Un estudio muestra que cada tarea de o3 consume aproximadamente 1.785 kilovatios hora de electricidad, equivalente al consumo eléctrico de una familia estadounidense promedio durante dos meses. Según el análisis de Boris Gamazaychikov, responsable de sostenibilidad de IA en Salesforce, este consumo de energía corresponde aproximadamente a 684 kilogramos de emisiones de dióxido de carbono equivalente, comparable a las emisiones de carbono de cinco tanques de gasolina llenos.
La versión de alto cálculo de o3 se sometió a pruebas de referencia en el marco de ARC-AGI, basándose en el consumo de energía de las GPU estándar y el factor de emisión de la red eléctrica. Gamazaychikov afirma: "A medida que la tecnología se expande e integra, debemos prestar más atención a estas compensaciones". También menciona que este cálculo no considera el carbono implícito, solo el consumo de energía de la GPU, por lo que la emisión real podría estar subestimada.
Además, el científico de datos Kasper Groes Albin Ludvigsen señala que el consumo de energía de un servidor HGX equipado con 8 tarjetas gráficas Nvidia H100 está entre 11 y 12 kilovatios, mucho más que los 0,7 kilovatios por tarjeta.
En cuanto a la definición de tareas, Pierre-Carl Langlais, cofundador de Pleias, expresa su preocupación por el diseño del modelo, especialmente si el diseño del modelo no puede reducirse rápidamente. "Resolver problemas matemáticos complejos requiere una gran cantidad de borradores, pruebas intermedias y razonamiento", dice.
A principios de este año, un estudio mostró que ChatGPT consumía un 10% del agua potable diaria promedio de una persona en una conversación, casi medio litro de agua. Si bien esta cifra puede parecer pequeña, cuando millones de personas usan este chatbot diariamente, el consumo total de agua es considerable.
Kathy Baxter, arquitecta principal de tecnología de IA responsable en Salesforce, advierte que los avances en IA como el modelo o3 de OpenAI podrían provocar la paradoja de Jevons. "Si bien la energía requerida podría disminuir, el consumo de agua podría aumentar", dice.
Para abordar los desafíos que enfrentan los centros de datos de IA, como el alto consumo de energía, las complejas necesidades de refrigeración y la gran infraestructura física, empresas como Synaptics y embedUR están intentando resolver estos problemas mediante la IA de borde para reducir la dependencia de los centros de datos, disminuir la latencia y el consumo de energía, permitiendo la toma de decisiones en tiempo real a nivel de dispositivo.
Puntos clave:
🌍 El consumo de energía de cada tarea de o3 equivale al consumo eléctrico de una familia durante dos meses.
⛽ Las emisiones de dióxido de carbono por tarea equivalen a las emisiones de cinco tanques de gasolina llenos.
💧 El consumo de agua de ChatGPT en una conversación alcanza el 10% del consumo diario promedio de una persona.
