Como detalhado por Partha Ranganathan, VP & Engineering Fellow da Google, numa sessão online para a imprensa em que o TEK Notícias participou, o tamanho dos modelos de IA continua a aumentar, passando de milhões para biliões de parâmetros, o que implica uma capacidade computacional cada vez maior.

Mas, com cada vez mais poder computacional, crescem também as responsabilidades ambientais. De acordo com o responsável, a nova metodologia quer abrir a porta à discussão sobre a pegada ambiental da IA, sobretudo numa altura em que, nesta indústria, ainda não há consistência na maneira como o consumo energético e outros parâmetros importantes são medidos.

A metodologia desenvolvida pela tecnológica, descrita num novo relatório técnico, permite medir os consumos de energia e água, mas também as emissões de carbono, dos seus modelos de IA. Através dela foi possível estimar que, em média, um prompt de texto nas apps do Gemini consome 0,24 watts-hora (Wh) de energia e 0,26 mililitros de água, emitindo 0,03 gramas de equivalente de dióxido de carbono (gCO2e).

Para pôr este consumo de energia em perspetiva, Savannah Goodman, responsável do Advanced Energy Labs da Google, afirma que o impacto por prompt é equivalente a ver televisão por menos de nove segundos.

Veja o vídeo

A responsável detalha que, nos últimos 12 meses e através de um conjunto de medidas de otimização, o consumo médio de energia e a pegada de carbono por prompt de texto das apps Gemini diminuíram 33 e 44 vezes, respetivamente.

Segundo Savannah Goodman, muitos dos atuais cálculos de consumo de energia da IA incluem apenas o consumo ativo da máquina. Para colmatar essas lacunas, a metodologia desenvolvida tem “em conta todos os factores críticos”

Entre eles contam-se, por exemplo, a potência dinâmica do sistema completo, o que inclui não só a energia e a água usada pelo modelo de IA principal durante a computação ativa, mas também a utilização real dos chips alcançada à escala de produção, indica a Google.

Além de ter em conta das máquinas inativas e a utilização de CPU e RAM, a metodologia inclui parâmetros como a sobrecarga do centro de dados e o consumo de água, frequentemente usada no arrefecimento dos data centers.

Por comparação, ao aplicar uma metodologia não abrangente, que considera apenas consumo ativo de TPU e GPU, estima-se que um prompt de texto no Gemini use 0,10 Wh de energia, emita 0,02 gCO2e e consoma 0,12 ml de água, o que, segundo os especialistas, é no melhor dos casos um "cenário otimista", subestimando a verdadeira pegada operacional da IA.

IA gasta cada vez mais energia. Google muda estratégia para reduzir impacto dos data centers
IA gasta cada vez mais energia. Google muda estratégia para reduzir impacto dos data centers
Ver artigo

O desenvolvimento da nova metodologia junta-se às medidas implementadas pela empresa para reduzir o impacto do consumo energético dos seus data centers. Ainda este mês, a tecnológica assinou dois novos acordos com duas empresas de eletricidade nos Estados Unidos, a Indiana Michigan Power e a Tennessee Valley Authority.

A empresa tem vindo a trabalhar para integrar novas capacidades mais flexíveis nos seus centros de dados, permitindo deslocar ou reduzir o consumo de energia em determinadas horas ou alturas do ano. Segundo a Google, a assinatura dos acordos afirma-se como a primeira vez que a empresa aplica esta prática, conhecida como “demand response”, a processos na área de machine learning.