La soif insoupçonnée de l’IA : un coût environnemental croissant

Une machine a battu un humain. Le 9 mars 2016, le programme AlphaGo de Google DeepMind a vaincu le légendaire joueur de Go Lee Sedol. Ce fut une victoire éclatante pour l’intelligence artificielle. Elle a démontré la puissance croissante de l’IA.

Mais cette puissance avait un prix. L’entraînement d’AlphaGo a nécessité des milliers de processeurs puissants. Ces puces spécialisées ont consommé une quantité considérable d’électricité. La plupart des gens ont célébré la victoire. Peu ont songé au coût environnemental. Nous aurions dû.

Les débuts de l’IA : un coût caché émerge

En 2012, AlexNet, un réseau neuronal influent, a remporté la compétition ImageNet. Cela a transformé le deep learning. Les chercheurs ont commencé à entrevoir le potentiel de modèles plus grands et plus complexes. Ces modèles nécessitaient plus de données et plus de puissance de traitement.

L’entraînement d’AlexNet sur un seul GPU prenait environ une semaine. Sa consommation d’énergie était faible. Mais des modèles plus grands allaient voir le jour. Chaque nouvelle avancée signifiait plus de calcul. Plus de calcul signifiait une plus grande consommation d’énergie.

En 2017, OpenAI a observé une tendance inquiétante. La puissance de calcul nécessaire aux plus grands modèles d’IA doublait tous les 3,4 mois. Cela dépassait de loin la loi de Moore, selon laquelle la densité des transistors doublait tous les deux ans. Cette croissance rapide annonçait l’émergence d’un énorme problème énergétique.

En 2019, la Dre Emma Strubell de l’Université du Massachusetts Amherst a publié une étude clé. Son équipe a calculé le coût énergétique de l’entraînement de grands modèles de traitement du langage naturel (NLP). Ils ont découvert que l’entraînement d’un seul grand modèle comme BERT consommait autant d’énergie que cinq voitures pendant toute leur durée de vie. Cela incluait la fabrication et l’utilisation.

L’étude de Strubell a révélé un coût caché. L’entraînement de ces modèles produisait d’énormes émissions de carbone. Ses travaux ont mis en lumière le coût environnemental de l’IA. Les progrès rapides de l’IA s’accompagnaient d’un coût énergétique considérable.

Les LLM et l’essor des centres de données

En 2020, OpenAI a dévoilé GPT-3. Ce fut un bond colossal en taille et en puissance. Il contenait 175 milliards de paramètres. L’entraînement de GPT-3 a nécessité des milliers de GPU fonctionnant des semaines durant. Une seule session d’entraînement a consommé une quantité d’énergie phénoménale.

Les estimations ont évalué la consommation énergétique de l’entraînement de GPT-3 à plus de 1 287 MWh. Cela équivaut à brûler 550 tonnes de CO2. Alex de Vries, data scientist chez Digiconomist, l’a souligné. Il a noté qu’il s’agissait d’un coût d’entraînement unique. La véritable consommation d’énergie proviendrait de l’utilisation constante.

L'« essor des centres de données » est une conséquence directe de la puissance de calcul massive requise par les modèles d'IA modernes comme GPT-3. Ces installations hyperscale abritent des milliers de GPU fonctionnant des semaines durant, consommant de vastes quantités d'électricité et contribuant de manière significative à l'empreinte environnementale croissante de l'IA. (Source : istockphoto.com)

Puis vint novembre 2022. OpenAI a lancé ChatGPT. Le public a rapidement adopté cette IA conversationnelle. Des millions d’utilisateurs ont commencé à interroger le modèle quotidiennement. Chaque requête, chaque interaction, nécessitait de la puissance de calcul. Cela signifiait plus d’énergie.

L’adoption rapide de ChatGPT a mis les centres de données à rude épreuve. Microsoft, un investisseur majeur d’OpenAI, a rapidement étendu son infrastructure. La demande de puces d’IA spécialisées, comme le GPU H100 de Nvidia, a explosé. Ces puces sont incroyablement puissantes. Elles consomment également une quantité d’électricité colossale.

L’industrie mondiale des centres de données était déjà en pleine expansion. L’essor de l’IA a accéléré cette expansion. L’Agence internationale de l’énergie (AIE) a indiqué que les centres de données représentaient 1 % de la demande mondiale d’électricité en 2022. L’AIE prévoit que ce chiffre pourrait doubler d’ici 2026. L’IA est en grande partie le principal moteur de cette croissance.

La soif de l’IA : eau, énergie et réseau électrique

Les centres de données consomment une quantité importante d’électricité. Ils sont également incroyablement gourmands en eau. Les racks informatiques massifs génèrent une chaleur intense. Cette chaleur doit être dissipée pour éviter la surchauffe. L’eau est l’agent de refroidissement le plus courant et le plus efficace.

Microsoft a révélé que ses centres de données ont consommé 6,4 milliards de litres d’eau en 2022. Cette quantité pourrait remplir des milliers de piscines olympiques. Une grande partie de cette eau s’évapore pendant le processus de refroidissement. Cela met à rude épreuve les ressources en eau locales, en particulier dans les régions sujettes à la sécheresse.

Les centres de données de Google ont consommé 15,3 milliards de litres d’eau en 2022. Ce chiffre était en hausse de 20 % par rapport à l’année précédente. Shaolei Ren, chercheur à l’UC Riverside, a étudié ce phénomène. Il a estimé que l’entraînement de GPT-3 dans un centre de données américain pourrait consommer 700 000 litres d’eau douce. C’est l’équivalent en eau de la production de 370 voitures BMW.

Les demandes énergétiques de l’IA mettent à rude épreuve les réseaux électriques. Les clusters d’IA nécessitent une alimentation électrique constante et de haute puissance. De nombreux centres de données dépendent encore des combustibles fossiles pour leur électricité. Cela contribue directement aux émissions de gaz à effet de serre. L’AIE met en garde contre une instabilité potentielle du réseau. De nouvelles capacités de production d’énergie sont nécessaires pour répondre à cette demande croissante.

Aux États-Unis, les centres de données de la « Data Center Alley » de Virginie consomment déjà des gigawatts d’énergie. Cela équivaut à plusieurs grandes centrales nucléaires. Les communautés locales sont confrontées à des coûts énergétiques accrus. Elles subissent également les impacts environnementaux de la construction de nouvelles centrales électriques. La demande insatiable de l’IA en infrastructures de calcul pèse sur ces deux ressources.

Le GPU Nvidia H100 est une puce d'IA spécialisée conçue pour le calcul haute performance, connue pour sa puissance immense et sa consommation d'électricité significative, ce qui en fait un composant clé dans la hausse des besoins énergétiques de l'IA. Chaque GPU H100 contient 80 milliards de transistors et peut consommer jusqu'à 700 watts de puissance. (Source : altatechnologies.com)

La quête d’efficacité

L’industrie technologique reconnaît ces défis environnementaux. Les fabricants de puces innovent. Nvidia conçoit des GPU plus économes en énergie. Ces nouvelles puces offrent plus de puissance de traitement par watt. Cela contribue à ralentir la croissance de la consommation d’énergie.

Google a développé ses propres Tensor Processing Units (TPU). Ces puces personnalisées gèrent efficacement les charges de travail d’IA. Elles visent une plus grande efficacité que les GPU à usage général. D’autres géants de la technologie comme Amazon et Microsoft font de même. Ils développent leur propre matériel d’IA spécialisé.

L’énergie renouvelable est une priorité. Des entreprises comme Google, Microsoft et Amazon visent 100 % d’énergie renouvelable pour leurs opérations. Elles achètent des crédits d’énergie renouvelable. Elles investissent également directement dans des parcs solaires et éoliens. Cela compense les émissions de carbone.

Faire correspondre l’énergie renouvelable fluctuante à la demande constante des centres de données s’avère toujours complexe. Les solutions de stockage par batterie sont vitales. Des systèmes améliorés de gestion du réseau aident également. Des chercheurs comme Sasha Luccioni de Hugging Face plaident pour une transparence accrue dans la déclaration de la consommation d’énergie. Cela nous permet de mieux suivre l’empreinte environnementale réelle de l’IA.

Les gouvernements interviennent également. L’Union européenne s’est dotée de réglementations comme l’AI Act. Elle encourage les normes d’efficacité énergétique pour les systèmes d’IA. Les décideurs politiques explorent des incitations au développement durable de l’IA. Les choix que nous faisons maintenant définiront le véritable héritage de l’IA. Cela inclut la manière dont nous construisons et alimentons ces systèmes. Nous ne pouvons plus nous permettre d’ignorer sa soif insoupçonnée. Il ne s’agit pas seulement de technologie ; il s’agit de notre planète.

Les Tensor Processing Units (TPU) conçues sur mesure par Google, dévoilées pour la première fois en 2016, sont des accélérateurs d'IA spécialisés conçus pour gérer les charges de travail de machine learning avec une plus grande efficacité énergétique que les GPU à usage général. Ces puces sont déployées dans les centres de données de Google, alimentant des services comme Google Search et Google Translate, et représentent un effort majeur pour réduire l'empreinte environnementale de l'IA. (Source : spectrum.iee.org)

---

Vous pourriez aussi aimer:

👉 2016 : le tournant qui a fait du smartphone un compagnon intelligent

👉 Démasquer les bots en ligne : le défi du mimétisme sur X et Facebook

👉 Comprendre l’indépendance énergétique : Sécurité, Économie, Avenir