Le contrat social de l’IA : la responsabilité des entreprises dans une nouvelle ère

En 1953, l’économiste Howard R. Bowen a soulevé une question fondamentale. Son livre, « Social Responsibilities of the Businessman », s’interrogeait : qu’est-ce que les entreprises devaient à la société, au-delà de la simple recherche de profit ? Cette idée a marqué le début de la responsabilité sociale des entreprises (RSE) moderne.

La RSE implique que les entreprises gèrent leur impact sur la société et l’environnement. Initialement perçue comme une démarche philanthropique, elle est ensuite devenue une partie intégrante de leur fonctionnement. À ses débuts, la RSE se concentrait sur les conditions de travail et la protection de l’environnement. Les entreprises ont alors commencé à prendre en compte d’autres parties prenantes que leurs seuls actionnaires.

Les origines de la responsabilité

Le 14 septembre 1970, l’économiste Milton Friedman a fait une déclaration audacieuse dans The New York Times Magazine. Il y affirmait que la seule mission sociale d’une entreprise était de maximiser ses profits. Pendant longtemps, la plupart des entreprises ont adhéré à cette vision, considérant le profit comme leur unique objectif.

Mais une idée différente a lentement gagné du terrain. Les consommateurs réclamaient des produits plus éthiques, et les groupes environnementaux exigeaient que les entreprises prennent leurs responsabilités. Puis, dans les années 1980, de vastes catastrophes environnementales se sont produites. La tragédie du gaz de Bhopal en 1984, par exemple, a révélé la négligence des entreprises et mis en lumière un terrible coût humain.

Dans les années 1990, la RSE est devenue plus structurée. Les entreprises ont rédigé des codes de conduite et publié des rapports environnementaux. En 2000, les Nations Unies ont lancé le Pacte mondial, un programme qui invitait les entreprises à suivre dix principes universels couvrant les droits de l’homme, le travail, l’environnement et la lutte contre la corruption.

Ce changement a marqué un tournant : les entreprises ne pouvaient plus agir de manière isolée. Elles devaient désormais prendre en compte leur impact plus large sur la société. La RSE est ainsi devenue une stratégie essentielle, bien plus qu’un simple geste de bienfaisance.

Les machines commencent à penser

À l’été 1956, quelques scientifiques se sont réunis au Dartmouth College. Ils y ont discuté d’« intelligence artificielle ». John McCarthy a inventé le terme, qui désignait des machines capables de penser comme des humains. Ce fut un début ambitieux et purement théorique.

Pendant des décennies, l’IA est restée principalement confinée aux universités. Les chercheurs ont exploré différentes approches pour la développer, créant des systèmes experts et les premiers réseaux neuronaux. Cependant, les ordinateurs manquaient de puissance de calcul et les données étaient difficiles à trouver. Peu d’applications pratiques ont alors émergé.

Tout a changé dans les années 2000. La puissance de calcul a explosé. Internet a créé d’énormes quantités de données. En 2012, Alex Krizhevsky, Ilya Sutskever et Geoffrey Hinton ont développé AlexNet. Ce modèle de deep learning a considérablement amélioré la reconnaissance d’images. Il a remporté l’ImageNet Large Scale Visual Recognition Challenge.

Cette percée a lancé une nouvelle ère pour l’IA. Des entreprises comme Google, Facebook et Microsoft y ont investi massivement. L’IA a commencé à alimenter les moteurs de recherche, les fils d’actualité des réseaux sociaux et les systèmes de recommandation. Elle est passée des laboratoires à la vie quotidienne. Mais cette propagation rapide a engendré de nouveaux problèmes inattendus.

Les problèmes éthiques de l’IA émergent

En 2016, une enquête de ProPublica a révélé des biais raciaux dans un outil judiciaire d’IA. Le système COMPAS, qui prédisait la probabilité de récidive, a identifié à tort les accusés noirs comme présentant un risque plus élevé, et ce, plus souvent que les accusés blancs. C’était un avertissement clair : l’IA pouvait répéter et aggraver les biais humains.

Ce n’était pas un exemple isolé. Les algorithmes ont également révélé des biais de genre dans les outils de recrutement. La technologie de reconnaissance faciale, quant à elle, a plus souvent identifié à tort les personnes de couleur. Ces systèmes, construits par des humains, ont ainsi reflété les biais présents dans leurs données d’entraînement, lesquelles provenaient souvent de schémas historiques inégalitaires.

Les entreprises ont été confrontées à des problèmes éthiques immédiats. Leurs systèmes d’IA, conçus pour être efficaces, causaient des préjudices sociaux. Ayant construit ces outils puissants, elles avaient désormais la responsabilité de résoudre leurs conséquences involontaires. Cette nouvelle réalité les a poussées à repenser les règles de la RSE.

L’AI Now Institute de l’Université de New York est devenu un acteur clé. Ses rapports annuels ont exposé les risques croissants de l’IA, soulignant des problèmes tels que la surveillance, la discrimination algorithmique et l’exploitation du travail. L’institut a plaidé en faveur d’une plus grande responsabilisation.

Les entreprises et les gouvernements réagissent

En 2018, Google a subi des pressions internes et externes concernant l’éthique de l’IA. Des employés ont protesté contre le travail de l’entreprise sur Project Maven. Il s’agissait d’un projet du Pentagone qui utilisait l’IA pour analyser des séquences de drones. Google a ensuite publié ses propres Principes de l’IA. Ces lignes directrices interdisaient la création d’IA à des fins nuisibles. Le PDG Sundar Pichai a déclaré que l’entreprise s’y engageait.

Microsoft s’est également prononcé très tôt. Son président, Brad Smith, a demandé une réglementation gouvernementale de la reconnaissance faciale, affirmant que les entreprises seules ne pouvaient pas garantir une utilisation responsable. Microsoft a créé un Office of Responsible AI (ORA). Cette équipe a élaboré des lignes directrices éthiques internes et a également évalué les produits d’IA pour prévenir d’éventuels dommages.

L'AI Now Institute de l'Université de New York est devenu un acteur clé en matière d'éthique de l'IA, publiant des rapports annuels qui détaillent méticuleusement les risques croissants de l'IA et plaident en faveur d'une plus grande responsabilisation. Fondé en 2017, il est rapidement devenu un centre de recherche de premier plan dédié à la compréhension et à la résolution des implications sociales de l'intelligence artificielle. (Illustration générée par IA)

Ces actions d’entreprise ont révélé un nouveau type de RSE. Celle-ci allait au-delà de l’impact environnemental ou du travail équitable. Désormais, elle incluait la création et l’utilisation éthiques de la technologie elle-même. Les entreprises devaient prendre en compte la confidentialité des données, l’équité algorithmique et la transparence, et intégrer ces principes dès la conception de leurs produits.

Les gouvernements ont également commencé à agir. En 2021, l’Union européenne a proposé l’AI Act. Cette vaste réglementation visait à classer les systèmes d’IA par niveau de risque et a établi des règles strictes pour l’IA à haut risque. Celles-ci incluaient des exigences en matière de qualité des données, de supervision humaine et de contrôles. L’UE est ainsi devenue un leader mondial en matière de gouvernance de l’IA.

Le contrat social de l’IA : quelle est la prochaine étape ?

Aujourd’hui, les défis de l’IA et de la RSE ne cessent de croître. Les modèles d’IA générative, comme ChatGPT, soulèvent de nouvelles questions complexes concernant la désinformation, la propriété intellectuelle et le déplacement d’emplois. Les entreprises qui construisent ces outils détiennent un pouvoir immense, transformant la manière dont nous accédons à l’information et dont les gens travaillent.

La demande d’une IA responsable se renforce. Les investisseurs examinent désormais attentivement la manière dont les entreprises gèrent l’IA, les consommateurs attendent des produits éthiques et les activistes réclament des protections plus solides. La Dre Timnit Gebru a cofondé le Distributed AI Research Institute (DAIR). Elle plaide en faveur de systèmes d’IA qui aident les communautés marginalisées, et son travail montre la nécessité de perspectives diverses lors du développement de l’IA.

L’avenir nécessite une approche active. Les entreprises doivent intégrer l’éthique dès le départ. Elles ont besoin d’équipes diverses lors du développement de l’IA. La transparence concernant les sources de données et les décisions algorithmiques est vitale. Travailler ensemble — l’industrie, le gouvernement et la société civile — façonnera la prochaine phase.

La RSE à l’ère de l’IA ne consiste pas seulement à éviter les préjudices. Il s’agit de construire activement un avenir où l’IA aide l’humanité, en concevant des systèmes équitables, responsables et bénéfiques pour tous. Notre engagement en la matière définira le monde numérique pour les générations à venir.

Foire aux questions

Qu’est-ce que la responsabilité sociale des entreprises (RSE) ? La RSE désigne la manière dont une entreprise gère ses activités afin d’avoir un impact positif sur la société. Cela va au-delà du simple respect des lois, incluant les pratiques éthiques, la protection de l’environnement et l’engagement social.

La Dre Timnit Gebru, cofondatrice du Distributed AI Research Institute (DAIR), est une voix de premier plan plaidant en faveur de systèmes d'IA éthiques qui profitent aux communautés marginalisées et souligne la nécessité de diverses perspectives dans le développement de l'IA. (Source : mcsilver.nyu.edu)

Comment l’IA apporte-t-elle de nouveaux défis en matière de RSE ? L’IA apporte des défis tels que les biais algorithmiques, les violations de la vie privée et les pertes d’emplois. Les entreprises doivent faire face à ces problèmes et s’assurer que leurs systèmes d’IA sont équitables, transparents et responsables.

Quels sont quelques exemples d’entreprises qui traitent de l’éthique de l’IA ? Google a publié ses Principes de l’IA et Microsoft a créé un Office of Responsible AI. Ces entreprises élaborent des lignes directrices internes, évaluent les produits d’IA et plaident également en faveur d’une réglementation gouvernementale.

Quel est le rôle du gouvernement dans la réglementation de l’IA pour la RSE ? Les gouvernements élaborent des lois, comme l’AI Act de l’UE. Ces lois visent à classer les risques de l’IA et à établir des règles. Leur objectif est de garantir la sécurité publique, les droits fondamentaux et le développement éthique de l’IA.

L'AI Act de l'UE, provisoirement approuvé en décembre 2023 et formellement adopté par le Parlement européen en mars 2024, est la première loi complète au monde sur l'intelligence artificielle. Il vise à classer les systèmes d'IA par niveau de risque et à établir des règles strictes pour les applications à haut risque afin de protéger les droits fondamentaux et la sécurité publique. (Illustration générée par IA)

---

Vous pourriez aussi aimer:

👉 Avenirs durables : Investissement, Cybersécurité et Avenir du travail

👉 Démasquer les bots en ligne : le défi du mimétisme sur X et Facebook

👉 Meta : l’identité virtuelle, une liberté sous conditions