Le premier ensemble de règles sur l’IA au monde : début 2024

Le 24 janvier 2024, les négociateurs à Bruxelles ont conclu les discussions sur la loi européenne sur l’IA (EU AI Act). Cette loi historique est le premier ensemble de règles complet au monde pour l’intelligence artificielle.

L’intelligence artificielle a progressé rapidement pendant des années. Elle impacte désormais de nombreux aspects de la vie, des cotes de crédit aux diagnostics médicaux. À mesure que l’IA devenait plus performante, des préoccupations ont surgi concernant les biais, la vie privée et les machines prenant des décisions importantes. Les experts ont averti que l’IA pourrait avoir un impact significatif sur la société.

Des entreprises comme OpenAI, Google et Microsoft ont créé des modèles d’IA incroyablement puissants. Ces modèles pouvaient raisonner et créer comme jamais auparavant. Les gouvernements et les groupes de la société civile ont perçu la nécessité de règles et de cadres éthiques pour cette technologie. Sans eux, les abus et les préjudices conduiraient rapidement à des problèmes généralisés.

L’éthique de l’IA avant 2024

Avant 2024, les discussions sur l’éthique de l’IA étaient déjà en pleine croissance. Des chercheurs comme Kate Crawford de l’USC ont montré comment les biais cachés dans les données d’entraînement de l’IA pouvaient perpétuer la discrimination. Cela nuisait souvent aux groupes marginalisés. Les défenseurs de la vie privée, dont Shoshana Zuboff de la Harvard Business School, ont mis en garde contre le capitalisme de surveillance. Ils ont expliqué comment les systèmes d’IA collectent d’énormes quantités de données personnelles.

Des nations et des organisations ont commencé à élaborer des lignes directrices. En 2019, l’Organisation de coopération et de développement économiques (OCDE) a publié ses Principes de l’IA, plaidant pour une innovation responsable et des valeurs humaines. L’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO) a suivi en 2021 avec une Recommandation sur l’éthique de l’IA. Elle a demandé aux États membres de créer des règles éthiques nationales.

En janvier 2023, le National Institute of Standards and Technology (NIST) des États-Unis a publié son Cadre de gestion des risques liés à l’IA. Ce guide volontaire a aidé les organisations à identifier, évaluer et gérer les risques liés à l’IA. Le Royaume-Uni a accueilli le premier Sommet sur la sécurité de l’IA à Bletchley Park en novembre 2023. Des dirigeants mondiaux et des cadres technologiques ont discuté des risques liés à l’IA avancée. Ces efforts ont montré un intérêt dispersé, mais croissant, pour l’IA éthique. Pourtant, aucune loi contraignante n’avait été adoptée.

Janvier 2024 : nouvelles lois et nouvelles inquiétudes

Janvier 2024 a commencé avec la dernière impulsion pour la loi européenne sur l’IA (EU AI Act). Le 19 janvier, les commissions du Parlement européen sur le marché intérieur et les libertés civiles ont approuvé l’accord provisoire. Ce fut une étape clé vers son adoption officielle. La loi classe les systèmes d’IA par risque. Elle interdit les utilisations à “risque inacceptable”, comme la reconnaissance faciale en temps réel dans les lieux publics. Elle impose également des règles strictes aux systèmes d’IA à haut risque.

Le 24 janvier 2024, les négociateurs à Bruxelles ont conclu les discussions sur la loi européenne sur l'IA (EU AI Act), établissant le premier ensemble de règles complet au monde pour l'intelligence artificielle. Cet accord historique, qui a pris plus de deux ans à être finalisé, vise à établir des normes mondiales pour le développement éthique et responsable de l'IA. (Illustration générée par l'IA)

Cette loi est importante. C’est la première loi complète sur l’IA au monde. Le commissaire européen Thierry Breton l’a qualifiée d’« acte pionnier », prédisant qu’elle établirait une norme mondiale. Des experts comme le Dr Philipp Hacker de l’Université européenne Viadrina ont acquiescé. Ils ont estimé que la loi pourrait créer un « Effet Bruxelles », façonnant les règles de l’IA dans le monde entier. Son adoption signifiait que toute entreprise dans l’UE serait confrontée à de nouveaux défis de conformité.

Aux États-Unis, le gouvernement a continué à travailler sur son décret exécutif sur le développement et l’utilisation sûrs, sécurisés et fiables de l’intelligence artificielle (Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence). Ce décret a été publié en octobre 2023. Le 26 janvier, le Département du Commerce a sollicité l’avis du public sur la sécurité de l’IA. Cette initiative visait à orienter les normes et les meilleures pratiques en matière d’IA. Elle a montré une approche différente de celle de l’UE. Les États-Unis ont préféré des guides spécifiques et des règles volontaires à une loi unique et globale.

Pendant ce temps, les modèles d’IA générative ont continué d’évoluer rapidement, soulevant de nouvelles questions éthiques. Tout le monde s’attendait à des modèles texte-vers-vidéo avancés, comme Sora d’OpenAI. Ils promettaient une puissance créative incroyable. Mais ils ont également soulevé des préoccupations concernant les deepfakes et la désinformation. Des experts du Center for AI Safety ont averti que ces outils pourraient créer des contenus faux et très convaincants. Le premier trimestre de l’année a commencé avec une tension claire. L’innovation s’est accélérée, mais les règles éthiques commençaient tout juste à prendre forme.

Février 2024 : les entreprises parlent d’éthique, de nouveaux problèmes émergent

En février, les grandes entreprises technologiques se sont davantage concentrées sur l’éthique et la sécurité de l’IA. Le 8 février, Google DeepMind a publié un long article de blog. Il détaillait son approche du développement responsable de l’IA. L’entreprise a souligné l’équité, la vie privée et la sécurité. Elle a également présenté ses processus d’examen internes. Cela a démontré que les entreprises réagissaient à l’examen public croissant.

Plus tard ce mois-là, le 15 février, Microsoft a annoncé de nouvelles initiatives pour une IA responsable. Elles visaient à rendre leurs produits d’IA plus transparents. Cela signifiait des explications plus claires sur la façon dont les modèles d’IA prennent des décisions. Natasha Crampton, Chief Responsible AI Officer de Microsoft, a souligné l’importance de l’explicabilité. Elle a noté que cela renforce la confiance des utilisateurs. Ces actions ont montré que les entreprises voulaient anticiper la réglementation. Elles visaient également à rassurer les clients et les investisseurs.

Sora d'OpenAI, un modèle d'IA texte-vers-vidéo révolutionnaire dévoilé en février 2024, peut générer des scènes très réalistes et complexes à partir de simples invites textuelles. Son émergence a suscité à la fois l'enthousiasme pour les possibilités créatives et d'importantes discussions éthiques autour des deepfakes et de la désinformation. (Source : shacknews.com)

Mais les défis éthiques ont continué d’apparaître. L’utilisation généralisée des grands modèles linguistiques (LLM) a suscité de nouveaux débats sur le droit d’auteur et la propriété intellectuelle. Les artistes et les créateurs de contenu s’inquiétaient. Leurs œuvres étaient souvent utilisées pour entraîner des modèles d’IA sans consentement ni paiement. Un recours collectif contre OpenAI, déposé par des auteurs, a progressé. Il alléguait une violation du droit d’auteur. Cela a lancé une discussion plus large sur l’origine des données et l’utilisation équitable à l’ère de l’IA.

La prolifération du contenu généré par l’IA a également compliqué les cycles électoraux à venir en 2024. Les inquiétudes concernant les deepfakes et la désinformation alimentée par l’IA ont considérablement augmenté. Le 27 février, le AI Policy Forum non partisan a publié un rapport. Il avertissait que l’IA pourrait nuire aux processus démocratiques. Le rapport a enjoint les plateformes et les gouvernements à agir. Il a montré un fossé entre ce que la technologie pouvait faire et la préparation de la société.

Mars 2024 : les leaders mondiaux agissent, Google trébuche

Le 11 mars, l’Assemblée générale des Nations Unies a adopté sa toute première résolution sur l’intelligence artificielle. Elle a plaidé pour des systèmes d’IA « sûrs, sécurisés et fiables ». Les États-Unis ont proposé la résolution, et 193 États membres l’ont soutenue. Elle appelait au respect des droits de l’homme et des libertés. Cela a montré un accord international croissant sur la manière de gouverner l’IA.

Le suivi du Sommet britannique sur la sécurité de l’IA a également commencé. Le 18 mars, le gouvernement britannique a annoncé des plans pour créer un AI Safety Institute. Sa mission : vérifier les modèles d’IA avancés pour détecter les risques. Cela s’appuyait sur les promesses faites à Bletchley Park. Il visait à être un centre de recherche indépendant sur la sécurité de l’IA. Des experts comme le lauréat du prix Turing Yoshua Bengio ont salué de tels efforts. Il les a jugés essentiels pour prévenir les risques.

Pendant ce temps, un incident spécifique a rendu l’éthique de l’IA claire pour tous. Le 21 mars, des rapports ont fait surface concernant l’IA Gemini de Google créant des images historiquement incorrectes. Le modèle a produit des images diverses mais souvent déplacées. Google a admis le problème et a suspendu la génération d’images de Gemini. Cela a montré à quel point il est difficile de réduire les biais dans l’IA générative. Cela a également montré la difficulté à garantir l’exactitude factuelle.

Cet incident a rendu une chose claire. Le développement éthique de l’IA ne se limite pas à de grandes politiques. Il nécessite une vigilance constante dans la conception et le déploiement. Timnit Gebru, une chercheuse de premier plan en IA éthique, le dit souvent. Elle soutient que les décisions techniques ont de grandes conséquences sociales. Le trimestre s’est terminé avec une compréhension : la situation éthique de l’IA n’était pas statique. Elle nécessitait des ajustements constants de la part des régulateurs, des entreprises et du public.

L'Assemblée générale des Nations Unies a adopté sa toute première résolution sur l'intelligence artificielle le 11 mars 2024, plaidant pour des systèmes d'IA « sûrs, sécurisés et fiables ». Cette résolution historique, proposée par les États-Unis et soutenue par 193 États membres, a marqué un accord mondial significatif sur la gouvernance de l'IA. (Illustration générée par l'IA)

Quelle est la prochaine étape pour l’éthique de l’IA ?

Les trois premiers mois de 2024 ont été cruciaux pour l’éthique de l’IA. La loi européenne sur l’IA (EU AI Act) s’est rapprochée de son adoption, établissant un exemple juridique fort. Les grandes entreprises technologiques ont continué d’améliorer leurs règles éthiques en matière d’IA. Elles ont répondu à la pression publique et aux nouvelles réglementations. Des groupes internationaux, comme l’ONU, ont également commencé à conclure des accords mondiaux.

Mais d’importants défis subsistent. L’innovation en IA avance toujours plus vite que les règles. De nouveaux modèles, comme les générateurs texte-vers-vidéo, apportent de nouveaux problèmes éthiques. Les débats sur le droit d’auteur, les deepfakes et l’impact sociétal vont s’intensifier. La situation mondiale de l’éthique de l’IA est divisée. Différentes nations poursuivent différentes approches de régulation. Cela crée un tableau complexe pour l’innovation et la surveillance.

Les prochains trimestres mettront au défi les décideurs politiques et les leaders de l’industrie. Ils doivent s’assurer que les avantages de l’IA sont largement partagés. Ils doivent également réduire ses préjudices potentiels. Les discussions entre technologues, éthiciens et gouvernements deviendront encore plus importantes. Un développement transparent, des évaluations approfondies des risques et des moyens clairs de tenir les gens responsables sont tous nécessaires. Nous avons besoin d’un travail d’équipe continu pour construire un avenir où l’IA nous aide vraiment tous.

FAQ : l’IA et l’éthique début 2024

Quel a été le plus grand développement réglementaire début 2024 pour l’éthique de l’IA ? Le plus grand développement a été l’accord provisoire sur la loi européenne sur l’IA (EU AI Act) le 24 janvier. Cette loi est la première loi complète sur l’IA au monde, établissant une norme mondiale pour la réglementation. Elle classe les systèmes d’IA par risque et impose des règles strictes aux utilisations à haut risque.

Comment les grandes entreprises technologiques ont-elles répondu aux préoccupations éthiques concernant l’IA ? Des entreprises comme Google DeepMind et Microsoft ont expliqué publiquement leurs approches de l’IA responsable. Elles ont souligné des principes tels que l’équité, la vie privée et la sécurité. Ces actions visaient à clarifier les choses et à anticiper de nouvelles réglementations.

Quels nouveaux défis éthiques sont apparus avec l’IA générative pendant cette période ? L’attente de modèles génératifs avancés, comme Sora d’OpenAI, a accru les inquiétudes concernant les deepfakes et la désinformation. Les débats sur la violation du droit d’auteur se sont également intensifiés, car les modèles d’IA s’entraînent souvent sur du contenu protégé par le droit d’auteur sans autorisation.

Les deepfakes, des médias synthétiques générés par l'IA, représentent un défi éthique important en créant des images et des vidéos très réalistes mais fabriquées. Ils constituent une préoccupation majeure pour la désinformation et l'intégrité de l'identité, en particulier avec la montée en puissance des modèles d'IA générative avancés discutés début 2024. (Source : adaptivesecurity.com)

Quel a été le rôle de l’ONU dans l’éthique de l’IA début 2024 ? Le 11 mars, l’Assemblée générale des Nations Unies a adopté sa première résolution sur l’IA. Elle a appelé à des systèmes d’IA « sûrs, sécurisés et fiables ». Cela a montré un accord mondial sur la nécessité d’un développement éthique de l’IA.

---

Vous pourriez aussi aimer:

👉 Prédiction des Tendances du Marché Boursier : Guide sur l’Apprentissage Automatique et l’Analyse des Sentiments

👉 Démasquer les bots en ligne : le défi du mimétisme sur X et Facebook

👉 Avenirs durables : Investissement, Cybersécurité et Avenir du travail