Les nouvelles ruses de l’IA : mes découvertes

J’ai longtemps cru que les deepfakes étaient rares. Je les voyais comme des prouesses technologiques, complexes et coûteuses. Ils semblaient réservés à Hollywood ou à l’espionnage d’État. J’avais l’impression que ces dangers étaient presque mythiques.

Puis, en me penchant sur le contenu généré par l’IA, au-delà de la simple vidéo, mes hypothèses étaient complètement fausses. Ces outils sont accessibles et répandus. Cette réalité a complètement changé ma vision des choses. Il ne s’agit plus seulement de vidéos manipulées.

Les deepfakes sont un type spécifique de média basé sur l’IA. Ils utilisent l’apprentissage profond (deep learning) pour créer des images, des sons ou des vidéos synthétiques réalistes. Ces faux montrent souvent des personnes disant ou faisant des choses qu’elles n’ont jamais faites. Le contenu généré par l’IA est une catégorie plus large. Il inclut le texte, les images et la musique. Les grands modèles linguistiques (LLMs) et les modèles de diffusion créent ce contenu.

Les outils d’IA générative sont désormais largement disponibles. Beaucoup sont gratuits ou abordables. On peut y accéder via de simples interfaces web. N’importe qui ayant accès à internet peut créer des faux convaincants en quelques minutes. Cet accès généralisé a transformé l’information numérique. Ces outils permettent à quiconque de créer des fabrications crédibles.

La montée inquiétante des médias synthétiques

Le nombre de vidéos deepfake détectées dans le monde a augmenté de façon spectaculaire en 2023. Sensity AI, une entreprise de détection de deepfakes, a signalé une augmentation de 900 % entre 2019 et 2023. Ce n’était pas une croissance lente. C’était une explosion.

J’ai vérifié les chiffres. Plus de 90 % des vidéos deepfake identifiées étaient des images intimes non consensuelles (NCII). Cette utilisation spécifique cible souvent les femmes. C’est une réalité crue et dérangeante. Cela dépasse de loin la manipulation politique. Mes recherches ont montré que cette tendance ne ralentit pas.

J’ai d’abord pensé que la plupart des deepfakes étaient de la propagande politique. La prévalence écrasante des préjudices personnels m’a le plus surpris. Cela a changé mon avis sur l’identité des principales victimes. Les risques politiques sont réels, mais les dommages immédiats et généralisés touchent souvent les individus.

Les créateurs de ce contenu ont également changé. Il ne s’agit plus seulement d’États ou du crime organisé. Des particuliers, souvent des jeunes, créent désormais des faux convaincants. Cela rend le problème plus difficile à suivre et à réglementer. Les outils sont trop faciles à obtenir.

Les risques réels : de la politique à la vie privée

Sensity AI, une entreprise leader dans la détection des deepfakes, a signalé une augmentation stupéfiante de 900 % des vidéos deepfake détectées dans le monde entre 2019 et 2023, soulignant l'escalade rapide des menaces liées aux médias synthétiques. (Source : sensity.ai)

Le 21 janvier 2024, des milliers d’électeurs du New Hampshire ont reçu un appel automatisé (robocall) généré par l’IA. Il imitait la voix du président Joe Biden. L’appel les exhortait à ne pas voter lors de la primaire de l’État. Cela a montré comment le contenu IA interfère avec la démocratie. C’était une attaque claire.

Mon parcours m’a montré que ces risques ne sont pas théoriques. Ils ont des conséquences réelles, souvent dévastatrices pour les personnes. La fraude financière est une menace majeure, au-delà de la politique. Les criminels utilisent des voix IA pour se faire passer pour des dirigeants ou des membres de la famille. Ils incitent les victimes à transférer de l’argent.

Le PDG d’une entreprise énergétique britannique a été trompé par un clone vocal IA de son patron. La fausse voix a exigé un transfert urgent de 243 000 dollars à un fournisseur hongrois. Cela montre à quel point ces attaques sont sophistiquées. Les victimes ne doutent souvent pas de l’authenticité.

Les atteintes à la réputation et l’extorsion sont également monnaie courante. Les deepfakes NCII ruinent des vies. Les victimes, souvent des femmes, subissent une détresse psychologique sévère et une ostracisation sociale. Les forces de l’ordre ont du mal à suivre.

Les agences de sécurité nationale s’inquiètent. Les deepfakes pourraient usurper l’identité de fonctionnaires ou diffuser de faux récits incendiaires. Cela pourrait déstabiliser des régions ou inciter à des troubles sociaux. Distinguer la vérité de la fiction devient essentiel.

Détecter et attribuer les faux

En 2022, une étude de l’UC Berkeley a révélé une sombre réalité. Même les humains entraînés ont du mal à distinguer les vraies vidéos des deepfakes avancés. Cela a été une prise de conscience pour moi. Je pensais que l’intuition humaine aiderait.

J’ai appris que la détection n’est pas une simple solution technique. C’est un défi continu. Les modèles d’IA s’améliorent dans la création de faux. Parallèlement, les chercheurs développent de nouvelles méthodes de détection. Cela ressemble à une compétition.

Les méthodes de détection actuelles incluent le filigrane numérique et l’analyse forensique. La C2PA (Coalition for Content Provenance and Authenticity) développe des normes techniques ouvertes. Ces normes visent à « signer » numériquement le contenu à son origine. Cela pourrait aider à vérifier les sources de contenu.

Ces méthodes ont des limites. Les filigranes peuvent être supprimés. L’analyse forensique repose sur la détection d’artefacts subtils. Ces artefacts deviennent moins perceptibles à mesure que l’IA générative s’améliore. Il est souvent difficile de qualifier définitivement un contenu d’authentique.

Le volume considérable de nouveaux contenus complique encore la détection. Les modèles d’IA peuvent générer des millions d’images ou des heures d’audio en quelques minutes. Les modérateurs humains et les systèmes automatisés sont débordés. Cela rend la surveillance précoce presque impossible à l’échelle mondiale.

Le président Joe Biden, dont la voix a été imitée dans un appel automatisé (robocall) généré par l'IA adressé aux électeurs du New Hampshire en janvier 2024, est un exemple frappant de la manière dont le contenu généré par l'IA peut interférer directement avec les processus démocratiques et présenter des risques immédiats. (Source : amazon.com)

Le labyrinthe réglementaire : les lacunes de la gouvernance

Le 8 décembre 2023, l’UE a provisoirement convenu de sa loi sur l’intelligence artificielle (Artificial Intelligence Act). Cette loi historique classe les systèmes d’IA par niveau de risque. Elle impose des règles strictes aux applications à haut risque, y compris les deepfakes. Ce fut un grand pas.

J’ai d’abord pensé qu’une loi claire résoudrait tout. Mes recherches m’ont rapidement fait changer d’avis. La gouvernance est fragmentée et lente. Les nations et les régions adoptent des approches très différentes. Il n’y a pas de consensus mondial.

L’EU AI Act met l’accent sur la transparence. Elle exige que les utilisateurs sachent quand le contenu est généré par l’IA. Les États-Unis adoptent une approche plus sectorielle. Le décret exécutif du président Biden d’octobre 2023 sur l’IA exige des développeurs qu’ils partagent les résultats des tests de sécurité avec le gouvernement.

Ces approches divergentes créent des défis juridictionnels. Ce qui est illégal dans un pays peut être autorisé dans un autre. Cela rend l’application transfrontalière difficile. Les entreprises technologiques opèrent souvent à l’échelle mondiale, ce qui complique la conformité.

Équilibrer l’innovation et la sécurité est un autre défi. Des réglementations strictes pourraient étouffer le progrès. Trop peu de réglementation laisse les personnes et les sociétés vulnérables. Définir le « préjudice » pour le contenu IA reste un débat juridique et éthique complexe.

Construire un environnement informationnel solide

En septembre 2023, Google a annoncé de nouvelles politiques. Elles exigent des avertissements sur les publicités politiques générées par l’IA. Ce fut une étape pratique de la part d’une plateforme majeure. Cela a montré que la transparence est essentielle. Aucune solution unique ne résoudra ce défi complexe.

Mes recherches m’ont mené à une conclusion principale. Nous avons besoin d’une approche à multiples facettes. Nous devons aider les individus à améliorer leur littératie médiatique. Les gens doivent évaluer de manière critique le contenu numérique. Ils doivent remettre en question les sources et rechercher des signes inhabituels.

La technologie doit continuer d’évoluer. Nous avons besoin d’outils de détection améliorés. Une adoption plus large des normes de provenance, comme le cadre C2PA, peut aider. Ces outils fournissent une chaîne de traçabilité vérifiable pour les médias numériques. Ils offrent une empreinte numérique d’authenticité.

Les cadres juridiques doivent également être renforcés et coordonnés. Des lois plus claires définissant la responsabilité en cas d’abus sont vitales. Les sanctions pour la création et la distribution de deepfakes nuisibles doivent être sévères. La coopération internationale est également essentielle. Les nations doivent partager les meilleures pratiques et coordonner l’application des lois.

L'Artificial Intelligence Act de l'UE, provisoirement adoptée en décembre 2023, est une loi historique qui classe les systèmes d'IA par niveau de risque et impose des règles strictes aux applications à haut risque comme les deepfakes, visant à établir une norme mondiale pour la gouvernance de l'IA. (Illustration générée par l'IA)

C’est un processus continu. Nous devons rester conscients et flexibles. La technologie continuera d’avancer rapidement. Notre réponse efficace dépend d’une collaboration continue entre les gouvernements, les entreprises technologiques, les éducateurs et les individus.

FAQ

Quel est le principal risque des deepfakes ? Le principal risque est la perte de confiance dans l’information numérique. Les deepfakes propagent la désinformation et permettent la fraude financière. Ils causent également de graves préjudices personnels par le biais d’images non consensuelles. Ils rendent plus difficile de distinguer la vérité de la fiction en ligne.

Peut-on toujours détecter le contenu généré par l’IA ? Non, on ne peut pas toujours détecter le contenu généré par l’IA. Les outils de détection s’améliorent, mais la technologie de l’IA générative progresse rapidement. Cela crée une compétition continue où les faux s’améliorent souvent plus vite que les méthodes de détection.

Qui réglemente le contenu IA ? La responsabilité de la réglementation du contenu IA est fragmentée. Les gouvernements nationaux établissent des lois. Les entreprises technologiques mettent en œuvre des politiques de contenu. Les organismes internationaux travaillent à la coordination des normes. Il n’existe pas d’autorité mondiale unique.

Que peuvent faire les individus pour se protéger ? Les individus peuvent se protéger en pratiquant une bonne littératie médiatique. Remettez en question les sources. Recherchez des informations vérifiables. Soyez sceptique face aux contenus chargés d’émotion ou sensationnels. L’utilisation de sources d’information fiables et d’outils de vérification des faits aide également.

Snopes, l'un des sites web de vérification des faits les plus anciens et les plus éminents d'internet, a été fondé en 1994 pour démystifier les légendes urbaines et est depuis devenu une ressource essentielle pour vérifier l'information et combattre la désinformation, y compris le contenu généré par l'IA. (Source : academichelp.net)

---

Vous pourriez aussi aimer:

👉 2016 : le tournant qui a fait du smartphone un compagnon intelligent

👉 Démasquer les bots en ligne : le défi du mimétisme sur X et Facebook

👉 Meta : l’identité virtuelle, une liberté sous conditions