I nuovi inganni dell’IA: cosa ho scoperto

Pensavo che i deepfake fossero rari. Li vedevo come curiosità high-tech, complesse e costose. Sembravano riservati a Hollywood o allo spionaggio di stato. La mia impressione iniziale era che questi pericoli fossero più leggendari che reali.

Poi ho approfondito la ricerca sui contenuti generati dall’IA, andando oltre i semplici video. Le mie supposizioni erano completamente sbagliate. Questi strumenti sono accessibili e diffusi. Questa verità ha cambiato completamente la mia prospettiva. Non si tratta più solo di video manipolati.

I deepfake sono un tipo specifico di contenuti multimediali basati sull’IA. Utilizzano il deep learning per creare immagini, audio o video sintetici realistici. Questi falsi spesso mostrano persone che dicono o fanno cose che non hanno mai fatto. Il contenuto generato dall’IA è una categoria più ampia. Include testo, immagini e musica. I Large Language Models (LLM) e i modelli di diffusione creano questi contenuti.

Gli strumenti di IA generativa sono ora ampiamente disponibili. Molti sono gratuiti o economici. Vi si può accedere tramite semplici interfacce web. Chiunque abbia internet può creare falsi convincenti in pochi minuti. Questa ampia accessibilità ha cambiato il panorama dell’informazione digitale. Gli strumenti permettono a chiunque di creare falsi credibili.

L’inquietante aumento dei contenuti sintetici

Il numero di video deepfake rilevati in tutto il mondo è aumentato drasticamente nel 2023. Sensity AI, un’azienda di rilevamento di deepfake, ha riportato un aumento del 900% tra il 2019 e il 2023. Non è stata una crescita lenta. È stata un’esplosione.

Ho controllato i numeri. Oltre il 90% dei video deepfake identificati erano immagini intime non consensuali (NCII). Questo uso specifico spesso prende di mira le donne. È una realtà cruda e inquietante. Questo supera di gran lunga la manipolazione politica. La mia ricerca ha dimostrato che questa tendenza non sta rallentando.

All’inizio pensavo che la maggior parte dei deepfake fossero propaganda politica. La preponderanza dei danni a livello personale mi ha sorpreso di più. Ha cambiato la mia idea su chi siano le vittime principali. I rischi politici sono reali, ma i danni immediati e diffusi spesso colpiscono gli individui.

Anche i creatori di questi contenuti sono cambiati. Non si tratta solo di attori statali o criminalità organizzata. Utenti comuni, spesso giovani, ora creano falsi convincenti. Ciò rende il problema più difficile da tracciare e regolare. Gli strumenti sono troppo facili da ottenere.

Rischi reali: dalla politica alla vita personale

Sensity AI, un'azienda leader nel rilevamento di deepfake, ha riportato un sorprendente aumento del 900% nei video deepfake rilevati in tutto il mondo tra il 2019 e il 2023, sottolineando la rapida escalation delle minacce dei contenuti sintetici. (Fonte: sensity.ai)

Il 21 gennaio 2024, migliaia di elettori del New Hampshire hanno ricevuto una robocall basata sull’IA. Imitava la voce del Presidente Joe Biden. La chiamata li esortava a non votare alle primarie dello stato. Questo ha mostrato come i contenuti generati dall’IA interferiscano con la democrazia. È stato un chiaro attacco.

Le mie ricerche mi hanno mostrato che questi rischi non sono teorici. Hanno conseguenze nel mondo reale, spesso devastanti per le persone. La frode finanziaria è una minaccia importante, che va oltre la politica. I criminali usano voci generate dall’IA per impersonare dirigenti o familiari. Ingannano le vittime per far loro trasferire denaro.

Un CEO di un’azienda energetica del Regno Unito è stato ingannato da un clone vocale basato sull’IA del suo capo. La voce falsa ha richiesto un trasferimento urgente di 243.000 dollari a un fornitore ungherese. Questo mostra quanto siano sofisticati questi attacchi. Le vittime spesso non dubitano dell’autenticità.

Anche il danno alla reputazione e l’estorsione sono dilaganti. I deepfake NCII rovinano vite. Le vittime, spesso donne, affrontano un grave disagio psicologico e l’ostracismo sociale. Le forze dell’ordine faticano a tenere il passo.

Le agenzie di sicurezza nazionale sono preoccupate. I deepfake potrebbero impersonare funzionari o diffondere narrazioni false e incendiarie. Questo potrebbe destabilizzare regioni o incitare disordini sociali. Distinguere la verità dalla finzione diventa fondamentale.

Rilevare e attribuire i falsi

Nel 2022, uno studio dell’UC Berkeley ha rivelato una triste realtà. Anche gli esseri umani addestrati faticano a distinguere i video reali dai deepfake avanzati. Questo è stato un campanello d’allarme per me. Pensavo che l’intuizione umana avrebbe aiutato.

Ho imparato che il rilevamento non è una semplice soluzione tecnica. È una sfida continua. I modelli di IA migliorano nella creazione di falsi. Allo stesso tempo, i ricercatori sviluppano nuovi metodi di rilevamento. Sembra una competizione.

Gli attuali metodi di rilevamento includono la filigrana digitale e l’analisi forense. La C2PA (Coalition for Content Provenance and Authenticity) sviluppa standard tecnici aperti. Questi standard mirano a “firmare” digitalmente il contenuto alla sua origine. Questo potrebbe aiutare a verificare le fonti del contenuto.

Questi metodi hanno dei limiti. Le filigrane possono essere rimosse. L’analisi forense si basa sul rilevamento di sottili artefatti. Questi artefatti diventano meno evidenti man mano che l’IA generativa migliora. Spesso è difficile accertare in modo definitivo l’autenticità di un contenuto.

L’enorme volume di nuovi contenuti complica ulteriormente il rilevamento. I modelli di IA possono generare milioni di immagini o ore di audio in pochi minuti. I moderatori umani e i sistemi automatizzati sono sopraffatti. Questo rende quasi impossibile un controllo preventivo a livello globale.

Il Presidente Joe Biden, la cui voce è stata imitata in una robocall basata sull'IA agli elettori del New Hampshire nel gennaio 2024, serve come esempio lampante di come i contenuti generati dall'IA possano interferire direttamente con i processi democratici e porre rischi immediati. (Fonte: amazon.com)

Il labirinto normativo: le lacune nella governance

L’8 dicembre 2023, l’UE ha provvisoriamente concordato la sua Legge sull’intelligenza artificiale. Questa legge storica classifica i sistemi di IA in base al livello di rischio. Impone regole severe sulle applicazioni ad alto rischio, inclusi i deepfake. Questo è stato un grande passo.

All’inizio pensavo che una legge chiara avrebbe risolto tutto. La mia ricerca ha rapidamente cambiato la mia opinione. La governance è frammentata e lenta. Nazioni e regioni adottano approcci molto diversi. Non esiste un consenso globale.

La Legge UE sull’IA si concentra sulla trasparenza. Richiede che gli utenti sappiano quando un contenuto è generato dall’IA. Gli Stati Uniti adottano un approccio più specifico per settore. L’Ordine Esecutivo sull’IA del Presidente Biden dell’ottobre 2023 richiede agli sviluppatori di condividere i risultati dei test di sicurezza con il governo.

Questi approcci diversi creano sfide giurisdizionali. Ciò che è illegale in un paese potrebbe essere consentito in un altro. Questo rende difficile l’applicazione transfrontaliera. Le aziende tecnologiche spesso operano a livello globale, complicando la conformità.

Bilanciare innovazione e sicurezza è un’altra sfida. Regolamentazioni severe potrebbero soffocare il progresso. Troppa poca regolamentazione lascia persone e società vulnerabili. Definire il “danno” per i contenuti di IA rimane un complesso dibattito legale ed etico.

Costruire un ambiente informativo solido

Nel settembre 2023, Google ha annunciato nuove politiche. Richiedono l’inserimento di avvisi sulle pubblicità politiche generate dall’IA. Questo è stato un passo pratico da parte di una piattaforma importante. Ha dimostrato che la trasparenza è fondamentale. Nessuna soluzione unica risolverà questa complessa sfida.

La mia ricerca mi ha portato a una conclusione fondamentale. Abbiamo bisogno di un approccio sfaccettato. Dobbiamo aiutare gli individui con una migliore alfabetizzazione mediatica. Le persone devono valutare criticamente i contenuti digitali. Devono mettere in discussione le fonti e cercare segnali insoliti.

La tecnologia deve continuare a evolversi. Abbiamo bisogno di strumenti di rilevamento migliorati. Una più ampia adozione di standard di provenienza, come il framework C2PA, può aiutare. Questi strumenti forniscono una catena di custodia verificabile per i contenuti digitali. Offrono un’impronta digitale di autenticità.

Anche i quadri giuridici devono essere rafforzati e coordinati. Leggi più chiare che definiscano la responsabilità per l’uso improprio sono vitali. Le sanzioni per la creazione e la distribuzione di deepfake dannosi devono essere severe. La cooperazione internazionale è anch’essa fondamentale. Le nazioni devono condividere le migliori pratiche e coordinare l’applicazione.

La Legge sull'intelligenza artificiale dell'UE, provvisoriamente concordata nel dicembre 2023, è una legge storica che classifica i sistemi di IA in base al livello di rischio e impone regole severe sulle applicazioni ad alto rischio come i deepfake, mirando a stabilire uno standard globale per la governance dell'IA. (Illustrazione generata dall'IA)

Questo è un processo in corso. Dobbiamo rimanere consapevoli e flessibili. La tecnologia continuerà ad avanzare rapidamente. La nostra risposta efficace dipende dalla collaborazione continua tra governi, aziende tecnologiche, educatori e individui.

FAQ

Qual è il rischio principale dei deepfake? Il rischio principale è la perdita di fiducia nelle informazioni digitali. I deepfake diffondono disinformazione e consentono frodi finanziarie. Causano anche gravi danni personali attraverso immagini non consensuali. Rendono più difficile distinguere la verità dalla finzione online.

Possiamo sempre rilevare i contenuti generati dall’IA? No, non è sempre possibile rilevare i contenuti generati dall’IA. Gli strumenti di rilevamento stanno migliorando, ma la tecnologia IA generativa avanza rapidamente. Questo crea una competizione continua in cui i falsi spesso migliorano più velocemente dei metodi di rilevamento.

Chi regola i contenuti di IA? La responsabilità della regolamentazione dei contenuti di IA è frammentata. I governi nazionali stabiliscono le leggi. Le aziende tecnologiche implementano le politiche sui contenuti. Gli organismi internazionali lavorano per coordinare gli standard. Non esiste un’unica autorità globale.

Cosa possono fare gli individui per proteggersi? Gli individui possono proteggersi praticando una buona alfabetizzazione mediatica. Mettete in discussione le fonti. Cercate informazioni verificabili. Siate scettici nei confronti di contenuti emotivamente carichi o sensazionalistici. Anche l’uso di fonti di notizie affidabili e strumenti di verifica dei fatti aiuta.

Snopes, uno dei siti web di fact-checking più antichi e prominenti di internet, è stato fondato nel 1994 per sfatare leggende metropolitane e da allora è diventato una risorsa fondamentale per verificare le informazioni e combattere la disinformazione, inclusi i contenuti generati dall'IA. (Fonte: academichelp.net)

---

Potrebbe interessarti anche:

👉 Smartphone, la svolta del 2016: non più solo un telefono

👉 Smascherare i bot online: la sfida di X e Facebook contro l’imitazione umana

👉 Metaverso: l’illusione di Zuckerberg – la tua libertà virtuale è un miraggio