-
Deepfake:
Come rilevare e prevenire gli inganni basati sull'AI.
Il rapido sviluppo dell'intelligenza artificiale consente ai cybercriminali di creare falsificazioni realistiche di voci, volti e testi. Questi cosiddetti deepfake possono essere immagini digitali, audio, video o contenuti testuali generati utilizzando l'intelligenza artificiale. I tentativi di frode tramite deepfake sono sempre più frequenti, sia in contesti professionali che privati. Pertanto, è richiesta una cautela speciale.
Punti chiave:
I deepfake ingannano gli individui bersaglio con voci, volti e testi realistici generati dall'AI – e sono utilizzati dai cybercriminali sia in contesti professionali che privati.
Possibili segnali di deepfake includono movimenti innaturali, distorsioni o indizi linguistici come ripetizioni di parole e schemi o uno stile vocale inconsistente – presta attenzione ai segnali di avvertimento e fidati del tuo istinto.
Proteggiti verificando le identità e diffidando di richieste o contenuti insoliti. Affina la tua alfabetizzazione digitale e utilizza gli strumenti digitali disponibili se necessario.
Rilevare i deepfake: cosa cercare
Le voci, i volti e i testi generati artificialmente stanno diventando sempre più realistici – e possono essere difficili da individuare a prima vista. Pertanto, è fondamentale conoscere i segnali da cercare e fidarsi del proprio istinto.
Punti chiave da considerare:
Fidati del tuo istinto:
Se qualcosa ti sembra strano, fai domande specifiche – direttamente in conversazione o tramite un altro metodo di contatto conosciuto. Ad esempio, chiedi dettagli tramite un numero di telefono che solo la persona reale conoscerebbe, o contatta la persona tramite un numero conosciuto, un indirizzo e-mail o un'app di messaggistica per verifica.
Inconsistenze nei movimenti facciali:
Nei video, presta attenzione a movimenti a scatti, espressioni facciali inappropriate, proporzioni strane o movimenti delle labbra non sincronizzati. I volti generati dall'AI spesso hanno problemi con movimenti naturali come sbattere le palpebre, aggrottare le sopracciglia o piccoli tic muscolari.
Inconsistenze nella voce:
Distorsioni, pause, echi o una melodia di discorso monotona nelle chiamate o nei messaggi vocali possono essere segni di una voce falsa, generata dall'AI.
Linguaggio strano:
I testi generati dall'AI sono solitamente privi di errori ma possono apparire impersonali, contenere ripetizioni, frasi piatte o termini inappropriati.
Inconsistenze visive:
Controlla se la luce, le ombre o i riflessi nelle immagini sembrano realistici. Se non sei sicuro delle immagini, usa una ricerca inversa di immagini per trovare le immagini altrove su Internet.
Messaggi inaspettati:
Se una chiamata, un messaggio o un video ti sembra sospetto, mettilo in discussione. È plausibile? Me lo aspettavo? Metti in discussione anche le fonti. Da dove proviene il video o l'immagine? La fonte è affidabile? L'identità della persona è chiaramente confermata?
Utilizza una buona qualità dell'immagine:
Guarda i video su uno schermo più grande, anziché sul telefono. L'alta risoluzione e le impostazioni cromatiche corrette aiutano a evidenziare i dettagli e le possibili incongruenze, ad esempio nella pelle o nelle espressioni facciali.
I pericoli dei deepfake
I deepfake sono più che semplici trucchi tecnici, rappresentano una seria minaccia.
- Frode mirata: I cybercriminali utilizzano i deepfake per falsificare identità e ottenere fiducia. Una chiamata falsa o un videomessaggio dall'aspetto realistico del "capo" o della tua banca possono essere sufficienti per indurre le persone a rivelare dati sensibili o a trasferire ingenti somme di denaro.
- Diffusione di disinformazione: I deepfake possono manipolare le opinioni facendo sembrare che politici, celebrità o giornalisti facciano dichiarazioni specifiche. Ciò può influenzare i dibattiti politici e minare la fiducia in fonti di informazione affidabili.
- Danno reputazionale ed estorsione: Video o immagini manipolati possono essere utilizzati per esporre, ricattare o screditare persone, ad esempio tramite presunti contenuti compromettenti.
- Impatto sociale: Più i deepfake diventano realistici, più difficile è distinguere tra realtà e finzione. Ciò alimenta la sfiducia nei contenuti reali, uno sviluppo che può mettere in pericolo i processi democratici.
Varianti comuni di frode che utilizzano i deepfake.
Sia che si tratti di audio, video o fotografie falsi, i deepfake stanno diventando sempre più sofisticati. I cybercriminali li utilizzano specificamente per ottenere fiducia e causare danni. Esaminiamo alcuni degli schemi di frode più comuni attualmente in circolazione e come riconoscerli.
Messaggi vocali falsi.
Gli aggressori possono creare messaggi vocali che sembrano provenire da qualcuno che conosci. Potrebbe esserti chiesto di rivelare informazioni sensibili o di aprire un documento contenente malware.
Chiamate telefoniche o videochiamate manipolate.
Grazie alle tecnologie avanzate, è possibile falsificare le voci in tempo reale durante una telefonata. Un esempio noto è il caso di un'azienda energetica britannica il cui CEO credeva di parlare con il direttore generale della casa madre e successivamente ha trasferito 220.000 euro su un conto fraudolento.
Deepfake nelle videoconferenze.
A Hong Kong, un dipendente finanziario di un'azienda è stato ingannato quando i truffatori hanno utilizzato la tecnologia deepfake in una videoconferenza per fingersi il CFO e altri dipendenti. Al dipendente è stato dato l'ordine di avviare transazioni, con una perdita di circa 23,5 milioni di euro.
Chiamate shock con voci false.
I truffatori utilizzano le tecnologie deepfake per fingersi membri della famiglia o amici e chiedere denaro in caso di false emergenze. Un esempio è la cosiddetta truffa dei "nonni", in cui le persone anziane vengono chiamate da presunti nipoti e viene loro chiesto supporto finanziario.
Notizie false.
I criminali creano video deepfake nello stile di noti formati di notizie, in cui personaggi famosi avrebbero promosso investimenti lucrativi. Un obiettivo potrebbe essere quello di indurre gli spettatori a visitare siti web fraudolenti per investire denaro.
Foto manipolate.
Le foto deepfake create con generatori di immagini possono mostrare persone in situazioni che non sono mai accadute. Gli esempi includono immagini di celebrità in situazioni imbarazzanti o fabbricate, utilizzate per diffondere informazioni false o danneggiare la loro reputazione.
Misure protettive contro le frodi deepfake
- Verifica dell'identità: Verifica l'identità del mittente tramite domande o canali di comunicazione alternativi.
- Consapevolezza: Informa te stesso e chi ti circonda sui media digitali e sensibilizza sui pericoli dei deepfake.
- Soluzioni tecniche: Utilizza software e strumenti che aiutano a rilevare i deepfake.
- Sii vigile: Metti in discussione criticamente le comunicazioni insolite per proteggerti dai crescenti pericoli dei deepfake.
Domande e risposte sui deepfake
Show content of Cosa sono esattamente i deepfake e come vengono creati?
I deepfake sono contenuti multimediali ingannevolmente realistici – solitamente video, audio o immagini – creati o alterati utilizzando l'intelligenza artificiale. I criminali utilizzano modelli di IA addestrati con registrazioni della voce, foto, video o stile di scrittura di una persona. I "dati di addestramento" per i deepfake possono anche essere generati chiamando persone la cui voce deve essere clonata con un pretesto, solo per registrare la loro voce.
Show content of In che modo i deepfake differiscono da altre forme di manipolazione digitale?
A differenza di semplici modifiche di immagini o profili falsi, i deepfake creano contenuti realistici e dinamici come persone che parlano in video o conversazioni telefoniche credibili. La falsificazione è spesso difficile da rilevare.
Show content of Perché i deepfake sono una minaccia crescente?
La tecnologia deepfake sta migliorando e diventando più accessibile, con molte soluzioni software di base disponibili gratuitamente. Inoltre, le registrazioni per addestrare le applicazioni basate sull'IA stanno diventando più facili da trovare – soprattutto sui social media. I deepfake possono sfruttare la fiducia – ad esempio, convincendo le persone a trasferire denaro o facendo apparire credibili informazioni false.
Show content of Dove vengono già utilizzati i deepfake?
I deepfake si trovano nell'intrattenimento (ad esempio, film, meme), ma anche in politica, per la diffusione di disinformazione, e nel giornalismo, dove i contenuti manipolati possono distorcere le notizie reali.
Show content of Quali rischi comportano i deepfake per individui, aziende e società?
Gli individui possono essere danneggiati emotivamente o finanziariamente dall'impatto dei deepfake, mentre le aziende possono subire danni finanziari o reputazionali. Socialmente, i deepfake promuovono la sfiducia, la disinformazione e la manipolazione nel discorso pubblico.
Show content of Come dovrei comportarmi durante una chiamata o videochiamata. sospetta?
Termina la conversazione se qualcosa ti sembra strano. Poni domande specifiche che solo la persona reale conoscerebbe. Richiama, ma solo tramite un numero conosciuto e sicuro.
Show content of Una conversazione fraudolenta via e-mail o messaggistica può essere generata dall'AI?
Sì. Esistono modelli di AI specificamente addestrati per scopi fraudolenti. Generano risposte e domande ingannevolmente reali e personalizzate, progettate per costruire fiducia e sollecitare un'azione.
Show content of La scrittura a mano di una persona può essere falsificata utilizzando l'intelligenza artificiale?
Sì, è tecnicamente possibile. Bastano poche righe di scrittura a mano reale per creare una falsificazione ingannevolmente reale – ad esempio, per firme o note. L'utilizzo può essere legittimo, ad esempio per il design, l'animazione o l'accessibilità, ma può anche essere utilizzato per frode e furto d'identità.
