European Cyber Security Month (ESCM): consigli per gli adolescenti

03.10.2024 - Le piattaforme come TikTok, Instagram o Snapchat offrono numerose funzioni basate sull’intelligenza artificiale (IA), come per esempio generatori di immagini, chatbot e persone create dall’IA. Le immagini o i video caricati sono analizzati automaticamente per proporre effetti, filtri o sottotitoli adeguati. Benché questi meccanismi siano in secondo piano e di per sé non siano problematici, le nuove possibilità offerte dall’IA rappresentano un rischio quando i criminali le usano per trarre in inganno le loro vittime.

Nei social media l’IA è utilizzata già da diverso tempo per ottimizzare l’esperienza degli utenti, per esempio proponendo nuove funzioni per ottimizzare le immagini. Gli adolescenti oggigiorno interagiscono con queste funzioni legate all’IA con naturalezza, senza quasi mai metterle in discussione.

I generatori di immagini IA sono in grado di creare ex novo foto, video o file audio, oppure di modificarli a piacimento. I prodotti che ne risultano sono definiti deepfake, che attualmente un occhio attento può ancora individuare.

Le caratteristiche tipiche degli audio deepfake sono:

suono metallico e monotono della voce;
il colloquio telefonico ha contenuti strani;
il vocabolario utilizzato è atipico.

Le caratteristiche tipiche dei video deepfake sono:

ombre in posti illogici oppure pettinatura inadatta al volto;
il volto si muove da una parte all’altra mostrando parti sfuocate;
qualità non ottimale (persona rispetto allo sfondo).

I cibercriminali usano le tecnologie deepfake per camuffare la loro identità e per instaurare un rapporto di fiducia con la vittima. I bambini e gli adolescenti sono le vittime ideali dei manipolatori, perché molte loro interazioni sociali avvengono su Internet. Inoltre i giovani spesso hanno spesso maggiore fiducia negli altri rispetto agli adulti. Nel video Brian Ceccato, analista tecnico presso l’Ufficio federale della cibersicurezza (UFCS), mostra come è possibile falsificare un numero, una voce o addirittura i dialetti svizzeri oppure un video live.