08.10.2024 - Sono sempre più numerose le segnalazioni di tentativi di frode effettuati con l’aiuto dell’intelligenza artificiale (IA). Nei casi segnalati l’intelligenza artificiale è stata utilizzata per imitare voci, creare video deep fake o testi in svizzero tedesco. La scorsa settimana, l’UFCS ha ricevuto una segnalazione riguardo a una manipolazione con l’intelligenza artificiale di una recensione su un portale dedicato.
Nel mondo digitale, i sistemi di valutazione offrono ai clienti l’opportunità di farsi un’idea complessiva di un’azienda o di un prodotto prima di prendere una decisione d’acquisto. Le recensioni giocano un ruolo decisivo a tal fine, soprattutto nel settore alberghiero e della ristorazione o per i negozi online. Molti potenziali clienti leggono infatti le recensioni di altri clienti prima effettuare una prenotazione o un acquisto per assicurarsi che le loro aspettative siano soddisfatte. Queste recensioni hanno quindi un peso considerevole. Le recensioni positive possono infondere fiducia nei nuovi clienti e aumentare le vendite, mentre quelle negative possono scoraggiarle. Ma proprio perché le valutazioni possono influenzare le decisioni, c’è anche il rischio di un uso improprio. Infatti, sia le aziende che i clienti insoddisfatti possono cercare di manipolare i sistemi di valutazione. Ad esempio, le aziende potrebbero creare false recensioni positive o far cancellare quelle negative per migliorare la propria immagine. D’altra parte, i clienti insoddisfatti o addirittura i concorrenti possono deliberatamente lasciare recensioni negative per danneggiare un’azienda.
Un caso particolare ha attirato l’attenzione dell’UFCS, in cui delle foto create con l’intelligenza artificiale sono state utilizzate per dare la peggiore impressione possibile di un’azienda. Le foto mostrano servizi igienici sporchi, cibo avariato e camere sudice. Non è chiaro se a essere state manipolate fossero immagini realmente esistenti o immagini create ad arte. Anche il movente è sconosciuto. Sebbene il quadro presentato in questo caso è talmente esagerato da renderne facilmente riconoscibile il carattere fittizio, appare tuttavia chiaro il potenziale di abuso derivante dalle immagini generate dall’intelligenza artificiale. L’IA permette infatti di inserire vermi nell’immagine di un’insalata o tracce di muffa in una camera d’albergo con pochi clic del mouse.
Molti internauti hanno ormai sviluppato una sana dose di scetticismo nei confronti dei contenuti scritti online. Ciò vale anche per le recensioni. Il pubblico sta diventando sempre più consapevole dei reati di frode, riuscendo a riconoscere alcune storie false. D’altro canto, le immagini e i video godono in genere di maggiore fiducia, anche se oggi possono essere facilmente manipolati grazie all’intelligenza artificiale. L’UFCS ipotizza che la fiducia nelle immagini e nei video diminuirà significativamente in futuro, man mano che le applicazioni di IA diventeranno sempre più disponibili e facili da usare. Pertanto, anche con le immagini sarà necessario una maggiore dose di scetticismo: il loro contenuto dovrà essere messo in discussione come già avviene per i testi. Le competenze mediatiche svolgono un ruolo sempre più importante a tal fine.
Raccomandazioni
- Per le aziende:
Se come azienda avete una voce per la vostra attività su una piattaforma di recensioni, l’UFCS vi raccomanda di controllarla regolarmente per poter reagire rapidamente in caso di contributi illeciti; - Per i clienti:
Le recensioni sono uno strumento importante per valutare la qualità di un servizio (online). Tuttavia, è consigliabile mostrare una sana dose di scetticismo durante la loro lettura. Particolare attenzione deve essere prestata qualora diverse recensioni siano formulate in modo simile o nel caso di riscontri estremamente positivi o negativi.
Numeri e statistiche attuali
Segnalazioni della scorsa settimana per categoria:
Ultima modifica 08.10.2024
