AI e sicurezza informatica: come funziona la nuova truffa che sfrutta i dati personali

Un recente sistema di frode su internet utilizza i riepiloghi AI di Gmail per raggirare e ottenere dati personali. 

Nel vasto labirinto digitale che caratterizza le nostre vite quotidiane, l’intelligenza artificiale appare con il duplice volto dell’innovazione e del pericolo.

Da una parte, facilita le attività quotidiane, ma dall’altra presenta nuove opportunità per pratiche dannose sempre più elaborate.

Attualmente, la minaccia si nasconde nei servizi intelligenti creati per supportare l’utente: un esempio è la recente truffa informatica che utilizza i riassunti AI di Gmail, una minaccia invisibile ma estremamente pericolosa.

Con la diffusione dell’IA, questa truffa è capace di superare i tradizionali sistemi di protezione e ingannare l’utente con una precisione sorprendente.

Insicurezza strutturale

Un articolo di Fastweb chiarisce come alcuni criminali informatici stiano iniziando a sfruttare in modo illecito una delle più recenti funzionalità di Gmail: i riassunti AI. Questi strumenti, concepiti per assistere l’utente nel sintetizzare lunghe conversazioni via email, si stanno trasformando in un punto vulnerabile nel sistema di sicurezza, una falla che gli hacker sono stati in grado di sfruttare con astuzia. Secondo la fonte, le email truffaldine, prive di link sospetti o allegati pericolosi, riescono a eludere i filtri anti-spam di Google.  Il contenuto dannoso è, infatti, contenuto nel codice dell’email in caratteri piccoli e invisibili all’occhio umano, ma perfettamente interpretabile dal sistema AI di Gemini, dedicato alla generazione dei riassunti.

Di conseguenza, l’utente, leggendo il riassunto, si imbatte in informazioni manipolate che possono contenere avvisi falsi e inviti a compiere azioni che possono rivelarsi rischiose, come contattare numeri ingannevoli che si presentano come assistenza tecnica di Google. Anche se Google ha affermato che questo problema non è ancora molto diffuso, la vulnerabilità è reale, specialmente per chi ha attivato l’abbonamento a Google AI Pro, necessario per accedere ai riassunti AI. Fastweb mette in evidenza l’importanza di rafforzare le misure di sicurezza, un appello condiviso anche da Marco Figueroa, esperto del GenAI Bug Bounty Program di Mozilla, che esorta alla massima prudenza.

Un pericolo concreto ma circoscritto

L’attacco non si limita a una semplice violazione informatica, ma mina la stessa fiducia nella tecnologia. L’uso ingannevole delle funzionalità di AI rappresenta una sfida significativa per il futuro della sicurezza digitale, in un periodo in cui sempre più strumenti si basano sull’elaborazione automatica dei contenuti per orientare le scelte degli utenti. Google ha già annunciato l’implementazione di nuove misure di protezione per evitare la proliferazione di tali situazioni, ma il fenomeno dei riassunti AI solleva un interrogativo fondamentale: possiamo veramente fidarci delle tecnologie che si avvalgono dell’intelligenza artificiale per selezionare e sintetizzare le informazioni?

La risposta, a detta anche di Fastweb, dipenderà da quanto rapidamente le grandi aziende del web saranno in grado di adeguare i propri sistemi e dalla consapevolezza che gli utenti riusciranno a sviluppare riguardo a questi nuovi pericoli. Nel frattempo, l’unica vera forma di protezione resta l’attenzione informata e una sana dose di diffidenza, persino nei confronti di simili servizi.