I Hacker Possono Armiare i Riassuntori di AI per Diffondere Malware

Una nuova ricerca sulla cybersecurity ha rivelato un modo preoccupante in cui gli hacker possono utilizzare i sommariatori di IA per diffondere attacchi di ransomware.

I ricercatori di CloudSek spiegano che attraverso un attacco di ingegneria sociale ClickFix, gli hacker possono incorporare istruzioni dannose all’interno di documenti utilizzando tecniche di codifica invisibili. Il testo nascosto rimane invisibile agli occhi umani, ma i riassuntori AI possono rilevarlo e, quando generano riassunti, possono inconsapevolmente trasmettere le istruzioni pericolose agli utenti.

“È stata identificata una nuova adattamento del romanzo della tecnica di ingegneria sociale ClickFix, che sfrutta l’iniezione di prompt invisibili per armai i sistemi di riassunto AI,” hanno affermato i ricercatori.

L’attacco dipende dall’offuscamento basato su CSS che utilizza caratteri di larghezza zero e testo bianco su bianco e caratteri minuscoli e posizionamento fuori schermo per nascondere le istruzioni. Il riassuntore rileva il codice invisibile che rimane invisibile agli occhi umani.

Gli aggressori attuano un sovradosaggio immediato aggiungendo numerosi comandi a sezioni nascoste, il che induce l’IA a selezionare per prime queste istruzioni nel suo output.

“Quando tale contenuto manipolato viene indicizzato, condiviso o inviato via email, qualsiasi processo automatico di riassunto che lo ingloba produrrà riassunti contenenti istruzioni ClickFix controllate dall’aggressore”, ha spiegato lo studio.

Durante i test, i ricercatori hanno dimostrato come un riassuntore AI potrebbe essere manipolato per istruire gli utenti a eseguire pericolosi comandi PowerShell. Sebbene la versione di prova fosse innocua, un vero attacco potrebbe facilmente lanciare un ransomware.

Il livello di rischio di questo attacco è alto perché i riassuntori AI sono integrati in client di posta elettronica e browser e applicazioni di lavoro. I ricercatori sottolineano che molte persone si fidano dei riassunti senza leggere il documento originale, rendendo più facile per gli aggressori sfruttare quella fiducia.

Gli esperti raccomandano difese come l’eliminazione del testo nascosto prima che il contenuto venga riassunto, il filtraggio di richieste sospette e l’avviso agli utenti se i riassunti contengono istruzioni passo-passo.

Senza queste protezioni, l’IA potrebbe diventare involontariamente un “partecipante attivo nella catena di ingegneria sociale”.