L’intelligenza artificiale sta diventando un’arma per gli hacker

Google e Anthropic lanciano l’allarme sull’uso dell’AI da parte degli hacker: dagli attacchi automatizzati al phishing, ecco cosa sta cambiando.

L’intelligenza artificiale non è più soltanto uno strumento utilizzato per scrivere testi, generare immagini, tradurre documenti o rispondere alle domande degli utenti. I modelli generativi stanno entrando anche nel mondo della cybersecurity e, inevitabilmente, possono essere sfruttati tanto da chi difende i sistemi informatici quanto da chi cerca di violarli.

Il problema è che questa seconda possibilità sta diventando sempre più concreta. I report pubblicati dalle divisioni di sicurezza di aziende come Google e Anthropic mostrano infatti che gruppi di cybercriminali e soggetti legati a governi stanno integrando l’intelligenza artificiale all’interno delle proprie attività.

Non significa che l’AI abbia improvvisamente imparato a fare tutto da sola. Il cambiamento più importante riguarda piuttosto la quantità di operazioni che può automatizzare e la velocità con cui può essere svolto il lavoro preparatorio di un attacco.

Gli hacker stanno già usando l’AI

Secondo le analisi del Google Threat Intelligence Group, diversi gruppi di criminal hacker hanno iniziato a incorporare modelli linguistici di grandi dimensioni nei propri processi operativi.

L’AI può essere utilizzata, per esempio, per analizzare informazioni sulle potenziali vittime, preparare codice, tradurre contenuti, raccogliere informazioni e costruire comunicazioni più convincenti.

Uno degli aspetti più interessanti riguarda proprio il phishing. Un tempo una delle caratteristiche più evidenti delle email fraudolente erano gli errori grammaticali, le traduzioni approssimative e i messaggi generici inviati indistintamente a migliaia di persone.

Con i modelli generativi è possibile invece produrre comunicazioni molto più curate e adattarle al contesto della singola vittima. L’AI può aiutare a comprendere il linguaggio utilizzato, tradurre automaticamente un messaggio e costruire una comunicazione apparentemente coerente con quella di un’azienda o di un’organizzazione.

Il risultato è una sorta di automazione della sartoria della truffa: invece di preparare manualmente ogni singolo tentativo, gli aggressori possono utilizzare strumenti automatici per produrre e modificare grandi quantità di contenuti.

Il caso del gruppo legato alla Cina

Uno degli esempi riportati da Google riguarda un gruppo di hacker collegato alla Cina che avrebbe costruito un sistema automatizzato per cercare vulnerabilità nei computer delle vittime e provare a sfruttarle.

Al centro dell’operazione ci sarebbe CC Switch, una piattaforma utilizzata come una sorta di centrale di comando per interagire con diversi modelli di intelligenza artificiale.

La particolarità è che il sistema poteva inviare la stessa richiesta a modelli differenti, tra cui Claude di Anthropic, Gemini di Google e Codex di OpenAI, scegliendo di volta in volta quello più adatto al compito richiesto.

È un passaggio significativo perché mostra come l’AI possa essere inserita all’interno di una struttura più ampia. Il modello non rappresenta necessariamente l’intero attacco, ma diventa uno degli strumenti attraverso cui gli operatori possono velocizzare determinate attività.

In altri casi, sempre secondo Google, gruppi di hacker hanno utilizzato i modelli linguistici per profilare obiettivi di particolare interesse politico e sviluppare programmi malevoli destinati a bersagli specifici.

Anche l’Iran utilizza i modelli generativi

Un altro caso riguarda un gruppo associato alle autorità iraniane, identificato come Calanque Ion. Secondo quanto riportato da Google, Gemini sarebbe stato utilizzato per diverse attività di raccolta e analisi delle informazioni. Tra queste figurano la ricerca di dati riservati, l’identificazione di indirizzi email aziendali, la traduzione di testi in diverse lingue e il tentativo di ricostruire la struttura interna di software protetti.

Questo tipo di utilizzo evidenzia un’altra caratteristica importante dell’AI generativa: non serve necessariamente a compiere direttamente un’intrusione.

Può essere utilizzata molto prima, durante la fase di preparazione. E proprio questa fase può richiedere una quantità enorme di tempo quando viene svolta manualmente.

Un sistema capace di analizzare rapidamente grandi quantità di informazioni può quindi ridurre il lavoro necessario per individuare un obiettivo, comprenderne l’organizzazione e preparare un’operazione.

Anthropic ha individuato operazioni ancora più ampie

Anche Anthropic ha pubblicato una propria analisi sugli abusi dei suoi modelli Claude. L’azienda ha individuato attività riconducibili a diverse categorie di rischio, tra cui operazioni cibernetiche offensive, disinformazione, sorveglianza di massa, sviluppo di armi convenzionali, rischi biologici, truffe economiche e furto industriale di algoritmi.

Uno dei casi più rilevanti riguarda il gruppo identificato come GTG-10005, associato al collettivo russo Midnight Blizzard.

Secondo Anthropic, il gruppo avrebbe preso di mira più di venti organizzazioni governative e diplomatiche, arrivando anche ad accedere agli account WhatsApp di due ex alti funzionari ucraini e a sottrarre oltre mezzo milione di documenti da un ente pubblico.

In un altro caso, il gruppo GTG-50014, associato a ShinyHunters, avrebbe analizzato 1,8 milioni di applicazioni Android alla ricerca di chiavi e credenziali nascoste nel codice.

Gli agenti automatici avrebbero completato l’operazione in appena 34 ore, sottraendo più di un terabyte di dati e oltre 2.100 credenziali legate ai sistemi Microsoft per la gestione degli accessi. Sono numeri che mostrano perché l’automazione rappresenti il vero elemento di trasformazione.

Il problema non è soltanto trovare le vulnerabilità

L’AI può essere utilizzata anche per individuare vulnerabilità nei software. Secondo Anthropic, un altro gruppo, identificato come GTG-10007 e composto da due studenti di Changsha, avrebbe individuato una dozzina di falle sconosciute nell’arco di un mese.

In questo scenario il vantaggio non è soltanto rappresentato dalla capacità del modello di trovare un problema. A cambiare è soprattutto la velocità con cui possono essere analizzati sistemi e applicazioni.

Questo crea una sorta di corsa permanente tra attacco e difesa. Gli stessi modelli che possono aiutare un aggressore a individuare una vulnerabilità possono infatti essere utilizzati dai ricercatori per scoprirla prima che venga sfruttata e per suggerire una possibile correzione.

L’AI può diventare anche uno strumento di difesa

Ed è qui che il quadro diventa meno semplice di quanto potrebbe sembrare. L’intelligenza artificiale non è intrinsecamente uno strumento offensivo. Può essere utilizzata da entrambe le parti.

Jensen Huang, amministratore delegato di Nvidia, ha sottolineato proprio questo aspetto, indicando la cybersecurity come uno dei possibili grandi mercati per l’AI.

I modelli capaci di analizzare codice possono essere utilizzati per cercare vulnerabilità, simulare attacchi e individuare possibili correzioni. Un’azienda può quindi utilizzare sistemi automatici per controllare continuamente la propria infrastruttura, mentre un aggressore può tentare di fare qualcosa di molto simile dall’altra parte.

Si crea così un confronto sempre più automatizzato tra sistemi che cercano di attaccare e sistemi che cercano di impedire l’attacco.

Non è un concetto completamente nuovo per chi lavora nella cybersecurity, ma l’intelligenza artificiale può aumentare enormemente la velocità di queste operazioni.

Il vero problema è l’autonomia

La questione più delicata non riguarda quindi semplicemente il fatto che un hacker possa chiedere a un chatbot di scrivere del codice.

Il vero cambiamento arriva quando diverse operazioni vengono collegate tra loro e affidate a sistemi capaci di lavorare con un certo livello di autonomia.

Un modello può raccogliere informazioni, analizzarle, identificare un possibile obiettivo, preparare materiale per un attacco e passare il risultato a un altro strumento.

Più aumenta l’autonomia, meno l’operatore umano deve intervenire manualmente. È anche per questo che Google e Anthropic stanno dedicando sempre più attenzione al monitoraggio degli abusi dei propri modelli. L’obiettivo è impedire che strumenti progettati per aumentare la produttività possano essere trasformati in infrastrutture operative per attività criminali.

Ma la sfida è complessa. I modelli sono sempre più capaci, gli strumenti sono collegabili tra loro e molti servizi possono essere utilizzati attraverso API.

Una nuova fase per la cybersecurity

La crescita dell’AI non significa quindi che gli attacchi informatici diventeranno automaticamente invincibili. Significa però che alcune attività possono essere svolte più rapidamente, su una scala maggiore e con meno lavoro manuale. È questa la trasformazione che aziende, governi e ricercatori dovranno affrontare nei prossimi anni.

Da una parte ci saranno sistemi capaci di analizzare continuamente reti, software e codice alla ricerca di anomalie e vulnerabilità. Dall’altra ci saranno gruppi criminali e attori statali che potranno utilizzare tecnologie simili per preparare attacchi più velocemente.

Il punto centrale, quindi, non è stabilire se l’intelligenza artificiale sia buona o cattiva per la cybersecurity. È già entrambe le cose.

La vera partita si giocherà sulla capacità di controllare chi può utilizzare questi strumenti, con quali autorizzazioni e con quale livello di autonomia. Perché più l’AI smette di essere un semplice assistente e inizia ad agire come un operatore, più diventa importante stabilire con precisione cosa può fare e, soprattutto, cosa non deve poter fare.