Indice
Un nuovo studio condotto sul campo cambia il modo in cui dovremmo guardare all’uso improprio dell’intelligenza artificiale. La ricerca, firmata dalla studiosa Antonia Juelich del Cambridge Programme on AI Science & Policy e condivisa in anteprima con il New York Times, si basa su 57 interviste dirette a 27 ex membri di Boko Haram raccolte in Nigeria nell’arco di due anni.
Il risultato non è rassicurante: l’uso dell’AI da parte del gruppo non è occasionale, ma organizzato, con unità dedicate, formazione interna e conoscenze condivise tra i membri.
Gli strumenti citati dagli intervistati includono nomi che conosciamo bene: ChatGPT, Gemini, Claude, Grok, Meta AI e DeepSeek.
Non è solo propaganda: c’è un’unità AI dedicata
Il dato che colpisce di più riguarda la struttura interna. Secondo lo studio, entrambe le principali fazioni di Boko Haram, inclusa quella affiliata all’Islamic State West Africa Province, hanno creato unità specializzate che si occupano di interrogare i sistemi AI, tradurre le risposte in indicazioni operative per la catena di comando e formare i comandanti sull’uso degli strumenti.
L’accesso, spiegano gli ex membri, non era libero: i combattenti di grado inferiore non potevano usare direttamente i chatbot.
Le domande venivano passate ai comandanti o ai membri dell’unità AI, che gestivano anche account e abbonamenti a più piattaforme.
Lo studio racconta pure sessioni di formazione condotte da operativi jihadisti esterni, con gruppi che arrivavano a contare 30-50 persone tra leader e combattenti selezionati.
Bypassare i controlli di sicurezza è già successo
Il punto più delicato per le aziende che sviluppano questi modelli riguarda l’efficacia delle protezioni integrate. Secondo la ricerca, alcuni utenti sono riusciti a aggirare le barriere di sicurezza pensate per bloccare richieste legate a violenza e armi, ottenendo indicazioni utili sia per la pianificazione tattica sia per il miglioramento degli ordigni utilizzati negli attacchi.
Lo studio non quantifica di quanto l’AI abbia effettivamente migliorato le capacità del gruppo, ma gli ex membri descrivono ripetutamente vantaggi pratici concreti.
È un aspetto che riguarda tutti i produttori di AI, non un singolo modello: la ricerca copre soprattutto l’attività fino alla fine del 2024, e nel frattempo diverse aziende hanno rafforzato le proprie misure di sicurezza.
Resta però il nodo di fondo, cioè che le protezioni devono reggere non solo a un tentativo isolato, ma a un abuso organizzato, fatto di utenti che si scambiano metodi, ricevono coaching, riprovano dopo un rifiuto e si spostano tra account diversi.
Le risposte delle aziende coinvolte
Interpellata dal New York Times, OpenAI ha ribadito che l’uso di ChatGPT per sostenere terrorismo o violenza viola le proprie policy e che il lavoro sulle difese contro gli abusi è continuo.
Meta ha sottolineato che la ricerca riguarda soprattutto versioni precedenti dei propri modelli AI, aggiungendo di aver rafforzato le misure di sicurezza da allora. xAIe DeepSeek non hanno invece risposto alle richieste di commento dei media americani.
Cosa sappiamo e cosa non sappiamo
Cosa sappiamo:
- Lo studio si basa su 57 interviste a 27 ex membri di Boko Haram raccolte in Nigeria
- Gli strumenti citati includono ChatGPT, Gemini, Claude, Grok, Meta AI e DeepSeek
- Il gruppo ha creato unità dedicate all’uso dell’AI, con formazione interna e accesso controllato
- Alcuni utenti sono riusciti ad aggirare i sistemi di sicurezza dei chatbot
- OpenAI e Meta hanno risposto pubblicamente, gli altri produttori citati no
Cosa non sappiamo:
- Quanto esattamente l’AI abbia migliorato le capacità operative del gruppo rispetto a metodi tradizionali
- Se le stesse tecniche di elusione funzionerebbero contro le protezioni più recenti dei modelli
- Il numero preciso di account o abbonamenti utilizzati dalle unità AI del gruppo
Domande frequenti sull’uso distorto dell’AI
Quali chatbot AI sono stati citati nello studio?
Gli ex membri di Boko Haram intervistati hanno menzionato ChatGPT, Gemini, Claude, Grok, Meta AI e DeepSeek.
Chi ha condotto la ricerca?
Lo studio è opera di Antonia Juelich, ricercatrice del Cambridge Programme on AI Science & Policy, e si basa su interviste dirette raccolte in Nigeria.
Le aziende coinvolte hanno risposto?
Sì, OpenAI e Meta hanno commentato la ricerca, sottolineando gli sforzi per rafforzare i controlli di sicurezza. xAI e DeepSeek non hanno risposto.
L’AI ha reso Boko Haram più pericoloso?
Lo studio non lo quantifica con certezza. Descrive però un uso organizzato e sistematico, con vantaggi pratici riferiti direttamente dagli ex membri intervistati.
