Indice
WhatsApp testa Scam Alert, il sistema che usa il machine learning sul dispositivo per riconoscere possibili messaggi truffa. Ecco come funziona.
WhatsApp sta testando una nuova funzione pensata per riconoscere automaticamente i messaggi che potrebbero nascondere una truffa. Si chiama Scam Alert ed è arrivata alla fase di test per un numero ristretto di utenti Android.
La caratteristica più interessante è il modo in cui funziona: l’analisi viene eseguita direttamente sul dispositivo, senza inviare il contenuto delle conversazioni ai server di Meta. Questo permette di mantenere attiva la crittografia end-to-end delle chat e, allo stesso tempo, introdurre un nuovo livello di protezione contro le frodi.
Come funziona Scam Alert di WhatsApp
Scam Alert utilizza un modello di machine learning che analizza i messaggi ricevuti da contatti sconosciuti alla ricerca di schemi riconducibili a truffe già individuate.
Il modello funziona on-device, quindi il contenuto della conversazione non viene trasferito ai server di Meta per essere analizzato. È un aspetto importante perché la funzione è stata progettata per convivere con la crittografia end-to-end di WhatsApp. La funzione è inoltre facoltativa e, nella fase di test, risulta disattivata per impostazione predefinita.
Quando viene rilevato un possibile tentativo di truffa, WhatsApp mostra direttamente nella conversazione l’avviso “This may be a scam”, cioè “Potrebbe essere una truffa”.
A quel punto l’utente può scegliere se bloccare e segnalare il contatto oppure considerare attendibile la conversazione. Nel secondo caso, quel contatto non verrà più segnalato.
L’avviso viene mostrato soltanto al destinatario. Chi ha inviato il messaggio non può sapere se Scam Alert lo ha classificato come sospetto.
Come WhatsApp aggiorna il sistema anti-truffa
Il modello viene addestrato utilizzando gli schemi individuati nelle conversazioni di truffa segnalate volontariamente dagli utenti. Meta può inoltre aggiornare il modello in background, senza dover necessariamente distribuire una nuova versione dell’app.
Prima della distribuzione, ogni versione del modello viene registrata in un registro pubblico di trasparenza e la sua integrità viene verificata direttamente sul dispositivo.
Anche le richieste di aggiornamento passano attraverso un sistema relay progettato per nascondere l’indirizzo IP dell’utente.
Meta ha inoltre esteso il proprio Bug Bounty a Scam Alert, permettendo ai ricercatori di sicurezza di analizzare il comportamento della funzionalità e individuare eventuali vulnerabilità.
Cosa succede se Scam Alert sbaglia
Un sistema automatico può naturalmente produrre anche dei falsi positivi, e WhatsApp ha previsto una procedura specifica. Se l’utente considera attendibile una conversazione segnalata, può scegliere di condividere con WhatsApp gli ultimi cinque messaggi della chat. La condivisione serve a contribuire al miglioramento del modello, ma rimane completamente facoltativa.
È presente inoltre un registro delle attività che permette di controllare quando Scam Alert è stato attivato, quali messaggi sono stati segnalati e quale versione del modello è stata utilizzata. Anche queste informazioni rimangono memorizzate sul dispositivo e non vengono condivise con Meta.
Scam Alert: quando arriva su WhatsApp
Per il momento Scam Alert è disponibile soltanto per un numero limitato di beta tester Android. La funzione è stata individuata nelle versioni beta 2.26.34.1 e 2.26.34.2 di WhatsApp. Anche installando una delle versioni compatibili, però, non è garantito l’accesso alla funzione: il rollout è infatti progressivo e dipende dall’account incluso nella distribuzione.
WhatsApp non ha ancora comunicato quando Scam Alert sarà disponibile per tutti gli utenti. Su iPhone la funzione arriverà successivamente.
Scam Alert non sostituisce l’attenzione dell’utente
L’introduzione di Scam Alert aggiunge quindi un ulteriore livello di protezione, ma il sistema non elimina la necessità di prestare attenzione ai messaggi ricevuti.
Il punto più interessante è soprattutto l’approccio scelto da WhatsApp: l’intelligenza artificiale analizza i possibili schemi di truffa direttamente sul dispositivo, lasciando all’utente il controllo sulle azioni successive e sulle eventuali condivisioni dei dati.
Per ora si tratta ancora di un test limitato. Sarà quindi necessario attendere il rollout più ampio per capire quanto sarà efficace nel riconoscere le nuove tecniche utilizzate dai truffatori.
