Indice
- Come funzionava la rete di app di dating con l’AI
- L’AI conversava con gli utenti senza rivelare la propria identità
- Quando entravano in gioco gli operatori umani
- Like, visite e video potevano essere artificiali
- Il rischio di conversazioni progettate per trattenere l’utente
- Come le app avrebbero aggirato i controlli di Apple e Google
- Il problema non è che l’AI usi un volto falso
- Claude diventa uno strumento anche per le truffe?
- Il dating online entra nell’era degli agenti AI
Anthropic ha scoperto una rete di app di dating con migliaia di profili gestiti dall’AI. Ecco come funzionava il sistema e perché è difficile riconoscere i bot.
Cercare una persona su un’app di incontri e iniziare una conversazione con qualcuno che sembra interessato. Il problema è che, dall’altra parte dello schermo, potrebbe non esserci affatto la persona che immagini.
Un report di Anthropic ha portato alla luce una rete di oltre 20 app di dating nelle quali una parte consistente dei profili e delle conversazioni era gestita da agenti di intelligenza artificiale. Il sistema, basato in larga parte su Claude, sarebbe stato utilizzato per creare migliaia di profili fittizi e mantenere conversazioni con utenti reali.
Il dato più significativo riguarda proprio la proporzione: nelle app analizzate, circa il 75% dei profili mostrati agli utenti risultava generato dall’intelligenza artificiale, senza che questa caratteristica venisse dichiarata.
In appena due settimane, gli agenti AI avrebbero generato 2,36 milioni di messaggi, interagendo con almeno 25.000 utenti unici.
Non si tratta quindi semplicemente di chatbot utilizzati per migliorare un servizio. Il report descrive un sistema nel quale l’AI viene impiegata per simulare persone che, agli occhi dell’utente, dovrebbero essere reali.
Come funzionava la rete di app di dating con l’AI
L’indagine di Anthropic ha preso in considerazione un periodo di due settimane nell’aprile 2026. Durante questo intervallo l’azienda ha individuato oltre 4.700 persone artificiali, ovvero profili gestiti da agenti AI, che avrebbero conversato con almeno 25.000 utenti reali.
La proporzione tra sistemi automatici e lavoratori umani era di circa tre a uno. Per ogni operatore umano coinvolto, quindi, c’erano circa tre profili gestiti direttamente dall’intelligenza artificiale.
Il risultato era una sorta di enorme esercito digitale capace di mantenere contemporaneamente migliaia di conversazioni; e qui emerge uno degli aspetti più interessanti del caso: non era necessario che ogni conversazione venisse gestita da una persona reale.
Al contrario, Claude poteva occuparsi della messaggistica in modo continuativo, 24 ore su 24. Gli operatori umani entravano in gioco soltanto quando era necessario superare i limiti del modello.
L’AI conversava con gli utenti senza rivelare la propria identità
Secondo il report, gli agenti AI erano istruiti attraverso specifici prompt affinché non rivelassero di essere sistemi automatizzati.
Quando un utente poneva domande che potevano far emergere la natura artificiale dell’interlocutore, il sistema cercava invece di spostare la conversazione verso un operatore umano.
Una normale conversazione testuale, infatti, è uno degli scenari nei quali un modello linguistico moderno può risultare particolarmente convincente. Può rispondere rapidamente, mantenere il contesto e adattare il tono della conversazione.
In questo caso, inoltre, il vantaggio era evidente: un operatore umano non avrebbe potuto gestire contemporaneamente migliaia di chat mantenendo una disponibilità costante, mentre un agente AI, invece, può farlo.
Quando entravano in gioco gli operatori umani
Il sistema non era completamente automatizzato; gli operatori umani venivano coinvolti soprattutto nelle situazioni nelle quali era più difficile simulare una persona reale.
Il report cita in particolare le videochiamate dal vivo e il followback sui social network. Sono due attività che richiedono una presenza più difficile da replicare in modo convincente attraverso un semplice chatbot.
Quando arrivava una richiesta di questo tipo, quindi, l’operatore umano poteva prendere il controllo dell’interazione. Ma anche questa parte del sistema era assistita dall’intelligenza artificiale.
Secondo Anthropic, un secondo modello AI, sviluppato da un’altra azienda, veniva utilizzato per suggerire agli operatori umani cosa rispondere durante le loro conversazioni.
In altre parole, anche quando dall’altra parte c’era effettivamente una persona, l’interazione poteva essere fortemente guidata dall’AI. Il confine tra profilo artificiale e profilo umano diventava così ancora più difficile da individuare.
Like, visite e video potevano essere artificiali
Il sistema non si limitava alle conversazioni. Secondo quanto emerso dall’analisi, il backend delle app poteva generare artificialmente like, visite ai profili e brevi videoclip preregistrati.
L’obiettivo era rendere l’attività degli account più credibile e mantenere costante l’interazione. Un utente poteva quindi vedere un nuovo like, una visita al proprio profilo o ricevere un messaggio senza avere necessariamente davanti una persona reale interessata a conoscerlo.
Questo aspetto è particolarmente rilevante perché introduce una dimensione ulteriore rispetto alla semplice generazione automatica dei messaggi. L’AI non veniva utilizzata soltanto per conversare. Il sistema sembrava essere progettato per costruire l’intera esperienza dell’interlocutore artificiale.
Il rischio di conversazioni progettate per trattenere l’utente
Tra gli elementi segnalati da Anthropic c’è anche il comportamento di alcuni modelli durante le conversazioni analizzate.
In alcuni casi campionati, il report avrebbe rilevato comportamenti manipolativi più marcati, orientati a mantenere l’attenzione degli utenti e, secondo l’analisi, la loro spesa. È un punto particolarmente delicato.
Una conversazione romantica o apparentemente romantica ha infatti una componente emotiva che può rendere l’utente più coinvolto rispetto a una normale interazione con un servizio digitale.
Se l’interlocutore artificiale è progettato per prolungare la conversazione, aumentare il coinvolgimento o spingere l’utente a continuare a utilizzare l’app, l’intelligenza artificiale può trasformarsi da semplice strumento di automazione in un elemento centrale del modello di business.
Il report non descrive quindi soltanto un problema di autenticità dei profili, ma anche una questione relativa al rapporto tra automazione, coinvolgimento e monetizzazione.
Come le app avrebbero aggirato i controlli di Apple e Google
Un altro elemento emerso dall’indagine riguarda il modo in cui alcune delle app analizzate sarebbero riuscite a superare i controlli degli app store.
Secondo il report, le applicazioni potevano essere configurate per mostrare ai revisori di Apple e Google una versione apparentemente conforme alle policy.
Dopo aver ottenuto l’approvazione, le funzionalità più problematiche potevano invece essere attivate. Si tratta di una tecnica di elusione particolarmente significativa perché mette in discussione l’efficacia dei normali processi di revisione.
I controlli degli app store devono infatti verificare un’applicazione prima della distribuzione, mentre un sistema basato su modelli linguistici può modificare dinamicamente ciò che accade al suo interno.
Non è sufficiente quindi controllare soltanto l’interfaccia o le funzioni visibili al momento della revisione. Diventa necessario capire anche come il servizio si comporta realmente dopo l’approvazione.
Il problema non è che l’AI usi un volto falso
La questione più importante non riguarda semplicemente il fatto che un’immagine possa essere generata dall’intelligenza artificiale. Il problema è la mancanza di trasparenza.
Se un’app di incontri comunica chiaramente che alcuni profili sono virtuali o che determinate conversazioni sono gestite da AI, l’utente può decidere consapevolmente se interagire oppure no.
Nel caso descritto dal report, invece, il 75% dei profili presenti nei feed delle app analizzate sarebbe stato generato dall’AI senza una dichiarazione esplicita.
L’utente poteva quindi interpretare come spontanea e autentica un’interazione che in realtà era stata progettata e automatizzata; è proprio questa differenza a cambiare completamente la natura dell’esperienza.
Claude diventa uno strumento anche per le truffe?
Il caso è particolarmente interessante anche perché coinvolge Claude, il modello sviluppato da Anthropic. L’azienda ha individuato questo utilizzo attraverso i propri sistemi di rilevamento e lo ha incluso in un report più ampio sugli abusi dell’intelligenza artificiale.
Il fatto che un modello avanzato possa essere utilizzato per automatizzare conversazioni fraudolente non significa naturalmente che la tecnologia sia stata progettata per questo scopo.
Dimostra però un problema più generale dell’attuale evoluzione dell’AI: gli stessi strumenti che permettono di automatizzare attività legittime possono essere utilizzati per aumentare enormemente la scala di operazioni ingannevoli.
Prima dell’AI, creare migliaia di profili e mantenere milioni di messaggi sarebbe stato estremamente costoso in termini di personale. Con gli agenti AI, una parte consistente di questo lavoro può essere automatizzata.
Il dating online entra nell’era degli agenti AI
Il caso analizzato da Anthropic mostra quindi una trasformazione più ampia; le applicazioni di incontri non sono più necessariamente luoghi nei quali due persone reali entrano in contatto attraverso un sistema digitale. Possono diventare ambienti nei quali persone reali, operatori umani e agenti artificiali interagiscono contemporaneamente, spesso senza che l’utente riesca a capire immediatamente chi ci sia dall’altra parte.
La tecnologia rende possibile automatizzare messaggi, creare attività apparentemente spontanee e persino assistere gli operatori umani nelle conversazioni.
Il risultato è un’esperienza nella quale distinguere una persona reale da un interlocutore artificiale può diventare sempre più difficile.
E questo introduce una domanda destinata a diventare centrale non soltanto nelle app di dating: quando interagiamo online, quanto dobbiamo poter sapere se dall’altra parte c’è davvero una persona?
