WhatsApp sta testando la funzione di sicurezza Scam Alert
Meta sta lanciando in versione beta una nuova funzione di WhatsApp, chiamata Scam Alert, che utilizza l’intelligenza artificiale direttamente sul telefono per identificare i messaggi che potrebbero far parte di un tentativo di frode. La tecnologia è progettata in modo che il contenuto dei messaggi non lasci il dispositivo per l’elaborazione.
Le truffe online sono diventate sempre più sofisticate. Dai messaggi che imitano istituzioni o aziende note alle tecniche di ingegneria sociale e ai tentativi di manipolazione generati con l’aiuto dell’intelligenza artificiale, gli attaccanti cercano di convincere gli utenti a divulgare informazioni, accedere a link o effettuare pagamenti.
In questo contesto, WhatsApp sta testando Scam Alert, una funzione di sicurezza opzionale basata su un modello di machine learning che viene eseguito localmente, sul dispositivo dell’utente. Secondo la documentazione tecnica pubblicata da Meta il 12 agosto 2026, l’obiettivo è fornire un avviso prima che l’utente interagisca con una possibile truffa, mantenendo al contempo i principi della crittografia end-to-end.
Cos’è WhatsApp Scam Alert e come funziona?
Scam Alert è, in questa fase, una funzione opzionale, disponibile in una versione beta limitata. Dopo l’attivazione, WhatsApp scarica sul telefono un modello di machine learning che analizza alcuni messaggi ricevuti da persone non presenti nella lista dei contatti.
Il modello non cerca semplicemente determinate parole chiave. Meta afferma che utilizza segnali linguistici e la struttura della conversazione, realizzando una classificazione probabilistica basata su schemi osservati in conversazioni associate a frodi. I dati di addestramento provengono da conversazioni di truffa segnalate in precedenza dagli utenti.
Se il sistema stima che esista un’alta probabilità che i messaggi facciano parte di un tentativo di frode, l’utente può ricevere un avviso nella conversazione. Questo offre opzioni come bloccare e segnalare il mittente o continuare la conversazione.
È importante che l’avviso non sia una prova assoluta che il messaggio sia fraudolento. È una misura di assistenza e prevenzione, e l’utente mantiene il controllo sulla decisione.
I messaggi non vengono inviati a Meta per l’analisi
Una delle caratteristiche più importanti di Scam Alert è che l’analisi avviene direttamente sul telefono.
Secondo Meta, sia il modello di machine learning che i dati dei messaggi elaborati per la classificazione rimangono sul dispositivo. Il contenuto dei messaggi non viene trasmesso automaticamente a WhatsApp, Meta o a terze parti per l’identificazione delle frodi.
Questo aspetto è importante perché WhatsApp utilizza la crittografia end-to-end per le conversazioni personali. Una soluzione tradizionale di rilevamento delle frodi potrebbe prevedere la trasmissione dei messaggi ai server per l’analisi. Scam Alert cerca di evitare questo approccio spostando l’elaborazione sul dispositivo.
Meta definisce esplicitamente tre principi per questa funzione:
- elaborazione esclusivamente sul dispositivo;
- nessuna segnalazione automatica;
- controllo da parte dell’utente.
La funzione può essere attivata o disattivata dall’utente, e la semplice rilevazione di una possibile truffa non determina la trasmissione automatica della conversazione all’azienda.
Cosa succede se Scam Alert sbaglia?
Come ogni sistema di classificazione basato sul machine learning, Scam Alert può produrre anche risultati falsi. Un messaggio legittimo può assomigliare a uno schema riscontrato nelle conversazioni fraudolente.
WhatsApp introduce quindi un meccanismo tramite cui l’utente può contrassegnare una conversazione come attendibile, se l’avviso è considerato errato. In questo caso, l’avviso viene rimosso e Scam Alert non dovrebbe più segnalare quella conversazione nello stesso modo.
Esiste anche un’opzione aggiuntiva: se l’utente sceglie di fidarsi della conversazione, può optare per la trasmissione a WhatsApp degli ultimi cinque messaggi ricevuti, per migliorare la precisione del sistema. Questa trasmissione è legata all’azione esplicita dell’utente e non rappresenta una segnalazione automatica.
Come vengono utilizzati i dati senza esporre le conversazioni crittografate?
Qui si trova una delle componenti tecniche interessanti del progetto. Meta afferma di aver bisogno di misurare se Scam Alert funziona correttamente: quanto spesso appare un avviso e cosa fanno gli utenti dopo la sua comparsa.
Per migliorare Scam Alert senza raccogliere il contenuto delle conversazioni, Meta utilizza due tecnologie di protezione dei dati. La prima (Confidential Federated Analytics) consente di analizzare le statistiche in modo distribuito e sicuro, senza che i singoli messaggi vengano inviati all’azienda. La seconda (Differential Privacy) aggiunge un livello aggiuntivo di protezione dei dati, in modo che i risultati statistici non possano essere utilizzati per identificare un determinato utente o la sua conversazione.
In pratica, il sistema traccia solo indicatori aggregati, come:
- il numero approssimativo di avvisi generati;
- le categorie di azioni intraprese dagli utenti dopo l’avviso.
Questi dati sono aggregati e i meccanismi di riservatezza sono progettati in modo che le informazioni su una persona individuale non possano essere dedotte dalle statistiche trasmesse. Meta afferma che gli aggregati disponibili all’azienda non contengono informazioni su un singolo utente.
Per l’elaborazione di queste statistiche, Meta utilizza anche ambienti di esecuzione sicuri (Trusted Execution Environments – TEE) e macchine virtuali riservate. L’architettura include, tra l’altro, la verifica del codice eseguito e meccanismi tramite cui i ricercatori possono verificare in modo indipendente determinate componenti del sistema.
Il sistema impedisce di indirizzare il modello AI a persone specifiche
Uno dei rischi interessanti dei sistemi AI distribuiti è la possibilità che un server possa consegnare a un determinato utente una versione diversa del modello.
Meta sostiene di aver progettato Scam Alert in modo che un modello specifico non possa essere consegnato deliberatamente a un utente predefinito.
Le versioni del modello vengono registrate in un registro pubblico di trasparenza, e ogni versione è associata a hash crittografici. Il registro è di tipo append-only, il che significa che le voci possono essere aggiunte, ma non modificate o eliminate in seguito.
Inoltre, le richieste per il download del modello utilizzano credenziali anonime e vengono trasmesse tramite un meccanismo OHTTP che rimuove l’IP dell’utente dalla richiesta vista dal server che consegna il modello.
Un altro elemento importante è che l’assegnazione dell’utente a varianti sperimentali del modello avviene localmente, sul dispositivo, usando la casualità, non tramite una decisione presa dal server per una persona identificata.
Utenti e ricercatori possono verificare quale modello è in esecuzione
Scam Alert introduce anche una componente di verificabilità.
Meta intende pubblicare le informazioni necessarie per la verifica dell’integrità dei modelli AI. Sul dispositivo, gli utenti possono attivare i registri di trasparenza che mostrano quali messaggi sono stati analizzati, il risultato dell’analisi e la versione del modello utilizzato.
In WhatsApp, le informazioni possono essere accedute da Account > Richiedi Info > Attività Scam Alert, secondo la documentazione tecnica pubblicata da Meta.
In parallelo, i ricercatori di sicurezza sono coinvolti attraverso il programma Bug Bounty. Meta afferma di fornire loro accesso ai componenti rilevanti per verificare se i messaggi rimangono sul dispositivo e se il modello ha effettivamente lo scopo dichiarato di rilevare le truffe.
Quando sarà disponibile Scam Alert per tutti gli utenti WhatsApp?
Al momento non esiste ancora una data di lancio ufficiale.
Meta descrive Scam Alert come una funzione in una versione beta limitata e precisa che il sistema sarà testato e migliorato prima della disponibilità su larga scala. L’azienda collabora anche con i ricercatori della comunità Bug Bounty per identificare problemi di sicurezza, privacy e comportamento del modello.
Pertanto, gli utenti di WhatsApp non dovrebbero presumere che la funzione sia già disponibile su tutti i telefoni o in tutte le regioni.
Perché questo approccio è importante?
Scam Alert mostra una direzione interessante per la sicurezza delle applicazioni di messaggistica: l’uso dell’AI per la protezione senza trasformare le conversazioni private in una fonte centralizzata di dati per l’analisi.
Secondo BleepingComputer, WhatsApp ha oltre 3 miliardi di utenti in più di 180 paesi, il che rende qualsiasi meccanismo di prevenzione delle frodi implementato a livello di piattaforma in grado di avere un impatto significativo.
Allo stesso tempo, gli utenti devono comprendere che Scam Alert non sostituisce l’attenzione personale. Un modello AI può identificare schemi e avvisare di conversazioni sospette, ma non può garantire che ogni messaggio fraudolento sarà rilevato.
La regola di base rimane la stessa: non trasmettere codici di autenticazione, password, dati bancari o altre informazioni sensibili solo perché un mittente afferma di rappresentare una banca, un’azienda, un amico o un’istituzione.
Conclusione
WhatsApp Scam Alert è un tentativo di combinare il rilevamento automatico delle frodi con la protezione della privacy. Il modello di machine learning viene eseguito localmente, i messaggi non vengono inviati automaticamente a Meta per la classificazione e l’utente decide se un avviso è corretto e se desidera segnalare la conversazione.
Inoltre, Meta introduce meccanismi di trasparenza, registri pubblici per le versioni dei modelli, verifica crittografica e test da parte di ricercatori esterni.
Per l’utente comune, il beneficio è semplice: se la funzione raggiungerà un lancio completo e il modello si dimostrerà sufficientemente preciso, WhatsApp potrebbe offrire un ulteriore livello di protezione contro i messaggi di truffa, senza che l’analisi delle conversazioni richieda la rinuncia alla crittografia end-to-end.
Tuttavia, per il momento, Scam Alert deve essere considerato un sistema in fase di test, non una garanzia contro le frodi. La difesa più efficace rimane la combinazione tra tecnologia di sicurezza, aggiornamento dell’applicazione e capacità dell’utente di riconoscere i segnali di un tentativo di frode.
Fonte: engineering.fb.com
