Guida pratica all'utilizzo di un'agenzia di monitoraggio dei messaggi di phishing grazie all'intelligenza artificiale: analisi completa per l'azienda del 2026
Da SPF/DKIM/DMARC a grandi modelli di analisi semantica, uno sguardo approfondito all'esecuzione dell'engine di antifishing guidato dall'intelligenza artificiale in un ambiente di minaccia reale
Daniel Nikulshyn
Editor
La panoramica delle minacce
Perché la pesca è ancora, nel 2026, il primo attacco
Anche se la sicurezza dei messaggi elettronici è sviluppata ormai da oltre vent'anni, la pesca (phishing) rimane il principale ingresso con cui le aziende subiscono la perdita di dati. Secondo il rapporto annuale della Verizon, dal titolo "Indagine sulle violazioni dei dati" (DBIR), l'ingegneria sociale e la ruberia di credenziali sono tra gli eventi di violazione più comuni, e l'e-mail è il canale di invio più comune per questi tipi di attacchi. La definizione di phishing riportata dall'enciclopedia Wikipedia indica che la sua natura di attacco consiste nell'infingere la vera identità di un soggetto, e nell'ingannare il destinatario a fornire credenziali, a effettuare un trasferimento di denaro o a installare software dannoso. Dai primi mesi del 2022, la diffusione delle tecnologie basate sul Generative AI ha notevolmente ridotto i costi della creazione dei contenuti di una posta elettronica di phishing. Regole basate sull'esperienza che identificavano la posta elettronica di phishing attraverso errori di ortografia e di sintassi si stanno ormai esaurendo. - Per colpa delle grandi modelli linguistici, è possibile creare testi che sono sintatticamente perfetti, coerenti col linguaggio e col tono dell'azienda, e addirittura personalizzare testi ad una persona data basandosi sui suoi dati pubblici di social, il cosiddetto attacco "a tiro fisso" o "spearing" e il reato di Business Email Compromise (BEC, sfruttamento dei dati dei sistemi di posta elettronica aziendali). BEC, in particolare, è qualcosa che meriterebbe una notevole attenzione. Nel suo rapporto annuale, l'FBI ha classificato per anni BEC tra i tipi di crimine più ingannevoli che abbiano procurato danni all'economia, e queste azioni, spesso, contengono nessun allegato pericoloso e nemmeno nessun collegamento pericoloso. Semplicemente si basano sulla manipolazione sociale dei funzionari finanziari per trasferir denaro, e quindi la tecnologia tradizionale di riconoscimento basato sulle firme e le liste nere dei collegamenti di cui sopra non può identificare nemmeno i più minimi indizi. Appesantita da questa tipologia di attacco "senza carico" (no payload), si è avviata l'avvento dei programmi di riconoscimento basati sul linguaggio umano basati sui linguaggi del linguaggio naturale. Essi non guardano solo i collegamenti e gli allegati, ma analizzano l'intento, le eccezioni della relazione dei soggetti coinvolti ed infine i pattern linguistici, e proprio i questi argomenti costituiscono la parte centrale tecnica che discute il testo di questo testo di consultazione.
- Phishing - Wikipedia — La definizione, il tipo e la storia delle truffe di posta elettronica riportata su Wikipedia
- Rapporto annuale dell'IC3 dell'FBI — Statistici sulle perdite procurate dai crimini di Business Email Compromise del FBI
Basi tecnologiche
La certificazione è il primo passo, ma non il limite finale
Ciascuna strategia di rilevamento di pesci rossi deve essere basata sui tre grandi protocolli di autenticazione del messaggio: SPF, DKIM e DMARC. Il SPF (Sender Policy Framework) specifica attraverso i record DNS quali server sono autorizzati a rappresentare un determinato dominio e a inviare messaggi; il DKIM (DomainKeys Identified Mail) utilizza una firma crittografica per verificare che il messaggio non sia stato alterato durante la trasmissione; il DMARC (Domain-based Message Authentication, Reporting and Conformance) definisce le strategie di gestione dei casi in cui le precedenti verifiche falliscono (nessuno/quarantena/rifiuto) e fornisce rapporti aggregati. L'articolo della Wikipedia su DMARC spiega le principali caratteristiche di questo protocollo, mettendo particolarmente in evidenza la funzione di 'allineamento' (alignment) che garantisce che il dominio specificato nelle verifiche SPF e DKIM sia coerente con il dominio visualizzato nell'etichetta From vista dall'utente finale, così da prevenire l'impersonificazione di dominio. Nel corso del 2024, Google e Yahoo hanno iniziato a imporre il DMARC a migliaia di mittenti, con un impatto significativo sulla riduzione degli attacchi di tipo impersonificazione di dominio diretti. Tuttavia, questi protocolli non sono capaci di affrontare due tipi di attacchi particolarmente pericolosi: l'attacco in cui il cyberattaccante ha registrato un dominio simile all'obiettivo (ad esempio "rn" che imita "m") e supera la verifica DMARC sul proprio dominio; e l'attacco in cui l'attaccante è riuscito a convincere un partner legittimo a mandare un messaggio dannoso. Questa è precisamente l'area di intervento delle tecniche di AI. Queste funzionalità utilizzano i risultati delle verifiche come una delle molte caratteristiche utilizzate, anziché come unica prova, per poi aggiungere l'analisi delle abitudini del mittente, la valutazione semantiche dell'intento del messaggio e la mappa dei collegamenti per coprire gli aspetti che i protocolli di autenticazione non riescono a trattare. Comprendere questo approccio, è il metodo migliore per evitare le parole d'ordine commerciali di alcuni produttori di soluzioni, tipo ‘siamo supportivi di DMARC’.
- DMARC - Wikipedia — Il funzionamento del protocollo DMARC, il meccanismo di allineamento e i diversi tipi di strategia
- DKIM - Wikipedia — I dettagli tecnici della firma crittografica DKIM
La tecnologia di base
Guida pratica all'utilizzo di Agenzie AI per la raccolta di email
Le moderne agenzie AI per la raccolta di email sono generalmente composte da quattro livelli di capacità. Il primo livello è la classica raccolta di indizi deterministici: il repository di fiducia per i collegamenti, l'analisi dell'esplosione di allegati in sandbox, l'analisi dei valori di hash degli allegati — questa parte della tecnologia è matura e si concentra principalmente sulla cattura di minacce già note. Il secondo livello consiste nell'ingegneria dei dati statistici e di apprendimento automatico, che estrae centinaia di segnali, come il periodo di registrazione del dominio di invio, il segnale di primo contatto, la divergenza nell'indirizzo di risposta e nell'indirizzo di invio, i caratteri Unicode nascosti in forma simile, ecc. Il terzo livello rappresenta l'ulteriore sviluppo dei primi anni: l'analisi dei contenuti naturali con modelli linguistici di grande scala. L'agente non si preoccupa più solo di 'è questo collegamento sicuro?' ma chiede 'questa email cerca di far cosa?' in cui riconosce la pressione per la celerità ('Si prega di effettuare il trasferimento dei fondi entro i prossimi 30 minuti'), l'inganno da parte di un'autorità (l'autonomia è usurpata da un CEO), e struttura di frase anomale. L'API dei modelli di grandi fornitori come OpenAI e Anthropic migliora sensibilmente l'accuratezza di questo tipo di analisi semantici, ma comporta anche nuovi problemi legati al costo, i ritardi e la privacy. Il quarto livello è rappresentato dalla mappa delle relazioni e dalle linee guida di comportamento. L'agente analizza il traffico storico interno ed esterno dell'organizzazione, creando un profilo di "comportamento normale" per ogni mittente di email: le ore di solito in cui invia, gli strumenti utilizzati, le destinazioni, e le espressioni di solito utilizzate quando comunica. Quando un'email si discosta dalla linea guida (ad esempio, il Chief Financial Officer che invia un messaggio di cambio urgente da un IP sconosciuto in un orario insolito), il sistema attribuisce un punteggio di rischio elevato. Quando l'utente valuta i propri servizi, sarebbe bene chiedere al fornitore: si basa l'analisi semantica su modelli di regole predefinite o su una vera ragione di modellistica? Quanti periodi di apprendimento sono necessari per la definizione di una base di riferimento comportamentale? Come si riesce a correggere eventuali falso positivi all'interno del modello? Le risposte a queste domande rivelano molto più del semplice utilizzo dell'IA.
- API di OpenAI: documentazione ufficiale — Documentazione ufficiale dell'API dei modelli di grande scala utilizzata per l'analisi semantico-intenzionale
- Software anti-phishing - Wikipedia — Panoramica delle classificazioni tecniche e delle metodiche di rilevamento dei software anti-phishing
La scelta dell'architettura
Raccolta di posta elettronica vs livello API: due architetture di deploy
Quando si effettua una scelta di tipo, la divergenza fondamentale di tipo architettonico si basa sul luogo della raccolta. Il servizio di posta elettronica di rete tradizionale (SEG, Secure Email Gateway) viene posizionato nell'entrata della posta elettronica, e tramite la modifica del record MX, invia tutti i messaggi in arrivo al servizio di raccolta e quindi alla posta elettronica. Questo tipo di approccio intercetta del tutto e non richiede l'API dell'impostazione posta, ma non consente di vedere le modifiche successive ai messaggi inviati (come i collegamenti attivati con ritardo), e quindi è difficile analizzare i pesci orizzontali interni. Negli ultimi anni si è diffusa l'integrazione API (di solito definita ICES, Integrated Cloud Email Security). Legge le cartelle posta tramite Microsoft Graph o Google Workspace API e effettua la scansione dei messaggi in arrivo o tramite servizi di posta elettronica. Questa architetture hanno i vantaggi di poter essere avviate in pochi minuti e non richiedono modifiche al record MX, e inoltre consente di leggere i messaggi posta elettronica e di supportare il ritiro automatico post-distribuzione. Microsoft Defender for Office 365 e Google Workspace Security nativo fanno entrambi parte di questa visione. Queste architetture non sono tra loro esclusive. Molti organismi ad alto livello hanno adottato un approccio "rete per selezione generale + strato API per selezione precisa": approccio difensivo profondo. Coloro che operano nella disciplina devono ponderare: le strategie per le architetture in arrivo sono maggiormente controllabili nelle situazioni di ritardo, ma richiedono un maggiore mantenimento. Le strategie di API sono più leggere, con buona visibilità, ma sono limitate dalla velocità e dalle autorizzazioni delle API del servizio di posta elettronica, e il ritiro post-evento significa che la posta elettronica malevola si è brevemente ritirata nella posta della cartella del destinatario. Un punto spesso trascurato nell'analisi della valutazione è il contenuto delle informazioni. Le strategie di API richiedono al fornitore di autorizzare la lettura di tutte le cartelle posta, che rappresenta un problema significativo per le aziende sottoposte a GDPR o vincolate da altri parametri di regolamentazione. Inoltre, assicurare che il fornitore delle applicazioni sia informato dei dati in cui si trova, del periodo di conservazione e se la posta elettronica viene utilizzata anche per addestrare modelli generici è altamente raccomandato.
- Microsoft Defender for Office 365 — documento ufficiale di Microsoft per la protezione dei messaggi di posta elettronica
- Email filtering - Wikipedia — mail filtering e gateway di sicurezza tecnica
Metodologia per selezionare
Evaluazione delle prestazioni: cosa misurare e come
Nella maggior parte delle offerte dei fornitori è dichiarata una percentuale di scoperta superiore al 99%, ma questa statistica è del tutto inutile se non si considera la popolazione di test da cui deriva. Raccomando alle squadre di sicurezza di creare un'approssimazione a quadrante per l'approfondimento che include prestazioni del rilevamento, fardello dei falso positivi, esperienza di manutenzione operativa e costi totali d'acquisto. Nella dimensione delle prestazioni del rilevamento, non è essenziale il tasso di accuratezza totale, ma piuttosto il rendimento nella classificazione: per i collegamenti maligni, per i virus in allegato, per lo spam testuale in BEC purista e per il phishing interno, vanno misurate le tariffe di ricorda. Un'ottima pratica consiste nel fare regredisce i propri valori storici di falso negativo (dopo esserne stati sminuzzati) e svolgere gli esami di regressione, anziché affidarsi solo all'analisi dei campioni di simulazione forniti dal fornitore. Inoltre, per una maggiore precisione, è doveroso richiedere almeno 30 giorni di trial parallelo per permettere all'unità nuovamente acquisita di eseguire le valutazioni senza interferire con l'ambiente di produzione. I falso positivi possono rappresentare il costo più facile da sottovalutare. Un modello avente appena il 0,1% di tasso di falso positivi può causare un effetto collaterale devastante per le organizzazioni che gestiscono un milione di messaggi al giorno, con una media di un migliaio di notifiche errate. Ciò ha l'effetto di logorare il SOC e corrode la fiducia degli utenti verso sistema. In fase di valutazione è fondamentale registrare la quantità di tempo necessaria dal personale per la gestione delle segnalazioni e mettere alla prova la sollecitazione della fornitore rispetto all'efficacia dell'aggiornamento. Altre dimensioni dell'esperienza operativa riguardano la configurazione strategica dei parametri, la profondità dell'integrazione (SIEM/SOAR) dell'interfaccia di ispezione, il contesto d'uso e il modello di tariffa d'acquisto per la posta. I costi occulti spesso si annidano in servizi specializzati, cycle di ottimizzazioni e contratti di riconciliazione per l'intelligence in materia di sicurezza. Questi sono tutti fattori determinanti per la scelta e che, a sua volta, potrebbero determinare un aumento a sorpresa dei costi per l'organizzazione. Inoltre, è fondamentale tenere conto di questi dati nella tabella decisionale, al fine di evitare situazioni di sovrabbonamento. Per approfondire, vedi l'articolo di Wikipedia relativo alle prestazioni di rilevamento in generale e alle tariffe.
- Precisione e ricorda in Wikipedia — Valutazione di equilibrio tra le prestazioni di accuratezza dei sistemi di rilevamento
Partita ad alleanza e difesa
Realtà antagonistici: quando gli attaccanti usano l'IA
Il rilevamento dei phishing rappresenta una sfida continuativa, poiché gli attaccanti hanno iniziato a creare stratagemmi per aggirare le tecnologie d'analisi basate sull'IA. Utilizzano 'iniezioni di promemoria' (prompt injection) nascoste al testo del messaggio per manipolare i modelli di classificazione: le lettere nascoste, i testi altrimenti inaccessibili e gli elementi visivi possono essere usati per aggirare i dispositivi di analisi basati su LLM, in modo da creare nuove opportunità di attacco. L'articolo di Wikipedia relativo all'apprendimento automatico antagonistico menziona che qualsiasi sistema d'analisi basato su modelli può subire attacchi ad hoc. Ciò significa che i provider devono adottare una strategia basata su più modelli, per evitare le strategie di attacco personalizzate. Un altro fattore inconsiderato è l'estenuante stanchezza dei sistemi di rilevamento, perché gli utenti possono gradualmente diventare indifferenti alle notifiche del sistema, a causa del carico di informazioni che ricevono nel corso delle varie ore del giorno. Un'ottima tecnica è quella di attribuire i livelli gerarchici di pericolo, in modo da poter dare un giudizio sull'entità del pericolo. Per ciò, si consiglia al fornitore di tenere conto di queste problematiche nel processo di sviluppo del prodotto, poiché queste sono le condizioni che, in ultima analisi, influenzano l'efficacia della protezione del sistema. In ultima analisi, la tecnologia non può rimpiazzare il ruolo dell''uomo. La combinazione di test di simulazione dei phishing e di sessioni di formazione continua per l'adeguatezza del personale, deve essere associata anche a tecnologie avanzate. Infine, gli utenti possono apprezzare maggiormente le capacità dei loro agenti di difesa se vengono presentate le risorse che l'agente ha usato per identificare e bloccare la minaccia. Ciò aiuta gli utenti a capire se e perché è stato scelto un approccio di intervento.
- Apprendimento automatico antagonistico in Wikipedia — Rischio per i sistemi d'analisi basati su modelli
- Anthropic ricerca sicurezza - Articolo — Ricerche sulla manipolazione dei modelli e sulla loro sicurezza
Guida di implementazione
La strada da seguire: pianta di implemenamento in 90 giorni
Basandomi sull'esperienza di molte implementazioni, consiglio di suddividere la pianta di implemenamento dell'agente di rilevamento anti phising in tre fasi da 30 giorni l'una. La prima fase da 30 giorni è la fase di baseline e di esecuzione con modalità parallela : senza alterare il flusso e-mail esistente, accendere l'agente nuovo in modalità "shadow", racogliere le sue valutazioni sui messaggi e-mail reali, e confrontarle con le statistiche di partenza, calcolare i nuovi rilevamenti e errori rilevati. Contemporaneamente, svolgere gli esami di controllo di SPF/DKIM/DMARC e assicurarsi che le basi di controllo siano stabilizzate: molti organismi scoprivano che il proprio DMARC era ancora fissato su `p=none`. La seconda fase da 30 giorni è la transizione in fase di grigio e ottimizzazione delle strategie. Scegliere un dipartimento a rischio controllato (solitamente i team finanziari o degli assistenti di direzione sono i gruppi a rischio per BEC) e attivare le intercettazioni forzate; monitorare i rilevamenti errori e creare una routine di rilascio rapido dei messaggi. La produzione principale di questa fase è una linea di base strategica e un set di procedure per la gestione degli eventi, chiara sulla classificazione degli avvisi da trattare automaticamente e quelli che richiedono un'analisi umana da parte del SOC. La terza fase da 30 giorni è la diffusione a livello organizzativo e la gestione della stabilizzazione. Connettere l'agente di rilevamento agli strumenti SIEM/SOAR, realizzare le chiamate per l'aggiornamento rapido del modello e delle chiamate in avanti; istituire una routine standardizzata di feedback sugli errori, in modo che ogni e-mail bloccatato possa essere rapidamente ritornato nella lista dei messaggi. Mai dimenticare il piano di rientro. Qualsiasi sistema dipendente da API e modelli esterni potrebbe perdere le sue capacità per breve tempo a causa di un'interruzione dal provider, aggiornamenti dei modelli oppure limitazioni delle velocità. Prima di attivare il piano di riduzione di rischi (ad esempio, ritornare ai regole deterministici conservativi), bisogna evitare che un singolo guasto al provider si ripercuota sulla intera organizzazione. Aggiungere queste norme nei punti dell'accordo di lavoro e contratto è il punto di arrivo per la tutela dell'organizzazione
- Security information and event management - Wikipedia — La connessione tra gli strumenti SIEM/SOAR e i sistemi di rilevamento e-mails
Risorse
- Phishing - Wikipedia
La definizione, il tipo e la storia dell'evoluzione delle minacce Phishing
- DMARC - Wikipedia
I principi operativi di protocollo e protocollo di autenticazione per evitare il phishing via email
- Guida di Microsoft Defender per Office 365
Documentazione ufficiale del prodotto di sicurezza per l'e-mail Microsoft
- Documentazione ufficiale di OpenAI
Il modello API di OpenAi per la semantic intent and semantic analysis
- Sito ufficiale di Anthropic
Sito dei ricercatori su annotazioni e modello di sicurezza delle minacce
Domande frequenti
L'agente di monitoraggio dei messaggi di phishing basato sull'intelligenza artificiale può effettivamente sostituire l'utilizzo di tradizionali gateway di sicurezza del posta elettronica?
In genere non può sostituire completamente l'altro, bensì complementare le funzionalità. Il monitoraggio basato sull'API presenta prestazioni migliori nelle BEC e nei messaggi di phishing laterali, ma il gateway ha ancora valore per la prescelta in ingresso e il controllo di ritardo. La maggior parte dell'organizzazione matura utilizza la difesa a profondità, con entrambi gli strumenti presenti insieme.
Quale è il rischio legale di autorizzare l'accesso a tutti i messaggi elettronici per l'implementazione di un sistema basato su API?
Si riferisce principalmente ai luoghi di archiviazione, ai periodi di conservazione e alla possibilità di utilizzo per l'addestramento dei modelli. Le aziende soggette a GDPR o ad altre norme di regolamentazione devono identificare il luogo di processamento delle informazioni dei fornitori, sottoscrivere un protocollo di data protection addizionale e confermare che l'accesso non viene usato per l'addestramento dei modelli generali.
Perché, nonostante l'implementazione di DMARC, ci sono ancora molti casi di phishing?
DMARC non può impedire l'idoneità del nome del dominio e non è efficace contro le miniature del nome del dominio (vengono utilizzate le attuali mailbox del partner) ed entrano in scena i casi di phishing. In questi casi, è necessario utilizzare l'analisi semantica delle comunicazioni.
Come misurare la sua efficienza di rilevamento?
Si riferisce principalmente ai tassi di riquadratura esterni al set di test. Si raccomanda di chiedere i requisiti specifici di riquadratura per tipo e di svolgere i test di regressione utilizzando campioni reali di email non segnalate e almeno 30 giorni di test di parallelismo simultaneo.
Quale è il potenziale impatto dell'errore di rilevamento?
Puo' essere enormemente sottostimato. Se anche l'errore di rilevamento di 0,1% si abbassa ad una massa di mail, ciò significa che la quotidiana separazione delle mail normali supera i migliaia di volte al giorno e può causare una caduta del centro di gestione della sicurezza e la fiducia degli utilizatori. È importante misurare anche il periodo di tempo di gestione degli errori di rilevamento e il fattore di apprendimento dei messaggi.
Quale tipo di tecnologia è più adatto ai messaggi di phishing creati con strumenti di AI?
La strategia basata sulla tradizionale analisi grammaticale/spell e la rilevamento degli errori di ortografia è ormai inapplicata. I metodi di rilevamento basati su basi comportamentali e su grafici delle relazioni sono validi, in quanto non dipendono dalla qualità del testo. Le soluzioni stabili dovrebbero integrare varie tecnologie per impedire che vengano sviati dai campioni di attacco pensati ad hoc.
Gli utenti di Microsoft 365 o Google Workspace devono acquistare un agente di AI di monitoraggio dei messaggi di phishing?
Gli utenti di Microsoft 365 o Google Workspace devono prima abilitare al massimo le sue funzionalità di sicurezza native, configurarla per l'esecuzione di DMARC e abilitarla al 'forbid' quando ci sono minacce B.E.C di frequente o sono soggetti alla normativa per la sicurezza degli email. E' consigliabile effettuare ulteriore valutazione e test delle soluzioni ICES quando risulta necessario, in particolare perché ora le soluzioni basate su ICES e le soluzioni basate sulle email e le soluzioni basate sulle email, in particolare.
Quanto tempo è necessario per il deploy di questi sistemi?
L'integrazione tecnica degli API è realizzabile tra qualche minuto e alcuni giorni, tuttavia è consigliabile una procedura di deployment in tre fasi di 90 giorni: 30 giorni di testing parallelo, 30 giorni di ottimizzazione, 30 giorni per attivare a tutta risorsa.
