Ghidul practic de implementare al AI-ului utilizat pentru detectarea email-urilor de pescar 2026: alegerea și implementarea în 2026
De la SPF / DKIM / DMARC la analiza semantică a modelelor mari, explicăm în profunzime cum motoarele de detectare a fraudului de email își fac locul în mediu real de amenințări
Daniel Nikulshyn
Editor
Panoramă de amenințare
De ce peștele încă este cel mai mare pericol în 2026
Deși industria siguranței e-mail a evoluat de peste douăzeci de ani, peștele încă este principala intrare a companiilor în privința expunerii datelor. Potrivit raportului "Investigația pierderilor de date" publicat de Verizon pe perioada următoare mulți ani, societățile care practică ingineria socială și furajul certificatlor ocupă pozițiile superioare în privința evenimentelor care au dus la divulgarea datelor, iar e-mailul este cel mai des utilizat canal de livrare al acestor atacuri. Potrivit definiției de la Wikipedia, peștele reprezintă atacul care presupune furtul identității și a certificatelor, sau furtul banilor prin e-mail și instalarea software-ului malefic. Anul 2022 a marcat o creștere semnificativă a utilizării modelului artificial inteligent, ceea ce a scăzut semnificativ costurile de creare a conținutului e-mailului în scop de a trăda. În trecut se folosea o regulă de experiență pentru a depista e-mailurile care conțin greșelis gramaticale, dar astăzi această regulă este inaplicabilă din cauză că modelele mari de limbaj pot genera texte perfect scrise, compatibile cu cultura companiei, care au scopul de a trăda. Pe BEC se pesea deosebit de mult deoarece FBI a raportat o serie de cazuri cu pierderi economice uriașe, raportare de la Comitetul pentru Crime Online. Aceste atacuri se bazează pe manevră socială, prin intermediul căreia se ajunge la personalul financiar ca să închidă tranzacții, ceea ce face să fie inaplicabile metodele bazate pe semnăturarea e-mailului și pe utilizarea unor liste cu adrese URL-uri suspecte. Datorită acestora atacuri "neîncărcate" se poate spune că au dus la evoluția detectoarelor de a utiliza inteligenta artificială și compresia semantică. Aceste detectoare nu mai sunt doar capabile să urmărească legăturile sau atașamentele ci, din contră, să verifice intenția și să analizeze comportamentele care denotă anomalii și pattern-ul utilizat de cei care au scris, acestea fiind nucleul cărui tehnica și abordare este subiectul acestui ghid.
- Phishing (în engleză) — Definiția, tipurile și istoria peștelui (în engleză)
- Raportul FBI IC3 anual — Cazuri cu pierderi economice mari descrise în raportul publicat de Comitetul FBI pentru Crime Online
Bazele tehnologice
Certificatul autenticării înaintează, dar nu este punctul final
Orice sistem inteligent de detectare a e-mailurilor de pescar se bazează pe trei mari protocoale de autentificare a e-mailului: SPF, DKIM și DMARC. SPF (Sender Policy Framework) declară prin registrele DNS carele servere au dreptul să își reprezinte un anumit domeniu prin e-mailuri; DKIM (DomainKeys Identified Mail) verifică semnătura criptată pentru a verifica că e-mailul nu a fost alterat în timpul transmiterii; DMARC (Domain-based Message Authentication, Reporting and Conformance) stabilește strategia de tratare a eșecurilor de autentificare (none/quarantine/reject) și furnizează rapoarte agregate. Articolul din Wikipedia explică rolul-cheie al DMARC în ce privește 'alinierea' (alignment) - asigurarea ca numele de domeniu din SPF/DKIM să coincidă cu domeniul din capul 'From' vizualizat de utilizator, reducând astfel riscul de piraterie a domeniului. În 2024, Google și Yahoo au început să exige DMARC în masă de la o serie de expeditori, reducând dramatic spațiul de piraterie directă a domeniilor. Cu toate acestea, aceste protocoale rezolvă doar problema celui care are dreptul să folosească un anumit domeniu. Nu au capacitatea să combate două categorii ale atacurilor periculoase: primul constă în folosirea de către atacatorii de nume de domenii aparent legate (ca rn pentru imitarea m), care pot trece prin autentificarea DMARC a propriului domeniu; al doilea constă, în acționarea și capturarea email-ului valid al unui partener real pe care îl folosesc pentru a lansa atacul, unde toate autentificările sunt reușite. Aceasta este exact nivelul de intervenție a detectoarelor AI. Aceste detectoare folosesc rezultatele autentificării ca o serie de caracteristici, dar nu ca cel unic factor de decizie, dar în plus mai adaugă imaginea de profil a expeditorului, analiza semantică și rețeaua de relații, în cele din urmă acoperind zonele lipsă ale protocoalelor autentificării. De înțeles, este premisă pentru a evalua orice furnizor și de evitat să fiți 'amăgitor' cu sloganul 'Noi suținem DMARC'.
- DMARC - Wikipedia — Modul de funcționare al protocolului DMARC, mecanismul de aliniere și tipurile de strategii
- DKIM - Wikipedia — Detalii tehnice despre semnătură criptată DKIM
Teama din interior
Guida practică de aplicație AI pentru detectarea mesagerilor de pescuit: Analiza completă a opțiunilor pentru 2026 și implementarea pentru întreprinderi
Agentii moderne de detectare a pescării utilizând AI au de obicei patru niveluri de putere. Primul nivel este detectarea certă de tradiție: biblioteca de încredere a URL-urilor, boxarea sandboxului cu accesoriile, compararea de hashuri ale accesoriilor – aceste tehnologii sunt măcinate, principalul lor scop fiind blocarea amenințărilor cunoscute. Al doilea nivel este ingineria de caracteristici statistică și IA, care extrage mai multe semnale, inclusiv în timpul înregistrării domeniului de expediere, semnul de comunicație inițial, adresa de răspuns diferită de adresa de expediere, caracterelor Unicode ascunse similare etc. Al treilea nivel este descoperirea recentă-cheie: analizarea semantică a intențiilor și a modelului de limbă mare, împinsă de procesare de limbă naturală. Motorul nu mai întreabă doar dacă linkul este sigur, ci 'Ce încearcă să-mi facă cu această e-mail'. Poate identifica presiunea de urgență ('Trebuie să finalizez transferul de bani în 30 de minute'), disimularea autorității (simularea șefului executiv), precum și structura de conversație anormală. API-ul de model mare al firmelor OpenAI, Anthropic etc. mărește sensibil precisitatea analizei semantice, dar și a costurilor, a întârzierilor și a noulor echilibre ale conștiinței privitoare la secret. Al patrulea nivel este graful relațiilor și referința de bază. Agentul analizează comunicarea istorică dinăuntru și din afară a organizației, astfel creând fiecărui expeditor 'o imagine a comportamentului normal': la ce oră este obișnuit să trimită trimite, care este dispozitivul utilizat de el, cu cine se comunică, cum îl folosește de obicei. Când e-mailul se depărtează de referința bazei, sistemul dă un scor la risc înalt. Această abordare bazată pe detectarea excepțiilor este efectivă în cazul atacurilor de BEC zero zile, deoarece nu depinde de semnele cunoscute. Când evaluatorii din domeniu întâmpină un furnizor, îi trebue să-i pună întrebările de urmărit: ce este analiza semantică, ține de un model sau o templatizare de regulă? Cât timp are referința baza nevoie să învețe? Cum sunt returnate erorile către model. Răspunsurile la aceste întrebări dezvăluie mult mai mult decât o singură 'Folosim AI'.
- Documentația platformei OpenAI — Documentația oficială despre API-ul de model mare pentru analiza semantică a intențiilor
- Software anti-phishing - Wikipedia — Descrierea generală a clasificării și a metodelor de detectare pentru software anti-phishing
Decizia de arhitectură
Gateway vs API: Al doilea tip de implementare pentru detectarea e-mail-urilor de pescar\nP\n
În timpul selectării, cea mai fundamentală diferență de arhitectură rezide în punctul în care este realizat detectarea. Securitatea tradițională a gateway-urilor de e-mail (SEG, Secure Email Gateway) este implementată în punctul de intrare al fluxului de e-mail, modificând rutele MX în vederea redirecționării tuturor e-mail-urilor inainte de a fi trimise către serviciul de detectare, ulterior a fi trimise către cutia de e-mail. În acest mod, detectarea este eficace, nu depinde de API-urile platformei de e-mail, dar are limitele sale precum neobservarea ulteriorilor schimbări ale e-mailului (ca de exemplu, linkuri activabile cu întârziere), precum și dificultățile în stabilirea unei analize în scopuri de protecție a intersecției dintre diverse departamente de e-mail-uri de pescar. În ultimii ani, există o tendință a implementărilor API (denumite și ICES, Integrated Cloud Email Security), care utilizează API-ul Microsoft Graph sau Google Workspace pentru a citi conținutul e-mail-ului după ce a fost trimis e-mailului, pentru a efectua o analiză pe baza datelor. Avantajele principale ale acestui mod sunt: depunerea nu mai durează mai mult de câteva minute, nu este necesară efectuarea schimbărilor la rutele MX, conținutul e-mailului este vizibil și se poate efectua o automatizare a retrasului e-mailului de la utilizator (claw-back). Microsoft Defender for Office 365 și securitatea integrată nativă a Google Workspace reprezintă implementări cu același profil. Cele două arhitecturi nu sunt contradictorii, iar multe organizație avansate utilizează o strategie de dublă filtrare - în primul rând utilizând gateway ca un filtru grosier și apoi, la nivelul API, efectuând o analiză mai atentă. În contextul implementării, este necesar să se țină cont de următoarele: modul tradițional nu prezintă o controlă suficientă în situații de întârziere, dar necesita o întreținere complexă. La rândul său, implementarea se va desfășura în condiții mai bune privind timp, nu va necesita să se efectueze schimbări la rutele MX, dar este limitată de capacitatea și autorizarea utilizatei la nivel de API, precum și de riscurile pe care le ridică efectuarea retrasului automat al e-mailului. Un aspect important care nu este suficient de bănuit este evaluarea condițiilor impuse de reglementările GDPR și ale altor reglementări privind protecția datelor și respectarea datelor. Orice implementare a unui sistem de tip API necesită o permissie pentru accesarea e-mail-ului în totalitate, ce poate aduce consecințe importante pentru organizațiile care respectă reglementările privind protecția datelor, cum ar fi, pentru exemplu, cele care se află sub obligațiile GDPR sau în situația în care se află sub un reglementări similare. Este deosebit de necesar acest lucru, pentru ca securitatea organizațiilor de a avea control și asupra datelor lor respective, precum și asupra utilizării acestora.
- Microsoft Defender for Office 365 — Documentație pentru protecția e-mailurilor de la Microsoft
- Email filtering - Wikipedia — Contextul tehnic pentru filtrarea e-mailurilor și gateway-urile de securitate
Metodologia alegerei
Evaluarea frameworkului: Ceea ce operatorii de securitate ar trebui să măsoare și cum
Într-un mediu al concurenției, aproape fiecare furnizor afirmă că detecteză '99% și mai mult', dar acest număr își pierde sensul atunci când devine neașezat față de setul de teste. Sunt de părere că echipa de securitate ar trebui să construiască un cadru de evaluare format din cele patru cantoane: eficiența detectării, povara greșelilor de detectare, experiența de operare și costul total de proprietate. În ceea ce privește dimensiunea eficienței detectării, nu este doar despre ratele de vârful, ci și despre modalitatea în care fiecare tip de comportament este măsurat: pentru legăturile cu conținut nociv, software nociv prin atașament, BEC în forma sa pură și pentru interne phishing de tipul 'laterale', ratele de apel. Cea mai valoroasă alegere este de a efectua o testare retrogradă cu un set de date reale de avertizări de la trecut (după desensibilizare), nu de a depinde de un set de date demonstrative furnizate de furnizor pentru a demonstra performanțele noii motoare. De asemenea, asigurați-vă că furnizorul deține cel puțin 30 de zile de încercare în paralel (în modul shadow), pentru a permite motorului să obțină scoruri fără a afecta operațiunile în producție și apoi compara rezultate reale. O greșeală de detectare este unul dintre cele mai ușor subestimate costuri. O rată de eroare care ar părea a fi de doar 0,1% ar putea să însemne aproximativ 1.000 de mesaje normale izolate în zilele de lucru într-o companie care procesează milioane de mesaje. Aceasta va avea drept rezultat o scădere semnificativă a performanței sistemului de operare și va infiltra înscrierea utilizatorilor în sistemul de securitate. La momentul evaluării, înregistrați timpul de tratament pentru fiecare greșeală de detectare și verificați dacă furnizorul a furnizat un feedback rapid și aflat cât de rapid acesta se regăsește în fluxul de producție. Dimensiunea operațiunilor și a costurilor include în sine: abilitatea de configurare strategică, integrarea cu SIEM/SOAR, utilizabilitatea interfeței de anchetare a incidentelor și prețul modelului de preț. Costurile ascunse pot fi adesea aduse de serviciile profesionale, perioadele de ajustare și abonamentele suplimentare de avertizări de securitate. Păstrați un tablou al deciziilor, astfel încât să nu descoperiți doar după rularea de sistem că prețul real de întreținere depășește anticipațiile.
- Precizie și rată de apel - Wikipedia — Inteligentațiți despre modul în care detectarea sistemelor de detectare măsoară exactitute și ratele de apel
Jocul de atac și apărare
Realitatea de a fi atacat: Atunci când atacatorul folosește de asemenea AI
Detectarea prin mail este, de fapt, o joc permanentă de atac și apărare. Atacatorii încă pot concepe manevre de eludare special concepute împotriva detectoarelor de AI prin inserarea de texte 'prompt' ascunse în mail-urile lor, cu scopul de a manipula motoarele bazate pe LLM. Ei folosesc, din cauza scanărilor prin text, imagini pentru a ascunde conținutul nociv sau folosesc legături de documente legale din clouduri, de exemplu Google Docs sau SharePoint, ca să pună în aplicare, încă odată, mecanismul de eludare al unui atac în care conținutul poate fi descoperit abia după câteva saltări. Secțiunile de Wikipedia explică că sistemul de securitate nu poate fi niciodată complet sigur împotriva unui atacant care este familiarizat suficient de bine cu mecanismele. Îi vom numi sistemul 'vulnerabil'. Astfel de mecanismelor de securitate pot fi subminate astfel de o singură și atent pusă măsură de atacant dacă unul sau mai multe părți ale detectoarelor de AI nu sunt stabilite într-un mod adecvat. O soluție adecvată implică integrarea mai multor motoare în sistemul de detectare. Încă o dată, nu se va putea baza o singură asemenea rată de apel în sistemul de securitate. Celălalt, mult mai grav decât cel anterior de fapt, este 'detectarea epuizată'. Când un sistem al sistemului de securitate prezentă avertizări, utilizatorii vor începe să fie mai îngăduitori față de ele pentru că, în cele din urmă îi vor obișnui și așa se va păstra în mintea utilizatorilor. O idee excelentă este de a introduce o clasificare a riscurilor și, în consecință, a nu afecta sistemul de detectarea de AI ca un sistem de blocare, astfel încât utilizatorii să fie afectați de aceasta. Acesta este, de fapt, o problemă de proiectare și nu de tehnologie și poate decide efectul real de protejare a sistemului. În cele din urmă, nicăieri nu se poate înlocui rolul oamenilor de la secția sistemului de securitate de la o astfel de apărare. Această abordare nu va elimina complet detectarea prin email ci, cel mai aproape, de a reduce numărul de mesaje nocive care intră în atenția utilizatorilor și de a-i asigura și mai mult înțelegerea despre sistemul de detectare a AI-ului prin utilizarea de aplicații de testare a emailurilor de phishing (anti-phishing) de la secția sistemului de detectare a securității, și nu a unei abordări de a elimina complet sistemul de detectare a emailurilor.
- Inteligente de mașini adversar - Wikipedia — Mecanismele de detectare în detrimentul detectoarelor prin AI
- Anthropic Securitatea de cercetare - Research — Cunoștință despre a fi atacat și modalități de a se feri de atac
Ghid de implementare
Calea de execuție practică: Plan de 90 de zile de implementare
Pe baza experienței de implementare repetate, recomand să dezvoltarea și implementarea unui agent de detectare a e-mailurilor de pescar (fishing) să fie realizată în cadrul a trei etape cu o durată de câte 30 de zile pentru fiecare. Prima etapă de 30 de zile este bazată pe evaluarea și testarea paralelă: nu se schimbă fluxul de emailuri existent, cu o conexiune nouă (shadow mode) cu motorul nostru și colecția scorurilor reale ale emailurilor, compararea cu situația existentă și stabilirea unor numere concreti pentru noile detectări și pentru false pozitivi. De asemenea, se completează verificarea sănătății SPF/DKIM/DMARC pentru a asigura baza solida a certificatelor — mulți organizații, de fapt, află ca DMARC se află în stadiul p=none. Al doilea etapă de 30 de zile este bazată pe testarea gradiată și optimizarea strategiilor. Se alege un departament cu un grad de risc controlat (de obicei departamentele financiare sau asistenții de management sunt grupurile de riscuri ridicate pentru BEC), care să folosească interogările forțate, cu o monitorizare atentă a falselor pozitive și crearea unor canale rapide de lansare a acestora. Scopul acestei etape este de a stabili o bază strategică care să corespundă situației organizației, precum și să se asigure o procedură de rezolvare a evenimentului, ce să facă automat sistemul pentru un anumit număr de alerte și ce trebuies să se rezolve manual de către specialiștii din departamentul SOC. Etapa următoarează de 30 de zile este bazată pe implementarea în masă și pe consolidarea operațiunilor. Se conectează agentul de detectare a e-mailurilor de pescar cu SIEM/SOAR, realizând interogările automate și separarea automată a e-mailurilor, precum si crearea unor lucrări de evenimente; se creează și procedurile regulate pentru a returna false pozitivi în mod automat către modelul de învățare automată; de asemenea, se realizează și prima simulare de pescare a e-mailurilor, pentru a stabili un control real în ceea ce privește protecția împotriva atacurilor de pescar de e-mailuri, având un model real de colaborare între om și mașină. Trebuie evitată lipsa de răspuns. Orice agent de detectare care depinde de API-uri și modele de învățare, poate întrerupe activitatea temporar datorită problemelor de furnizare, actualizări ale modelelor sau limitări ale ratei, de aceea se va elabora o strategie de reducere a răspunzătoriilor (de exemplu, automat reînceperea pe cale de apel pentru un set de reguli mai prudente), ce împiedică să se transforme într-o întârziere în sistemul de emailuri într-un adevărat dezastăru pe planul întregii companii. Această scenariu ar putea fi și scris în contract ca parte a clauzelor SLA, pentru a proteja profesioniștii împotriva unor posibile pericole.
- Security information and event management - Wikipedia — Informații despre integrarea SIEM/SOAR cu sistemele de detectare a e-mailurilor
Resurse
- Phishing - Wikipedia
Definiția, tipul și istoria de dezvoltare a atacurilor de pescar
- DMARC - Wikipedia
Principiul de funcționare a protocolului de verificare și protecție a emailurilor contra imposibilului de autentificare
- Microsoft Defender for Office 365 - documentație
Documentația oficială a serviciului de protecție a emailurilor contra atacurilor
- OpenAI - documentație
Documentația oficială pentru API-ul de utilizare a modelului AI pentru a analiza intențiile de comunicare
- Anthropic - pagină de înainte
Cercetarea avansată în privința injectărilor de semnale și a securității modelului AI
Întrebări frecvente
Poate agentul de detectare a emailurilor de pescar prin intermediul AI înlocui complet securitatea emailurilor tradiționale prin intermediul intermediarului?
De obicei, nu poate înlocui complet, ci dimpotrivă se poate completa.
Ce este necesar înainte de a implementa API-urile schemei?
În ce privește cele mai mari riscuri privind protecția datelor, nu sunt necesare. Acest model nu implică citirea datelor din interioare, nu implică citirea datelor din interioare și nu implică citirea datelor din interioare.
În ciuda prezenței DMARC-ului, de ce există încă email-urile de phishing?
Sunt două clase de atacuri, cele de tip pseudo-domain (pentru care atacatorii folosesc domeniul propriu) și cele de tip domeniu compromis (pentru care atacatorii exploatează e-mail-ul de companie compromis). Aceste două categorii de atacuri își fac simțițiile DMARC, pentru care a fost proiectat ca o soluție de identificare a atributei email-ului. Dar există alte tipuri pentru care nu reușește și acestea sunt atacurile de tip domeniu compromis, precum și atacurile de tip pseudo-domain, care sunt cele mai puternice și cele mai periculoase.
Poate fi verificat procentul de detectare de 99% anunțat de furnizor?
În realitate aceste ratare de detectare care nu sunt testate au, în practică, o semnificație minimă. Înainte de a evalua detectarea, trebuie să ceri să fie măsurată rata selectivă de aprovizionare de categorii și, de asemenea, să folosești date reale din ședințele de istorie pentru a face înapoi în corelații și a face cel puțin 30 de zile de testare a calei paralelă.
Ce este riscul pe care îl prezintă aceste ratare de detectare?
În practică, aceste ratare de detectare sunt extrem de îngrijorătoare și vor fi, de fapt, mult mai periculoase. Chiar și rata de erori de 0,1% din partea unui miliard de email-uri într-o anumită perioadă de timp, care sunt separate, de asemenea, în practică, aceste ratare de detectare, vor duce la pierderea a mii de email-uri pe zi, pentru care atacatorii nu există, care vor duce la o exploatare și, de asemenea, vor duce la o exploatare. Prin urmare, aceste ratare de detectare vor avea o explicația în practică.
Există atacuri bazate pe AI împotriva email-urilor de pescar care pot face ca detectarea să fie ineficiență?
Există, într-adevăr, două modalități de a-l aborda. Prima este folosirea de bază a textului. Dar aceste ratare de detectare, care sunt bazeate pe această tehnologie, sunt de fapt, foarte ușor de înconjurat și, de fapt aceste ratare de detectare sunt de fapt foarte ușor de înconjurat. Acesta este motivul pentru care sunt foarte periculoase într-adevăr.
Există o încărcătură de lucru specială în a implementa un furnizor specific al detectării emailurilor prin intermediul AI?
Dacă întreprinderea dumneavoastră folosește Microsoft 365 sau Google Workspace, este într-adevăr recomandat să folosiți capacitatea de securitate originară a serviciului și, de asemenea, să instalați DMARC-ul, în stadiul Enforce. Când există riscul BEC și există cerințe legale, atunci este într-adevăr recomandat să apelați la schemele ICES.
Ce este cea mai bună cale de a încheiere a implementarea a unui sistem AI pentru a detecta phishing-ul și implementarea lui într-o întreprindere?
De obicei se poate face într-un număr de minute sau de zile, dar implementarea poate necesita cel puțin 90 de zile și într-o fază de 3.
