Praktické vodítla k AI detekcii phishingových emailov: 2026 ročné vyhodnotenie a implementácie
Z SPF/DKIM/DMARC cez veľké modely na semantickú analýzu - podrobný rozbor, ako AI zameriavajú tiež proti phishingovým systémov spustie v skutočném ohrozenom prostredí
Daniel Nikulshyn
Editor
Celkový prehľad hrozieb
Prečo phishing zostáva v roku 2026 najvyššou útočnou vectinou
Hoci odvetvie bezpečnostných e-mailov már viac ako 20 rokov rastie, phishing (phishing) zostáva hlavným vstupným bodom pre úniky dát v podnikoch. Podľa mnoho-ročných správ Verizon DBIR (Data Breach Investigations Report) sú sociálny inžiniering a krádež poverenia v centre únikov dát, a e-maily sú najčastejším kanálom, ktorý sa pri tejto forme útoku používa. Definícia phishingu na Wikipédii poukazuje na to, že jeho jadrom je útočník, ktorý sa vydáva za dôveryhodnú entitu, aby obetí vyňal poverenia, prevody peňazí alebo inštaláciu malwaru. Od roku 2022 výrazne znížil výskyt generatívneho AI výrobných nákladov na phishingový obsah. Minulé empirické pravidlá, ktoré sa spoliehali na rozpoznanie chyby písania a ťažkopádnosti slov, strácajú platnosť - veľké jazykové modely môžu generovať perfektne gramaticky a tónovo prispôsobené texty, ktoré sú v súlade s firemnou kultúrou, a dokonca môžu vytvoriť obsah na základe verejných sociálnych profilov cieľa, čo sa nazýva Spear phishing alebo Business Email Compromise (BEC). BEC si zaslúži osobitnú pozornosť. FBI internetový kriminálny stredisko IC3 (Internet Crime Complaint Center) Already po mnoho rokov vykazuje BEC ako jeden z najväčších typov kybernetických trestných činov, ktoré spôsobujú ekonomické straty, a táto forma útokov často neobsahuje žiadne malvérovské odkazy ani prílohy, ale závisí výlučne od sociálneho inžinierstva a manipulácií financií, čo robí tradičné detekčné metódy založené na podpisoch a čiernych zoznamoch neúčinnými. Táto „bezpečnostná“ forma útokov podporila AI detekčné agentúry založené na semantickom poníme, ktoré sa dostali do popredia. Tieto agentúry už nefokusujú iba na odkazy a prílohy, ale analyzujú zámery, vzťahy a jazykové modely, čo tvorí jadro technológie, ktorú budeme v tejto príručke diskutovať.
- Phishing - Wikipedia — Wikipédií popis phishingového útoku, jeho typov a história
- FBI IC3 ročné správy — Štatistika stratám spôsobených BEC a inými formami kybernetických útokov, ktoré zverejňuje FBI
Technická základňa
Overovacie protokoly sú základom, ale ďaleko nie sú koncom
Akékoľvek seriousné riešenie na detekciu phishingu sa zakladá na troch hlavných protokoloch overovania e-mailov: SPF, DKIM a DMARC. SPF (Sender Policy Framework) pomocou DNS záznamu deklaruje, ktoré servery môžu zasílať e-maily v mene určitej domény; DKIM (DomainKeys Identified Mail) pomocou kryptografickej podpisy overuje, či e-mail bol počas prenosu zmenený; DMARC (Domain-based Message Authentication, Reporting and Conformance) potom nad týmto určuje stratégiu pre prípad, keď overenie zlyhá (none / quarantine / reject) a poskytuje agregované reporty. Článok na Wikipédii o DMARC vysvetľuje, že jeho kľúčovým príspevkom je „zhluk“ (alignment) – zabezpečuje, aby bola doména, ktorá prešla overením SPF / DKIM, zhodná s doménou zobrazenou v hlavičke From, a tým sa zamedzuje falšovanie domén. Google a Yahoo začali v roku 2024 požadovať DMARC pre veľkú časť odosielateľov, čo výrazne znížilo priestor pre priamy falzifikát domén. Avšak, tieto protokoly môžu riešiť len otázku, „kto má právo poslať e-mail z tejto domény“. Sú bezmocné voči dvom typom vysoce nebezpečných útokov: prvým je, keď útočník zaregistruje doménu veľmi podobnú cieľovej (napr. použitím „rn“ namiesto „m“), v tomto prípade môže e-mail prejsť overením DMARC vlastnej domény; druhým je, keď útočník získa kontrolu nad legitímnym e-mailovým účtom partnera a využije ho na útok, v tomto prípade všetky overenia prejdú. Práve tu sa uplatňuje úroveň zásahu AI detekčných agentov. Tieto budú résultats overenia brať ako jeden z mnohých faktorov, a nie ako jediný kritérium, a navyše budú používať profiláciu odosielateľa, analýzu semantického zámeru a relačné grafy, aby mohli pokriť „slepu“ oblasť overovacích protokolov. Poňatie tohto rozdelenia je predpokladom pre vyhodnotenie akéhokoľvek dodávateľa, aby sa izolovalo od zavádzajúcich marketingových tvrdení typu „My podporujeme DMARC“.
- DMARC - Wikipedia — Funkčnosť protokolu DMARC, mechanizmus zhluku a typy stratégií
- DKIM - Wikipedia — Technické.detaily kryptografickej podpisy overovania DKIM
VNútri motora
Rozbore jadra technologickej zostavy agenta AI na detekciu phishingu
Moderní agenti AI na detekciu phishingu sa obvykle skladajú z cuatroch vrstiev schopností. Prvá vrstva je tradičný deterministický detašment: databáza dôveryhodnosti URL, sandbox testovania príloh, porovnanie hash príloh - táto časť technológie je už dávno zavedená a slúži主要 na zachytenie známych hrozieb. Druhá vrstva je štatistická a strojové učenie s extrahovaním stoviek signálov, ako je napríklad dĺžka registrácie odosielateľskej domény, prvá komunikácia, nesúhlasnosť odpovedej a odosielateľskej adresy, skryté Unicode znaky a pod. Tretia vrstva je kľúčovým prelomom v posledných rokoch: analýza priestupného jazyka a veľký jazykový model (LLM) riadený syntaktickou analýzou. Motor už nevyzerá len to, či je odkaz bezpečný, ale skôr sa pýta 'čo sa touto e-mailom snaží urobiť'. Je schopný rozpoznať tlak a urgentnosť ('vykonajte prevod do 30 minút'), falšovaný výzor autority (nапr. CEO) a anomáliu štruktúry reči. API veľkých modelov od spoločností ako OpenAI, Anthropic a pod. výrazne zvyšujú presnosť takejto syntaktickej analýzy, no tiež prinášajú nové vyvažovanie nakladov, oneskorení a ochrany súkromia. Štvrtá vrstva zahŕňa graf relácií a behaviorálny baseline. Agent prostredníctvom analýzy histórie komunikácie vo vnútri aj vonku organizácie vytvára 'normálny behaviorálny profil' pre každého odosielateľa: kedy通常 pošle správu, aké zariadenie používa, s kým sa ozaj komunikuje a aké je jeho obvyklé slovné použitie. Ak sa e-mail odchýli od baseline (napríklad CFO náhle požaduje urgentný prevod z neznámej IP v noci), systém priradí vysokú rizikovú hodnotu. Takýto prístup založený na detekcii anomálií je obzvlášť efektívny proti BEC útokom ZERO day, pretože nie je závislý od žiadneho známeho signatúru. Pri hodnotení by sa profesionáli mali pýtať dodávateľov: či je syntaktická analýza založená na pravidlových šablonách, alebo či ide skutočne o modelovú inferenciu? AKo dlhý je učiaci čas pre behaviorálny baseline? Ako sa chyby riadia späť do modelu? Odpovede na tieto otázky sú omnoho lepším ukazovateľom skutočnej úrovne produktu než jednoduchá fráza 'používame AI'.
- Dokumentácia platformy OpenAI — Oficiálna dokumentácia API veľkých modelov pre syntaktickú analýzu
- Anti-phishing software - Wikipedia — Technická klasifikácia a metódy detekcie anti-phishing softwaru
Architektonické rozhodnutie
Brány na úrovni gateway vs. úrovne API: Dve architektúry nasadenia a ich výhody
Pri výbere najzákladnejšieho rozdelenia architektúry záleží na tom, kde sa nachádza bod detekcie. Tradičné zabezpečené brány pre e-mail (SEG, Secure Email Gateway) sa nasadzujú na vstupnom mieste e-mailového toku, pomocou modifikácie záznamov MX sa všetky входné e-maily smerujú najskôr do detekčného služba a potom sa doručujú do poštovej schránky. Táto metóda je kompletná, nezávisí od API poštového servera, ale nemá возможность vidieť zmeny užívané e-mailov (napr. oneskorené aktivity odkazov) a tiež ťažko analyzuje vnútorné horizontálne phishingové útoky. V posledných rokoch sa objavila integrácia na úrovni API (často nazývaná ICES, Integrated Cloud Email Security). Táto metóda využíva Microsoft Graph alebo Google Workspace API na čítanie e-mailov priamo z poštovej schránky, a to buď v rámci doručenia alebo po ňom. Výhodou tejto metódy je rýchla nasadzivosť, bez potreby úprav MX záznamov, možnosť vidieť vnútorný e-mailový tok a podporu automatického odvolania (claw-back) e-mailov po ich doručení. Príkladom tejto koncepcie sú Microsoft Defender for Office 365 a Google Workspace native security. Obe architektúry nie sú navzájom exclusive. Mnohé zavedené organizácie využívajú kombínovanú metódu „brány pre hrubú filtráciu a API vrstvu pre presnú inšpekciu“ na zabezpečenie hĺbky. Odborníci musia zvážiť: bránová metóda je vhodnejšia pre scénáře citlivé na oneskorenie, ale má vyššie nároky na údržbu; API metóda je ľahká na nasadenie, ponúka lepšiu viditeľnosť, ale je obmedzená rátom a oprávneniami platformových API a taktiež bedeutuje, že malý úsek času bol nechtenej e-mail zostal v užívateľovej schránke. Jedna často zanedbávaná bod hodnotenia je umiestnenie a ochrana údajov. API úrovne metóda vyžaduje autorizáciu tretích strán na čítanie plného obsahu e-mailov, čo je pre podniky viazané GDPR alebo inými priemyselnými výzvami dôležitým rozhodnutím. Je potrebné overiť, aký je postup spracovania údajov u dodávateľa, aký je čas ich uchovania a či sa e-mailový obsah používa na výcvik všeobecne použiteľných modelov.
- Microsoft Defender for Office 365 — Oficiálny mikrosoft dokument o ochrane e-mailových hrozieb
- Email filtering - Wikipedia — Technický kontext e-mailovej filterácie a bezpečnosti
Metodológia výberu
Hodnotiaci rámec: Čo by mali odborníci merať a ako
Takmer každý dodávateľ na trhu tvrdí, že ich detekčné vlastnosti sú '99% a viac', ale toto číslo je bez významu, ak sa neodráža v testovacích súboroch. Odporúčam bezpečnostným tímom vytvoriť rámec hodnotenia, ktorý pozostáva zo štyroch kvadrantov: detekčného výkonu, nákladov na falošné pozitívy, operačného zážitku a celkových vlastných nákladov. V dimenzii detekčného výkonu nie je kľúčom celková presnosť, ale výkon v jednotlivých kategóriách: detekcia phishingu s malým množstvom nechtenej pošty, detekcia malwaru, detekcia BEC (Business Email Compromise) a detekcia interného phishingu. Najcennejším postupom je použitie histórie vlastných nechtenej pošty (po odstránení citlivých údajov) na testovanie nových funkcií, namiesto závislosti na ukážkach dodávateľa. Navyše je nutné vyžadať aspoň 30 dní paralelného testovania (režim 影), aby sa novémotory mohli hodnotiť bez ovplyvňovania produkčných prostredí a následne porovnať skutočné výsledky. Falošné pozitívy sú najľahšie podceniteľné náklady. Jeden motor s falošnou pozitívnou mierou iba 0,1 % môže v podniku, ktorý za dní spracuje milióny emailov, znamenať, že denne je izolovaných 1000 normálnych emailov, čo môže zrušiť SOC (Security Operations Center) a podorať dôveru užívateľov k systému. Počas hodnotenia by sa mali zaznamenávať všetky falošné pozitívy a testovať, ako rýchlo sa dodávateľova spätña väzba učí. Operačný a nákladový rozmer zahrnuje: granulárne a čitateľné nastavenie stratégie, integráciu so SIEM/SOAR, použiteľnosť rozhrania pre vyšetrovanie udalostí a cenový model (podľa emailu, množstva emailov alebo počtu miest). Skryté náklady sa často objavujú v profesionálnych službách, optimalizačných cykloch a dodatočne potrebných predplatných na hrozby. Pokiaľ všetko zapíšete do rozhodovacej tabuľky, môžete sa vyhnúť zisteniu, že skutočné celkové vlastné náklady sú po uvedení do prevádzky omnoho vyššie, ako boli plány.
- Presnosť a recall - Wikipedia — Pochopenie kompromisu medzi presnosťou a recallom detekčného systému
Súboj útočníkov a obrancov
Protiľahlý realitu: Keď útočníci používašli AI
Detekcia phishingu je v podstate постоянným súbojom útočníkov a obrancov. Útočníci už začali vyvíjať spôsoby, ako obísť AI detektory: vkladanie skrytých 'prompt injection' textov do emailov, aby sa snažili manipulovať analytické motory založené na LLM; používanie obrázkov na nosnosť textu, aby sa vyhli textovému skenovaniu; alebo využívanie legitímnych cloudových dokumentov (Google Docs, SharePoint) ako mostu, aby sa malý obsah zobrazil až po viacnásobnom presmerovaní. Wikipédia o protiľahlej strojovej učeni (adversarial machine learning) uvádra, že každý systém, ktorý závisí na modeloch, je vystavený riziku, že bude oklamaný špeciálne navrhnutými protiľahlými vzorkami. To znamená, že ak dodávateľ зависим len na jednom veľkom modeli, môže byť protiľahlým útokom zraniteľný. Stabilný scenár by mal zahŕňať viacnásobnú integráciu, kde žiadny jeden signál nie je dôsledný. Ďalšou realitou, ktorá sa často zanedbáva, je 'detekčný únavový syndróm'. Keď sa systém častejšie zobrazuje rizikové výstrahy, užívatelia sa môžu postupne naučiť ich ignorovať. Preto dobrý produkt musí robiť rizikovú klasifikáciu – len pre veľmi rizikové emaily sa vykonáva silné zásah, pre stredne a nízke riziká sa poskytuje ľahká indikácia, čím sa užívateľská pozornosť rozložená na najdôležitejšie miesta. To je problém produktového designu a nie len technický problém, ale priamo určuje skutočné účinky ochrany. Nakoniec, technológia nemôže nahradiť ľudské školenie. Aj najpokročilejší AI agent by sa mal používať v kombinácii s pravidelnými simuláciami phishingu a školeniami bezpečnostného vedomia zamestnancov. Definovanie AI agenta ako 'znižovania množstva malých emailov, ktoré sa dostávajú do ľudských očích, a poskytovanie kontextovej pomoci pri rozhodovaní' je realistický manažment očakávaní, a nie 'zničiť všetky phishingy'.
- Protiľahlá strojová učenie - Wikipedia — Hrozby protiľahlej strojovej učenie pre detekčné systémy
- Anthropic bezpečnostný výskum — Výskum o vkladaní promptov a bezpečnosti modelov
Príručka pre implementáciu
Implementačný plán: 90-dňový plán nasadenia
Založené na skúsenostiach z viacerých nasadení, odporúčam rozdeliť nasadenie AI agenta pre detekciu phishingových e-mailov do troch 30-dňových fáz. Prvých 30 dní je fáza baseline a paralelného testovania: bez zmeny existujúceho e-mailového toku, v režime shadow mode sa pripojí nový engine, zhromažďujú sa jeho hodnotenia reálnych e-mailov, porovnania so súčasným stavom, kvantifikácia nových zistení a falošných poplachov. Súčasne sa dokončia zdravotné kontroly SPF/DKIM/DMARC, zaistenie stabilného overenia – mnoho organizácií objaví, že ich DMARC stále zostal na úrovni p=none. Druhých 30 dní je fáza prechodu do režimu 灰度 a optimalizácia stratégie. Výber jedného oddelenia s kontrolou rizika (obvykle financie alebo tím asistentov top manažérov, ktorí sú high-riskovou skupinou pre BEC) ako prvých povolenie silnejšieho zablokovania, bližšie monitorovanie falošných poplachov a vytvorenie rýchleho kanálu pre zrušenie zablokovania. Hlavným výstupom tejto fázy je súbor stratégii, ktoré sa zhodujú so skutočnosťou organizácie, a playbooks pre procesy, ktoré určujú, ktorý stupeň upozornení má byť automaticky vyriešený systémom a čo vyžaduje ručné vyhodnotenie SOC. Tretích 30 dní je fáza celkového rozšírenia a upevnenia prevádzky. Pripojenie detekčného agenta ku SIEM/SOAR, dosiahnutie automatického zrušenia, automatického izolovania a vzájomného pôsobenia s udalosťami a pracovnými cestami; vytvorenie bežného procesu pre falošné upozornenia, zabezpečenie toho, aby každé nesprávne zablokované e-mailové správy boli rýchlo vrátené do modelu;同時 spustenie prvého kola cvičných simulácií phishingu, overenie skutočných ochranných účinkov ľudsko-mašinovej spolupráce. Nezabudnite si vyhradíme plán pre zostupné konanie. Akýkoľvek systém, ktorý závisí na tretích stranách API a modeloch, môže dočasne prestat fungovať v dôsledku chyby dodávateľa, aktualizácie modelu alebo obmedzenia rát, a tak sa môžete predišielť tomu, že sa jeden incident dodávateľa stane prestávkou e-mailovej pošty v celej organizácii, ak ste si vyhradili plán zostupného konania (napríklad automatické vrátenie k konzervatívnym určitým pravidlám). Zapisovanie týchto podmienok do zmluvy v podobe SLA je posledným ochranným mechanizmom pre odborníkov.
- Security information and event management - Wikipedia — Informácie o pozadí SIEM/SOAR a ich súvislosti s detekčným systémom e-mailov
Zdroje
- Phishing - Wikipedia
definícia a druhov útoku
- DMARC - Wikipedia
principy emailovej autentifikácie
- Microsoft Defender for Office 365
oficiálna stránka produktu
- OpenAI platforma
služba s API pre analyzu semantiky a chovaní
- Anthropic výskumné centrum
principy pri vnosie súborov údajov
Často kladené otázky
Lietajúca AI detektúra môže úplne nahradzovať tradičné riešenia bezpečnosti emailov?
Typicky ne, práve naopak. API úrovňová AI detektúra sa lepšie chová v BC a interných vlnách priamo od phishingu, však gateways sa premiéro pôsobia ako riešenie pri vchode, kde môže byť vhodné používať ich k riadeniu zloženia a odkladu.
Používanie API úrovňovej riešenia zväčša vyžaduje čítanie všetkých emailov. Ktorým problémom môže súvisieť uhlásenie s právom?
Primárnym je potreba uchovávať údaje, ktoré sa použijú pre školenie modelov. Väčšina organizácií musia potvrdiť, či ich poskytovateľ používa údaje zo serverov nachádzajúcich sa v oblasti EU/EEA, či súhlasí s DPA a nie sú použitými emailami pre účely školenia všeobecných modelov.
Je pravda, že môžeme použiť DMARC aby bránilo útokom typu phishing?
Nie. Doménne meno môže len zabrániť napodobeninám podľa jeho vlastných doménnych men. Nemôže zabrániť napodobeninám blízkých domén (napr. použité útočníkovo legálnu doménu), ale ani tým, že napadnutá osoba používajúca doménu partnera bude útočnikova zbraňou. Táto situácia je základom pre potrebu použitia AI na analýzu semantiky a chovania.
Ľahké vírovalo, ktore tvrdí, že má detekciu 99% je pravda?
Nie, ľahké vírovalo je veľmi ľahko uvádzaný. Detekcia 99%, bez testovania s týmto typom útokov nemá praktickú hodnotu.
Kedy môže chyba pri detekcii zraziť operačne oproti detekcii priameho útoku?
Takýto typ chýb je veľmi ľahko zanedbatelnejších. V prípade chyby u 0,01 roztomilých emailov, bude to každých jeden milión emailov zanedbávať vyšiel 10 000. Tento typ chýby môže v prípade vysokej četnosti emailov ďalej priamy útok. Môže aj udržiavať SOC zlyhávajúcim. Utočník môže ďalej využívať túto chybu k zásahu do užívateľských vedomostí.
Zdá sa to, že sa ľahšie vylepí než aby bola priamo napadnutá.
Nie, používanie AI pri analýze chování a vztahoch môže útoky stále rozpoznať. Takáto kombinovaná detekcia, nepoužívaním základnej analýze semantiky, môže efektívne proti útokom s použitím generátory phishingových emailov.
Môžu používať Microsoft 365 alebo Google Workspace, alebo mám kupovať ďalšie riešenie.
Môžete začať úplne používať ich inbuilt riešenia v kombináciu s DMARC. A až budete čeliť vysokému množstvu útokov alebo budete musieť zmeniť práve vaše DMARC, potom môžete pokračovať k ďalejšej aplikácii riešenia, ale v prípade nižších útokov môže už stačiť využitie ICES riešení. Prináša tiež možno jednoduchšiu aplikáciu.
Ako dlho trvá, než je vyše implementácia, ak by ste chceli používať nové technológie.
Technológia môže byť implementovaná v rýchlosťi od počet sekúnd až do 30 dní. Úplnej aplikácií zopakuje aplikátor 90 dní. Má treba 3 fáze. Prvej fázie, najlepšie rýchle 30 dní. Druhej fáze aj 30 dní, v čom sledujete efekt a upravujete aplikáciu. Túto aplikáciu aplikujte potom vo 3. fázii a aplikáciu aplikujte napriek tomu na celej ploche aj 30 dní, aby aplikácia mohla preniknúť do všetkých častí.
