Praktický průvodce detekcí phishingových emailů pomocí AI: komplexní analýza výběru a nasazení pro podniky v roce 2026
Od SPF/DKIM/DMARC po velkou modelovou sémantickou analýzu, hluboké rozebrání toho, jak AI poháněný protiphishingový engine funguje v reálném ohrožení
Daniel Nikulshyn
Editor
Herní mapa rizik
Dělení phishing stále zůstává prvním cílem útoku v roce 2026
I přes rozvoj emailové ochrany více než dvacet let zůstává phishing hlavním přístupem k ukradení dat firem. Podle Verizonů publikujících každoroční zprávy o ukradených datech (DBIR) se v posledních letech ukradené údaje zahrnují sociální inženýrství a přístupové údaje, a nejčastějším distribučním kanálem jsou e-maily. Podle definice phishingu na Wikipedii je jeho základem podvádět příjemce, aby poddali přístupové údaje nebo provedli transfer, nebo nainstalovali malware. V roce 2022 začala popularizace generativního AI zásadně snížit náklady na vytváření phishingových obsahu. Bývalá zkušenostní metoda na základě náhodných chyb a špatných gramatických konstrukcí při identifikaci phishingových emailů je v současnosti ztracená, protože velký jazykový model dokáže generovat gramaticky dokonalejší a kultuře podniku přiměřenější texty. Tyto modely dokonce dokáží na základě otevřených sociálních dat o příjemcích vytvářet texty na míru. Toto se nazývá křížové taktiky phishingu (spear phishing) a obchodní emailové podvody (BEC, Business Email Compromise). BEC je zvláště nebezpečný. FBI Centrum pro reporty internetového kriminality (IC3) dlouhodobě uvádí BEC jako jeden z kybernetických zločinů, který způsobuje největší ekonomickou ztrátou v dlouhodobých zprávách, často obsahuje pouze sociální inženýrskou kampaň vůči finančnímu oddělení bez zahrnutí jakéhokoliv škodlivého linku nebo přílohy. Toto způsobuje tradiční detekční metody ztrátou efektivity. Jiště toto 'bezkvětné' útoku přináší na scénu, aby bylo vyhrazeno na umělou inteligenci a jazykové rozpoznání detekční proxy. Neanalyzují jen odkazy a přílohy, ale také zamýšlený záměr, neobvyklé vztahy a jazykové vzory, a to je hlavní technologie, která v tomto průvodci bude diskutována.
- Phishing - Wikipedia — Wikipedie o definici, typech a historii phishingových útoků
- FBICentrum pro roční zprávy o internetovém kriminalismu — Statistiky ztrát z BEC včetně dalších útoků ze strany FBI Centra pro zprávy o internetovém kriminalismu
Technické základy
Authentizační protokoly nejsou ani začátek
Libovolné vážné řešení phishingové detekce má jako základ tři grote ověřovací protokoly: SPF, DKIM a DMARC. SPF (Sender Policy Framework) používá DNS záznamy k určení, jaké servery mají právo odesílat e-maily jménem určité domény; DKIM (DomainKeys Identified Mail) pomocí kryptografické podpisové ověřuje, zda nebyl e-mail během přenosu pozměněn; DMARC (Domain-based Message Authentication, Reporting a Conformance) stanovuje strategii pro případ selhání ověření uvedených dvou protokolů (none/karanténa/odmítnutí) a poskytuje agregované zprávy. Encyklopedie Wikipedia vysvětluje klíčový přínos DMARC v tom, že zajišťuje "rozmístění" (alignment) – tedy, že doména SPF/DKIM ověřování je shodná s doménou skutečného odesílatele viditelnou v hlavičce From, což je důležité pro ochranu před imitací domény. Google a Yahoo iniciovali v roce 2024 nařízení pro většinu odesílatelů vyžadovat DMARC, což výrazně zmírnilo prostor pro falešné domény. Ihned je ovšem jasné, že tyto protokoly mohou řešit pouze otázku "Kdo má právo na základě této domény posílat e-maily?" Nezbavují se přitom dvou úchvatných útoku: první případ je registrace útoku s podobnou blízkou podobnou doménou (například "rn.com" místo "m.com"), kdy lze e-maily odeslat pod vlastním doménou DMARC ověřením, druhý případ je útoku s pomocí spolupracovníků s odcizeným legálním e-mailem, k němuž jsou ověřovací protokoly plně funkční. V tomto bodě nastupuje AI detekční agent s integrací ověřovacích výsledků jako jedné z více vlastností - nikoli jako jediný soud nad nímž rozhoduje o poskytnutí povolení. Další faktory do hry vstupují: chování odesílatele, semantické analýzy a vztahová sít. Tímto se kryse ověřovacích protokolů je do jisté míry překonává. Naším cílem je, aby tento rozložení úkolů byl dostatečně dobrý, abychom mohli vyhnout se zmateným informacím "Podporujeme DMARC" ve chvíli oceňování dodavatelů.
- DMARC - Wikipedia — Principy práce DMARC, jeho algoritmy "rozmístění" a kategorie stratégií pro zásah
- DKIM - Wikipedia — Technické podrobnosti o podpisové ověření DKIM
Nástroje interního motoru
Praktická aplikace AI detekčního agenty pro detekci phishingové pošty: 2026 – výběr a nasazení firem
Moderní AI detekční agenti pro phishingovou poštu obsahují obvykle čtyři vrstvy. První vrstva představuje tradiční deterministické detekci: ověřování URL, sandbox analýza a komparace hashů souborů – tato technologie je již dobře zavedená a zamlžuje především známé hrozby. Druhá vrstva je postavena na statistických a strojovémučeních, používá techniku extrakce milionů známek, jako je délka registrace domén, první komunikace, zobrazené adresy a rozdíl mezi doručovací a zasílací adresou... a tajnější podobizny Unicode znaků. Třetí vrstva je klíčovým prvenstvím posledních let: syntaxika přirozeného jazyka a sémantická analýza pomocí velkých linguistických modelů. Motor přestal jenom ptát: Je odkaz bezpečný? Místo toho ptá: Co chce této poště dovést? Dá se rozpoznat nalakování (pokušení pod tlakem v čase), zamlouvání autoritativní osobou (například zneužití pozice CEO) a nepredikovatelnost mluvy. Velké modely od společností OpenAI a Anthropic významně zlepšily kvalitu těchto analiz, ale také se zvedla cena, zdržení a nová zásadní práva. Čtvrtá vrstva představuje vztahovou mapu a referenční bázi chování. Agent detekce analyzuje veškeré komunikace organizace jak uvnitř, takvenku, a vytváří pro každý posílajícího odběr profil jeho normálního chování. Co typicky vysílá, kdy vysílá, čím komunikuje a s kým se spojuje. Když se odchýlí odběr od normálního chování, agent vyhodnotí odchylku jako vyšší riziko. Tato výjimečná odchylkovaná metoda je efektivní pro denní zátahů zneužití identity, protože nezávisí na žádných známých známkách. Profesionálem doporučujeme, aby při výběru zadal dodavateli následující otázky: je sematikální analýza postavena na modelu nebo na generických pravidlech? Do jak dlouho se vyžaduje, než se naučí agent chování? a jak se zavedeme chybná odhady do modelu. Následující odpovědi vám pomohou vyjasnit skutečnou úroveň produktu a odlišit ho od obvyklých oznámení typu (my produkt využívá umělou inteligenci). Ať už jste zkušení profesionálové, nebo začínající, tyto otázky vám umožní udělat správný výběr.
- Dokumentace OpenAI platforem — Dokumentace pro velkou modelovou API používanou k sémantickému analýzám
- Anti-phishing software - Wikipedia — Technologické skupiny a způsoby detekce phishingové pošty
Rozhodování o architektuře
Zásadní rozdíly mezi gateway úrovně a API úrovní: Vybrání způsobu jejich nasazení
Při výběru nejdůležitější rozdíl spočívá v tom, zda je detektor umisťován na místě v připojitelném místě datové schránky. Záleží to také na tom, zda se má změnit MX záznam nebo nikoli. V případě změny MX záznamu bude veškerý příchozí email nejdříve směrován ke službě detekce a teprve poté do datové schránky. Tento způsob detekce zabraňuje v maximální možné míře zadržení emailu v datové schránce a nemusí se spoléhat na API datové schránky. Nicméně, má jeden nevýhodu: nemůže dohledat změny, které mohou nastat až během přípojení do datové schránky (například zpoždění aktivace odkazu). Je také obtížné analyzovat interní vertikální phishing. Zatímco se v posledních letech zvykla úroveň API integrace (čelekICES, zkráceně Integrovanou Cloudovou bezpečnost emailu). Je založena na Microsoftu Graph nebo Google Workspace API přímo čte data datové schránky nebo je provádí vnitřní nebo po dokončení vyšetření emailu. Tato metoda má výhodu zvláštní, protože se na úroveň API lze nasadit v řádu minut a nemusí se měnit MX záznam, je možné také sledovat vnitřní tok emailu a podporuje i automatickou nápravo (claw-back) emailu. Microsoft Defender for Office 365a a Google Workspace nativní bezpečnost patří také do této kategorie. Obě architektury nejsou vzájemně vylučující. Mnoho zkušených organizací používá "zásadní rozdělení: příchozí email je nejdříve prohlédnut na příchozích bránách, následně je prohledán na úrovni vnitřního API". Jedná se také o strategie hluboké obrany. Osoby, které se v takovém případě rozhodují potřebují zvažovat: jestli je na úroveň API založena možnost zavedení odkazu nebo je možno použít zabezpečené úrovně připojitelné emailové schránky. Na úrovni API je také nutné počítat s omezeními API, jako jsou výchozité limity a oprávnění, které mohou v určitých případech omezení fungování. Také odkazuje na skutečnost, že zavedení návratu emailu znamená, že v určitou dobu zadržuje email v datové schránce, než jej vrátí. Neobvykle často se zjišťují při výběru dodavatelů také otázky týkající o uložení dat, jakožto i jejich zajištění. Na úrovni API jsou v některých případech nutné dodavatelům dát přístup k úplné datové schránce pro účely detekce. Tímto způsobem je nutné pečlivě zkontrolovat, zda dodavatel splňuje všechny nároky zahraničních nebo vnitřních předpisů. Tímto způsobem je nutné vyhodnotit, zda dodavatel splňuje všechny nároky, zda splňuje zajišťovací podmínky a dobu uchovávání dat.
- Microsoft Defender for Office 365 — Dokument k zabezpečení emailových útoků od předních zástupců Microsoftu
- Email filtering - Wikipedia — Technický rámec pro filtrování emailů a síťových bezpečností brány
Metodologie výběru
Cenník hodnocení: O co se mají bezpečnostní týmy snažit měřit
Ve skutečnosti téměř všechny dodavatelé tvrdí, že jejich detekční systém dosahuje detekce více než 99%. Jednatřicet devět na sto je však pro nás významně bezcenné, protože neoznačuje žádnou reálnou hodnotu. Naším doporučením je vytvořit bezpečnostním týmem čtyřpolaritou hodnocení, které kombinuje několik ukazatelů: - Detekční účinnost, - Míru falešných pozitiv, - Výkon systému a celkové vlastnické náklady. Klíčový ukazatel je právě detekční účinnost, což ovšem neznačí celkovou úspěšnost. Často bývá totiž nutné zaměřit se na jednotlivé typy a jejich výsledky (tj. na detekci odkazů s nebezpečným odkazem, na detekci vkládaných附件y (attachment), na detekci Béc s čistou textovou zprávou a na detekci interních útoků). Nejlepší je přitom použít své vlastní historické vzorky (zmražené) a provést regresní test, nikoli používat vzorky, na které je třeba spoléhat výhradně na dodavatele. Měli byste se rovněž pokuste provést alespoň třicet dníový paralelní testování (v režimu shadow mode) včas, aby mohly být výsledky porovnány se skutečnými výsledky. 1% falešných pozitiv se na první pohled může zdát malé číslo, ale pro velkou společnost s miliony odeslaných emailů může znamenat každodení tisíce zadržených emailů s čistým obsahem, což se přímo negativně projeví na SOC a ztrátě důvěry mezi zaměstnanci. Za každé falešné pozitivní výsledky byste měli nasměrovat hodinové náklady na zpracování jednotlivých falešných alarmů. Navážte si také na to, že se zaměříte na rychlost zavedení změn (feedback loop). Další dvě dimenze jsou spojené se zjišťováním nákladů spojených s provozem systému a celkovými náklady, které musí být vždy řádně zaneseny v podnikové kalkulaci: - Granularita konfigurace strategie, - Intenzita integrace s SIEM a SOAR a dostupnost vyšetřování událostí, - Podmínky cenového modelu (dle počtu emailů nebo za využití určitých služeb). Také zde je důležité rozpoznat skryté náklady, které se skrývají v příděle služeb zajišťujících správu, v potřebě optimální úrovně zdrojů a ve vyžadování různých služeb na úrovni poskytování bezpečnostních informací.
- Precision and recall - Wikipedia — Dostupné informace: Porovnání přesnosti a úspěšnosti detekčních systémů
Spor s útočníkem
Praktické problémy v současnosti
Detekce útočných emailů je dlouhodobý boj, který se neustále vyvíjí. Útočníci již začali využívat AI ve svém protiúderu: zařazují v emailu konkrétní zprávu s klíčovými slovy, aby ovlivnili AI a její výsledky. Útočníci používají obrázky s obsahem s cílem obejít systémy pro detekci. Používají legální dokumenty ke skrytí nebezpečného obsahu. Podle článku o odolném učení (Adversarial Machine Learning) se říká, že jakýkoli systém založený na AI je náchylný na útoky na AI, protože útočníci jsou schopni vyvinout prototypy s cílem ovládnout detekční systém na míru. Proto je dobré využít několik různých systémů, aby nebylo možné, aby jeden systém sám o sobě vyřadil útoky. Dalším problémem je únava systému. Systém bude vyvíjet tolik popsaných varování, které uživatelé na ně začnou reagovat a nechat je ignorovat a tudíž se ztratí efektivní použití systému. Tímto způsobem by se mělo vyvíjet několik různých úrovní varování: pro vysokou rizika se zobrazí silné a upozornitelné varování, pro nižší úroveň rizika by mělo být použito jen lehčí upozornění. Takto lze efektivně využívat úsilí a pozornost uživatelů. V neposlední řadě bychom měli dodávat lidské trénink a školení zaměstnanců v oblasti ochrany před útoky. Takto je možné vyvíjet úsilí na úrovni AI a lidského faktoru, aby se dosahovaly lepších výsledků.
- Adversarial machine learning - Wikipedia — Threats of Machine Learning to Detection Systems
- Anthropic bezpečnostní studie — Studie o vybraných metodách ovládání AI systému.
Poučidla implementačního procesu
Reálné implementační pláno: 90-týdenní plánu pro nasazení
Na základě mnohokrát aplikované zkušenosti navrhoji rozdělit implementaci AI systému pro detekci phishingových emailů na tři 30-týdenní etapy. První 30 dnů se skládá z základní fáze a simulovaného provozu, při kterém se nechá nový engine provozovat ve shadow módu, přičemž se sbírají jeho výsledky pro reálné emaily, které jsou srovnány s existujícím stavem a měří se objevené phishingové emaily a chybné alarmy. Taktéž je provedena kontrola SPF / DKIM / DMARC, aby se zajistila stabilita ověřovacích základů - mnohé organizace se až teď dověděly, že jejich DMARC stále ještě nefunguje v režimu "none". Druhým etapou je fáze přechodu na tónovku a odborné zkracovani stratégie. Vyberte jednu skupinu se zvláště nízkou mírou rizika (typicky je to finanční nebo sekretářsky tým vedoucí na BEC), aby se nejprve povolaná zesílená kontrola, přičemž se sleduje počet chybných alarmů a je zřízena rychlejší procedura pro odvolání těchto kontrol. Této fáze je k základnímu procesu dodána strategická báze a procesy pro vyřizování výjimek (playbook), při kterých je přesně definováno na jakém stupni jsou alarmy odbaveny automaticky a které vyžadují manuální odvolání SOC. Třetí etapou je plná implementace a zajištění provozu. Umožněte propojení detekční agenty s nástrojem pro sledování informací o bezpečnostních událostech a službě pro sledování a uchovávání bezpečnostních událostí, a tím umožněte automatické odvolání, izolaci a komunikaci mezi událostmi, odvoláním a zavedením chybných alarmů zpět do modelu tak, aby se zamezilo tomu aby podobné chyby nastaly znovu. Spustit také model simulativní útoků na phishing, který dokáže prokázat reálnou ochrannou hodnotu spolupráce člověka s umělou inteligencí. Nesmíte zapomenout na rezervní postup pro případ potíží. Každý systém, který je závislý na externí aplikačním rozhraní a modelech by se mohl dočasně zhroutit kvůli problémy dodavatele, aktualizacím modelů nebo omezením rychlosti, předem dohodněte s dodavatelem, že systém dokáže automaticky vrátit do původního stavu (například použít konservativní jistotní pravidla jako bezpečný zásah), který by jinak mohl způsobit celkový kolaps emailové komunikace celého organizace a zapsatelné to i v kontraktu se specifikací SLA. To by byl pro většinu pracovníků poslední zbytečný zamezení.
- Security information and event management - Wikipedia — SIEM/SOAR与邮件检测系统联动的背景知识
Zdroje
- Phishing - Wikipedia
Definice, typy a historie vývoje phishingových útoků
- DMARC - Wikipedia
Princip fungování e-mailové autentizace a protipodvodného protokolu
- Microsoft Defender for Office 365 dokumentace
Oficiální dokumentace k produktu Microsoft pro ochranu e-mailových hrozeb
- OpenAI platforma dokumentace
Oficiální dokumentace k využití velkých modelů API pro sémantickou analýzu
- Anthropic výzkumDomovská stránka
Pokročilý výzkum v oblasti提示 injekcí a modelové bezpečnosti
Časté dotazy
Může AI detekce phishingu úplně nahradit tradiční bezpečnostní e-mailovou bránu?
Obvykle nemůže完全 nahradit, ale jsou spíše doplňující. API úroveň AI detekce se lepší hodí pro BEC a interní phishing, ale brána má stále hodnotu v vstupní filtraci a řízení zpoždění. meisten zavedené organizace používají hlubokou obranu, obě vrstvy existují současně.
Jaká jsou rizika nasazení API úrovně vzhledem ke kompatibilitě?
Hlavně se týká datového uchovávání, doby uchovávání a toho, zda se používá pro školení modelu. Podniky, které podléhají GDPR nebo jiným regulatorním omezením, musí potvrdit, zda dodavatel zpracovává data v souladu s místem, uzavřením DPA协议 a zřetelně stanovit, že e-mailový obsah nebude použit pro školení obecného modelu.
Proč i přes DMARC stále dochází k phishingovým útokům?
DMARC může pouze zabránit padělatelství domén, ale ne proti podobným doménám (útočník použítý své legitimní domény) a prolomeným skutečným partnerským e-mailovým účtům, обоje tyto typy útoků mohou projít ověřením. Tomu je důvod, proč je zapotřebí AI sémantická a behaviorální analýza.
Je prohlášení dodavatele o 99% detekční míře důvěryhodné?
Oddělené testovací sady nemají žádný význam. Měli byste vyžadovat dimenze hodnocení a použít své vlastní historické nefunkční vzorky pro regresní testování, đồng thời provést alespoň 30denní paralelní zkušební běh ověření.
Jak velký provozní náklad vyvolává falešná hlášení?
Velmi snadné podcenit. Even 0,1% falešných hlášení bedeutí, že i při stamilionech e-mailů denně může být každý den izolováno několik tisíc normálních e-mailů, což může ohrozit SOC a podkopat uživatelskou důvěru. Při hodnocení je zapotřebí měřit dobu zpracování falešných hlášení a rychlost zpětné vazby.
Je detekce phishingu ještě účinná, když útočníci používají AI generované phishingové e-maily?
Tradiční metody rozpoznání gramatiky a pravopisu již nejsou účinné, ale založené na behaviorálních baseline a grafu masih hiệu quả, protože nejsou závislé na kvalitě textu. Robustní řešení by mělo zahrnovat více engine a vyhnout se cíleným prototypům útoků.
Je pro malé a střední podniky nutné pořídit speciální AI detekční agenta?
Pokud již používáte Microsoft 365 nebo Google Workspace, můžete první aktivovat jejich původní bezpečnostní funkce a DMARC nastavit jako vynucený. Pokud enfrentujete vysoké riziko BEC nebo požadavky na kompatibilitu, můžete hodnocením speciálního ICES řešení, přičemž cena za e-mail je již podstatně nižší.
Jak dlouho obvykle trvá nasazení tohoto systému?
Technické připojení API úrovně může trvat několik minut až dnů, ale kompletní nasazení se doporučuje provést ve třech fázích po 30 dnech: 30 dnů paralelního testování, 30 dnů ladění a 30 dnů plného nasazení a provozního zpřístupnění, aby se omezilo riziko falešných hlášení a přechodu.
