Praktični vodič za otkrivanje phishing e-pošte pomoću AI agenata: potpuni vodič za odabir i implementaciju za tvrtke 2026.
Od SPF/DKIM/DMARC do analize semantičkog modela, dubinski razlaganje kako AI pokretani anti-phishing enginei funkcioniraju u stvarnim uvjetima prijetnji
Daniel Nikulshyn
Editor
Pregled prijetnji
Zašto je phishing još uvijek glavni vektor napada u 2026.
Unatoč razvoju industrije sigurnosti e-pošte koji traje više od dvadeset godina, phishing još uvijek ostaje glavni ulazna točka za podatkovne propuste u poduzeća. Prema izvješću o propustima podataka (DBIR) koji izdaje Verizon, društveno inženjerstvo i krađa vjerodajnica su kroz godine nastavili zauzimati visoku poziciju u propustima, a e-pošta je najčešći kanal koji se koristi za dostavu takvih napada. Wikipedia navodi da je phishing u svojoj suštini napad u kojem napadač lažno predstavlja vjerodajnu instancu i nagovara žrtvu da preda vjerodajnice, obavi transfer ili instalira zlonamjerne softvere. Od 2022. godine, rasprostranjenost generativnog AI-a značajno je smanjila trošak izrade phishing sadržaja. Prethodna iskustva koja su se temeljila na prepoznavanju ortografskih grešaka i loše gramatike u phishing e-pošti sada polako gube svoj učinak — veliki jezični modeli mogu generirati tekstove savršene gramatike i tonaliteta koji se uklope u korporativnu kulturu, čak i prilagođavajući sadržaj ciljeva prema njihovim javno dostupnim socijalnim profilima, što se naziva spear phishing ili poslovna e-poška kompromitacija (BEC, Business Email Compromise). BEC je posebno zabrinjavajući. FBI-jev centar za prijave internetnih kriminala (IC3) je kroz godine u svom godišnjem izvješću naveo BEC kao jedan od najvećih vrsta kibernetskog kriminala koji uzrokuje financijske gubitke, a taj napad često ne sadrži nikakve zlonamjerne veze ili priloge, već se isključivo oslanja na društveno inženjerstvo kako bi se manipuliralo financijskim osobljem da obavi transfer, što potpuno onemogućava tradicionalne metode otkrivanja koji se temelje na potpisima i URL crnim listama. Uporno se pojavljujući 'bez tereta' napadi potaknuli su razvoj AI agenata zasnovanih na semantičkom razumijevanju koji su sada u prvom planu. Oni više ne gledaju samo na veze i priloge, već analiziraju namjere, odnose i jezične obrasce, što čini tehničko jezgro ove smjernice.
- Phishing - Wikipedia — Wikipedia objašnjenje phishing napada, vrste i povijest
- FBI IC3 godišnji izvještaj — FBI-jev centar za prijave internetnih kriminala objavljuje statistike gubitaka zbog BEC-a i drugih
Tehnička podloga
Sigurnosni protokoli su temelj, ali ne i krajnji cilj
Sve ozbiljne šeme za otkrivanje ribolovnih e-mailova grade se na tri velika protokola za verifikaciju e-mailova: SPF, DKIM i DMARC. SPF (Sender Policy Framework) putem DNS zapisa navodi koja su postrojenja ovlašćena slati e-mailove u ime određenog domena; DKIM (DomainKeys Identified Mail) koristi kriptografski potpis za verifikaciju da li je e-mail promijenjen tijekom prijenosa; DMARC (Domain-based Message Authentication, Reporting and Conformance) navodi strategiju za akciju kada verifikacija nije uspješna (none/karantena/odbacivanje) i omogućava agregirane izvještaje. Članak na Wikipediji o DMARC-u objašnjava da njegova ključna doprinašnja leži u 'poravnanju' (alignment) - osigurava da se domena koja se koristi za verifikaciju SPF/DKIM poklapa s domenom koja se prikazuje korisniku u zaglavlju 'From', kako bi se spriječile lažne domeene. Google i Yahoo su 2024. godine počeli zahtijevati DMARC za velike brojeve posiljaoca, što je smanjilo mogućnosti za lažne domeene. Međutim, ovi protokoli ne mogu riješiti probleme s dvije vrste visokorizičnih napada: prva je kada napadač registrira domenu sličnu ciljnoj (npr. koristeći 'rn' umjesto 'm'), što može proći verifikaciju DMARC-a za vlastitu domenu; druga je kada napadač preuzme kontrolu nad legitimnim partnerovim e-mail računom i pokrene napad, u kojem slučaju će svi procesi verifikacije proći bez problema. Ovdje se uvodi razina u kojoj djeluju agensi AI detekcije. Oni uzimaju rezultate verifikacije kao jedan od mnogih faktora, a ne kao jedini kriterij, i nadograđuju ih s analizom ponašanja posiljaoca, analiza semantičke namjere te relacijskim grafovima kako bi pokrili područja koja protokoli za verifikaciju ne pokrivaju. Razumijevanje ove podjele je preduvjet za procjenu bilo kojeg dobavljača, kako se ne bi pustilo da se williamsa riječima kao što su 'mi podržavamo DMARC' zavarava.
- DMARC - Wikipedia — Rad DMARC protokola, mehanizam poravnanja i tipovi strategija
- DKIM - Wikipedia — Tehnički detalji kriptografske verifikacije potpisa DKIM
Unutrašnji rad motorа
Razlaganje jezgre tehnološkog steka agenata za detekciju phishinga pomoću AI
Suvremeni agenti za detekciju phishinga koji koriste AI obično se sastoje od četiri sloja sposobnosti. Prvi sloj čini tradicionalna deterministička detekcija: baze podataka o reputaciji URL-ova, sigurnosni沙盒 za priложene datoteke, usporedbа хešа priложenih datoteka - ova tehnologija je zreла i prvenstveno sprečava poznate prijetnje. Drugi sloj čine statistička i strojno učenja karakteristike, izvođenje stotinjak signala, kao što su trajanje registracije pošiljateljevog domena, prvi znak komunikacije, nepouzdanost adrese za odvraćanje i pošiljateljeve adrese, skrivene Unicode znakove koji izgledaju isto... Treći sloj predstavlja ključni prodor u posljednjim godinama: analiza semantičkog značenja koji pokreće prirodni jezik i veliki jezični modeli. Motor više ne pita samo 'Je li ova poveznica sigurna?', već 'Što ova poruka pokušava od mene?', što može prepoznati prisilni pritisak ('Molim vas da dovršite transfer unutar 30 minuta'), lažno predstavljanje autoriteta (lažno predstavljanje CEO-a) i abnormalnosti u strukturi govora. API-ji velikih modela tvrtki kao što su OpenAI, Anthropic i drugi omogućili su precizniju analizu semantike, ali donose i nova pitanja o troškovima, kašnjenju i privatnosti. Četvrti sloj čine grafovi relacija i bazni modeli ponašanja. Agent analizira komunikacije unutar i izvan organizacije i uspostavlja 'normalni model ponašanja' za сваког pošiljatelja: u kojem razdoblju obično šalje poruke, koje uređaje koristi, s kim komunicira i koji jezik koristi. Kada poruka odstupa od baze (na primjer, CFO iznenada zahtije hitni transfer s nepoznate IP adrese ujutro), sustav daje visoku ocjenu rizika. Ova metoda temeljena na otkrivanju abnormalnosti posebno je učinkovita za napade BEC od nule dana, jer ne ovise o poznatim potpisima. Prilikom vrednovanja, stručnjaci trebaju pitati dobavljače: Da li je semantička analiza pravilno definirana ili je to stvarni modelski zaključak? Koliko dugo treba učiti bazni model ponašanja? Kako se pogrešni alarmi unose u model? Odgovori na ova pitanja mnogo bolje otkrivaju stvarni nivo proizvoda nego jednostavno 'Koristimo AI'.
- Dokumentacija OpenAI platforme — Službena dokumentacija API-ja velikog modela koji se koristi za semantičku analizu
- Anti-phishing software - Wikipedia — Tehničke kategorizacije i metode detekcije za softver za zaštitu od phishinga
Odluke o arhitekturi
Prilaz vrati ili API razini: dvije vrste implementacijske arhitekture
Prilikom odabira najvažnija arhitektonska razlika je gdje se nalazi točka za otkrivanje. Tradicionalne sigurne email vrata (SEG, Secure Email Gateway) implementirana su na ulazu u tok email poruka, tako što se mijenja MX zapis kako bi se sve ulazne email poruke prvo usmjerile na servis za otkrivanje, a zatim dostavile na email sandučić. Ovaj pristup potpuno onemogućava napade i ne ovisi o API-ju email platforme, ali ima nedostatke kao što su nemogućnost pregleda kasnijih promjena već dostavljenih email poruka (kao što su zakasnjele aktivacije veza), te poteškoće pri analizi unutrašnjeg horizontalnog napada ribolovom. U novije vrijeme pojavio se API razinom integriteta (često nazvan ICES, Integrated Cloud Email Security). On preko Microsoft Graph ili Google Workspace API-a direktno čita email sandučić, te provodi unutarnji ili kasniji pregled nakon dostave email poruke. Prednost ovog pristupa je u tome što je implementacija brza i može biti aktivirana u roku od nekoliko minuta, bez potrebe za promjenom MX zapisa, te omogućava pregled unutrašnjeg toka email poruka i podržava automatsko povlačenje (claw-back) nakon dostave email poruke. Microsoftov Defender za Office 365 i Google Workspace sigurnost su primjeri ovog načina razmišljanja. Ove dvije arhitekture nisu isključive. Mnoge uzrasle organizacije koriste kombinaciju 'vrata kao prvu liniju obrane + API sloj kao detaljnu provjeru'. Stručnjacima je potrebno raspeti: rješenja temeljena na vratima su bolja za scene osjetljive na kašnjenje, ali zahtijevaju tešku održavanje; API rješenja su laka za implementaciju, imaju jaku vidljivost, ali su ograničena brzinom i dozvolama platforminog API-ja, što znači da zlonamjerne email poruke mogu kratkotrajno stati u korisnikovom sandučiću. Jedna često zanemarena ocjena je boravak podataka i privatnost. Rješenja na razini API-ja zahtijevaju ovlaštenje trećih strana za čitanje cijelog sadržaja email poruka, što je za poduzeća koja su ograničena GDPR-om ili industijskim propisima velikim odlukama. Potrebno je potvrditi gdje se obrađuju podaci, koliko dugo se čuvaju i da li se email sadržaj koristi za obuku općih modela.
- Microsoft Defender for Office 365 — Službena mikrosoftovna dokumentacija o zaštiti od email prijetnji
- Email filtering - Wikipedia — Tehnički detalji o email filtriranju i sigurnim vratima
Metodologija odabira
Okvir za ocjenu: što i kako treba mjeriti
Gotovo svaki dobavljač na tržištu tvrdi da ima 'stope otkrivanja od 99% ili više', ali taj broj nema smisla ako se gleda nezavisno od testnog skupa. Preporučujem sigurnosnim timovima da uspostave okvir za ocjenu koji se sastoji od četiri kvadranta: učinkovitost otkrivanja, teret lažnih poziva, iskustvo održavanja i ukupni trošak posjedovanja. U dimenziji učinkovitosti otkrivanja, ključno nije ukupna točnost, već izvedba po kategorijama: otkrivanje phishinga s malicioznim poveznicama, otkrivanje malware-a u prilogu, otkrivanje BEC-a (Business Email Compromise) u čisti tekst, otkrivanje unutrašnjeg phishinga. Najcjenjenija praksa je korištenje vlastitih povijesnih uzoraka ( anonimiziranih) za regresijsko testiranje, umjesto oslanjanja na uzorke koje pruža dobavljač. Također, nužno je tražiti barem 30 dana paralelnog testnog radnog moda (shadow mode), kako bi se novi motori ocijenili bez utjecaja na produkciju, a zatim usporedili sa stvarnim rezultatima. Lažni pozivi su troškovi koji se lako potcjenjuju. Motor koji ima stopu lažnih poziva od samo 0,1% može značiti da će svaki dan tisuću regularnih e-pošta biti pogrešno izolirano u tvrtki koja obrađuje milijune e-pošta dnevno, što može direktno onesposobiti SOC i ugroziti korisnikovog povjerenja u sustav. Tokom ocjene treba bilježiti radno vrijeme potrebno za svaki lažni poziv i testirati kako brzo dobavljačeva povratna informacija funkcionira. Dimenzija održavanja i troška uključuje: podešavanje strategije s detaljnom kontrolom i čitljivosti, dubinu integracije s SIEM/SOAR sustavima, korisnost sučelja za istraživanje događaja, kao i model cijena (po e-pošti, po količini e-pošte ili po mjestu). Skriveni troškovi često se pojavljuju u profesionalnim uslugama, periodima podešavanja i potrebi za dodatnim pretplatama na prijetnje. Sve ovo treba uzeti u obzir kako bi se izbjegle neočekivane stvarne troškove nakon puštanja u rad.
- Precision and recall - Wikipedia — Razumijevanje preciznosti i poziva u sustavima otkrivanja
Igra napada i obrane
Suptilna stvarnost: kada napadači koriste AI
Otkrivanje phishinga uobičajeno je stalna igra napada i obrane. Napadači su već počeli dizajnirati metode za zaobilaženje AI detektora: uključivanje skrivenog 'uputnog ubacivanja' (prompt injection) teksta u elektroničku poštu kako bi se manipulirao analitički motor baziran na LLM; korištenje slika za prijenos tekstualnog sadržaja kako bi se izbjegla tekstualna pretraga; ili korištenje zakonitih cloud dijeljenja dokumenata (Google Docs, SharePoint) kao skokača, tako da se zloćudni sadržaj otkriva tek nakon višestrukih preusmjeravanja. Wikipedijin članak o suptilnom učenju stroja (adversarial machine learning) navodi da svaki sustav otkrivanja koji ovisi o modelima ima rizika od varanja pomoću pažljivo dizajniranih suptilnih uzoraka. To znači da će dobavljači koji se oslanjaju samo na jedan veliki model biti ranjiviji na ciljane napade. Robusno rješenje treba koristiti integraciju višestrukih motora, pri čemu nitko signal nije u stanju donijeti konačnu odluku samostalno. Jedna druga zanemarena stvarnost je 'umor od otkrivanja'. Kada sustav često prikazuje upozorenja o riziku, korisnici će polagano naviknuti da ih ignorišu. Stoga će kvalitetni proizvodi vršiti rangiranje rizika – samo za e-pošte s visokim rizиком će biti aktivirana snažna intervencija, dok će se za srednje i niske rizike davati lakša upozorenja, time raspoređujući korisnikove resurse za pažnju što efikasnije. Ovo je pitanje dizajna proizvoda, a ne čisto tehničko, ali direktno utječe na stvarnu učinkovitost zaštite. Na kraju, tehnologija ne može zamijeniti ljudsko treniranje. Čak i napredni AI agenti trebali bi se koristiti uz redovito simuliranje i edukaciju djelatnika o sigurnosti. Postavljanje AI agenata kao 'smanjenja količine zloćudne pošte koja dospijeva do ljudi i pružanje kontekstualne pomoći za odlučivanje' umjesto 'uklanjanja svih phishing napada' je realističan način upravljanja očekivanjima.
- Adversarial machine learning - Wikipedia — Suptilno učenje stroja kao prijetnja sustavima otkrivanja
- Anthropic sigurnosna istraživanja — Istraživanja o uputnom ubacivanju i sigurnosti modela
Vodič za provedbu
Putokaz za provedbu: plan implementacije u 90 dana
Na temelju višestrukih iskustava s implementacijom, preporučujem da se AI agens za detekciju phishinga podeli u tri faze od po 30 dana. Prvih 30 dana je bazna linija i paralelna probna vozna linija: bez promjene postojećeg toka e-pošte, u shadow modu se uključuje novi engine, prikupljajući njegove rezultate o stvarnim e-poštama, uspoređujući s postojećim stanjem, kvantificirajući nova otkrivena i lažne pozive. Istovremeno se završava zdravstvena provjera SPF/DKIM/DMARC, osiguravajući čvrstu osnovu za provjeru identiteta – mnoge organizacije u ovom koraku otkrivaju da još uvijek imaju DMARC zaustavljen na p=none. Drugih 30 dana je postepeno prebacivanje i podešavanje strategije. Odabire se odjel koji može kontrolirati rizike (obično financijski ili visoki menadžeri) i onaj koji prvi omogućava obaveznu blokadu, nadzirući lažne pozive i uspostavljajući brzi kanal za puštanje. U ovom razdoblju se razvija skupa strategija koja se poklapa s organizacijskim potrebama i postupci za poboljšanje (playbook), jasno navevši koji niveau upozorenja će sustav automatski riješiti, a koji će zahtijevati ljudsku ocjenu SOC-a. Treća fazaNajzad, tokom trećih 30 dana, provodi se potpuna promjena i učvršćivanje operacija. Detekcijski agens se povezuje s SIEM/SOAR-om, omogućavajući automatsko povlačenje, izolaciju i događajnu podršku za rad; uspostavlja se redoviti tok povratne informacije o lažnim pozivima, osiguravajući da svaki pogrešno blokiran e-poštan dobije brzi povrat u model; istovremeno se pokreće prva runda simulacijskih vježbi za phisning, potvrđujući stvarni zaštitni učinak suradnje čovjeka i stroja. Važno je zapamtiti rezervni plan. Svaki sustav koji ovisi o trećim strankama API-ja i modele može biti privremeno onesposobljen zbog grešaka pružatelja usluga, ažuriranja modela ili ograničenja brzine, pa je potrebno ranije dogovoriti strategiju degradacije (npr. automatsko vraćanje na konzervativne sigurnosne pravila) kako bi se spriječilo da jedan nedostatak pružatelja postane prekid e-pošte za čitavu organizaciju. Unosi se u ugovor kao dio SLA klauzule, kao posljednja linija obrane za stručnjake.
- Upravljanje sigurnosnim informacijama i događajima - Wikipedia — Pozadinska znanja o povezivanju SIEM/SOAR-a s sustavom za detekciju e-pošte
Resursi
- Phishing - Wikipedia
Definicija, tipovi i povijest razvoja phishing napada
- DMARC - Wikipedia
Način rada i principi protokola DMARC za autentifikaciju e-pošte i sprečavanje krivotvorenja
- Microsoft Defender for Office 365 dokumentacija
Dokumentacija Microsoftove sigurnosne zaštite za Office 365
- OpenAI platforma dokumentacija
Službeni resursi za korištenje velikih modela za analizu semantičkog značenja
- Anthropic istraživački portal
Najnovija istraživanja o unutrašnjim promjenama i sigurnosti modela
Često postavljana pitanja
Može li AI agent za otkrivanje phishinga potpuno zamijeniti tradicionalne sigurnosne e-pošte gatewaye?
Obično ne može potpuno zamijeniti, već komplementarno djeluje. API razini AI otkrivanja na BEC i unutrašnjem horizontalnom phishingu djeluje bolje, ali gateway još uvijek ima vrijednost u ulaznom prethodnom filtriranju i kontroli кашnjenja. Većina uznaprednih organizacija koristi dubinsku obranu, pa se ova dva sloja zajedno koriste.
Koje su rizike za usklađenost prilikom implementacije rješenja na razini API-ja?
Glavni rizici se odnose na boravak podataka, razdoblje zadržavanja i korištenje za obuku modela. Tvrtke koje su podložne GDPR-u ili zahtjevima industrijske usklađenosti moraju potvrditi da davatelji usluga obrađuju podatke na određenom mjestu, potpisati Ugovor o zaštiti podataka i jamčiti da se e-pošta neće koristiti za obuku općeg modela.
Zašto su napadi phishinga još uvijek uspješni iako postoji DMARC?
DMARC može samo spriječiti krivotvorenje domena, ali ne i napade koji koriste slične domene (napadač koristi vlastiti valjani domen) ili stvarne suradničke e-pošte koje su kompromitirane. Ovo su napadi koji mogu proći ovu zaštitu, što je razlog zašto su potrebne AI semantičke i ponašanja analize.
Je li vjerodostojan navod da je stopa otkrivanja 99%?
Brojka otkrivanja izvan skupova za testiranje nema veliki značaj. Treba tražiti specifične stope pozivanja i koristiti vlastite povijesne primjere propuštenih napada za dalje testiranje, kao i voditi paralelni test tijekom barem 30 dana kako bi se potvrdila valjanost.
Koji je operativni teret lažnih upozorenja?
Lahko je podcijeniti. Čak i 0,1% lažnih upozorenja, u milionima e-pošta, znači da će se svaki dan izolirati stotine normalnih e-pošta, što će uzrokovati kolaps sigurnosnog operativnog centra i erodirati korisničko povjerenje. Prilikom ocjene je potrebno obračunati vrijeme potrebno za rješavanje lažnih upozorenja i brzinu učenja na povratnim informacijama.
Je li još uvijek efektivan detektor phishinga kada napadač koristi AI za generiranje phishing e-pošte?
Tradicionalni metodi prepoznavanja gramatike i pravopisa više nisu efikasni, ali metode koji se temelje na ponašanju i grafovima anomalija još uvijek su djelotvorne jer ne ovisi o kvaliteti teksta. Robusno rješenje bi trebalo uključivati više motora i izbjeći namjerno podrivanje uzoraka.
Je li potrebno za male i srednje tvrtke kupovati poseban AI detektor phishinga?
Ako već koriste Microsoft 365 ili Google Workspace, trebali bi prvo potpuno omogućiti ugrađene sigurnosne funkcije i postaviti DMARC na 'enforce'. Kada se suoče s visokim rizikom BEC ili zahtjevima usklađenosti, trebali bi procijeniti posebna ICES rješenja, s obzirom na to da su lakša,računata po e-poštnim sandučićima, proizvodi postali mnogo dostupniji.
Koliko dugo treba za implementaciju ovog sustava?
Implementacija na razini API-ja može biti završena u nekoliko minuta do nekoliko dana, ali za potpunu implementaciju preporučujemo 90-dnevni plan u tri faze: 30 dana paralelnog testiranja, 30 dana podešavanja u 'gray' режimu i 30 dana potpunog puštanja u rad s operativnom fiksacijom kako bi se kontrolirali lažni alarmi i rizici prebacivanja.
