Amazon Bedrock otkriva AI-generirani phishing analizom ponašanja sadržaja

Generativna AI nije samo alat koji pomaže profesionalcima — postala je i oružje koje napadačima omogućuje masovnu produkciju uvjerljivih phishing poruka. Amazon je na svom blogu o strojnom učenju objavio detaljan arhitekturni vodič koji pokazuje kako Bedrock foundation modeli mogu otkriti upravo tu vrstu prijetnje: AI-generirani phishing koji lingvističkom sofisticiranošću zaobilazi klasične filtere i dostiže primatelja s gramatički savršenom, personaliziranom porukom.

Zašto klasični filtri zakazuju pred AI-generiranim phishingom

Tradicionalni alati za zaštitu e-pošte prepoznaju spam prema površinskim signalima — lošoj gramatici, sumnjivim domenama, poznatim uzorcima formatiranja. Napadači koji koriste generativne modele i open-source intelligence lako zaobilaze te provjere: poruke su gramatički besprijekorne, kontekstualno relevantne i personalizirane prema javno dostupnim informacijama o primatelju. Rezultat je phishing koji se naizgled ne razlikuje od legitimne poslovne komunikacije.

Problem se pogoršava skalabilnošću. Generativni modeli napadačima omogućuju produkciju tisuća prilagođenih poruka po cijeni dosad nezamislivoj za ručno pisane kampanje. Svaka od tih poruka može biti oblikovana tako da imitira poznatog pošiljatelja, referira relevantan poslovni kontekst ili lažno prikazuje hitnost situacije — klasifikatori koji to ne razumiju semantički nemoćni su pred takvim napadom.

Kako Amazon Bedrock analizira e-poštu?

Amazon Bedrock pristupa problemu fundamentalno drukčije od klasičnih filtara. Umjesto da traži predefinirane uzorce, foundation model analizira obrasce ponašanja u sadržaju — uspoređuje trenutnu poruku s poznatim ponašanjem pošiljatelja i kontekstom primatelja. Sustav detektira semantički nesklad između onog što poruka tvrdi i toga kako se pošiljatelj inače ponaša.

Ključan element je identifikacija impersonacije: Bedrock uspoređuje deklarirani identitet pošiljatelja s domenskim zapisima i poznatim komunikacijskim uzorcima. Vendor impersonation — lažne poruke koje imitiraju dobavljača ili poslovnog partnera — posebno je teška kategorija za klasične filtere. AWS-ov pristup eksplicitno je dizajniran da je adresira verifikacijom domene i kontekstualnom analizom odnosa pošiljatelj–primatelj.

Petostupanjski pipeline detekcije

Arhitektura se sastoji od pet koraka koji se izvršavaju za svaku ulaznu poruku:

1. Ulazne garde i predprocesiranje — Amazon Bedrock Guardrails skeniraju sadržaj i provode preliminarne sigurnosne provjere koje sprječavaju da sama AI analiza postane površina napada
2. Konstrukcija prompta — sadržaj e-pošte kombinira se s baselinom pošiljatelja, organizacijskim kontekstom i poznatim phishing primjerima koji pomažu modelu kalibrirati prosudbu
3. AI analiza — foundation model evaluira poruku u okviru definiranih sigurnosnih granica, tražeći semantičke neskladnosti i anomalije ponašanja
4. Višefaktorsko bodovanje rizika — sustav generira tri zasebne ocjene: anomalije u sadržaju, devijacije ponašanja i kontekstualni nesklad, sve na skali od 0 do 100
5. Klasifikacija i usmjeravanje — poruka dobiva jedan od tri statusa: SAFE (u inbox, ispod 30), SUSPICIOUS (karantena, između 30 i 70) ili DANGEROUS (blokiranje, 70 i više)

Ova trostupanjska klasifikacija pruža sigurnosnim timovima granularnost koja nedostaje binarnim sustavima filtriranja. Poruke u suspendiranoj zoni mogu biti podvrgnute dodatnoj reviziji, dok jasno opasne poruke bivaju odbijene bez kašnjenja.

Kontinuirano učenje zatvorenom petljom

Jednom deployiran, sustav ne ostaje statičan. Petofazna povratna petlja osigurava kontinuirano poboljšanje: analiza svake klasificirane poruke, bodovanje ishoda, revizija rubnih slučajeva, učenje iz novih uzoraka i poboljšanje modela. Svaka obrađena poruka pridonosi ažuriranju baselina pošiljatelja i povećanju točnosti budućih detekcija.

Ova meta-tema važna je za razumijevanje položaja organizacija u trenutnom sigurnosnom krajoliku. AI i stvara i brani od AI-generiranog phishinga — ulazimo u fazu utrke u naoružanju u kojoj kvaliteta obrambene AI izravno određuje razinu zaštite. Organizacije koje se i dalje oslanjaju na klasične filtere koji ne razumiju semantički kontekst suočavaju se s rastućim sigurnosnim deficitom kako napadači sve agresivnije koriste generativne modele.

Praktični aspekt AWS vodiča jest da arhitektura nije samo teorijska demonstracija. Dokument izlazi s konkretnim smjernicama za enterprise email-security timove koji grade vlastite pipeline na Bedroku: od odabira foundation modela, definiranja pragova rizika i kalibracije baselina, do integracije s postojećim SIEM i SOAR sustavima. Bedrock Guardrails pritom osiguravaju da ni sama AI analiza ne postane vektor ranjivosti u obrambenom lancu.