Egy június 11-én megjelent CSO Online cikk szerint a legújabb generációs, úgynevezett „frontier” AI modellek, mint az Anthropic Claude Mythos és az OpenAI várható GPT-5.5 modellje, gyökeres változást hoznak a kiberbiztonság világába. Ezek a rendszerek olyan sebességgel és méretekben képesek sebezhetőségeket azonosítani és láncba fűzni, ami a legtöbb szervezet számára a védekezési stratégiák teljes újragondolását teszi szükségessé. A fókusz a tökéletes megelőzésről elkerülhetetlenül a kárenyhítés és a reziliencia irányába tolódik el.
Az új valóság: Sebezhetőség-felderítés ipari méretekben
A legfontosabb változás, hogy a sebezhetőségek felderítése többé nem egy szűk szakértői réteg kézműves munkája, hanem egy skálázható, számítási feladattá válik. Martin Roesch, a Snort behatolásérzékelő rendszer atyja szerint a világ nagy része nincs felkészülve az „ipari méretű sebezhetőség-felderítés és potenciális exploit-generálás” következményeire. Ez a képesség már nem csupán a zárt, korlátozott hozzáférésű modellek, mint a Mythos privilégiuma. Will Barker, a Huntress kiberbiztonsági tanácsadója megerősíti, hogy már a kisebb, nyílt súlyozású modellek is képesek hasonló nulladik napi sérülékenységek és exploit-láncok felderítésére.
AI Biztonság kérdésed van? Itt elérsz minket:
A technológia különösen a logikai hibák terén hoz áttörést. Nik Kale, a Coalition for Secure AI (CoSAI) tagja szerint ezeket a hibákat a hagyományos szkennerek sosem találták meg hatékonyan, mivel a kód formailag nem hibás, csupán stratégiailag rossz.
„Egy frontier LLM úgy olvas egy beégetett bizalmi feltételezést, mintha egy bekezdést olvasna. Ez az a rés, ami megnyílt, és nem is fog bezárulni.”
A támadók előnye gazdasági, nem csak technikai
A szakértők egyetértenek abban, hogy a szűk keresztmetszet a támadói oldalon eltolódott. Matthew Bidwell, a Newzino.com alapítója szerint a korlát már nem a hibák megtalálása, hanem azok „operacionalizálása: egy hipotetikus hiba működő exploittá alakítása, egy valós célpont elleni láncba fűzése, az észlelés elkerülése és a perzisztencia”. Raphael Peyret, a Google korábbi termékmenedzsere ezt gazdasági szempontból világítja meg: a támadók ugyanazt a forgatókönyvet játsszák, mint eddig, de egy hiteles kampány indításának egységköltsége drasztikusan lecsökkent.
Ez a képesség kiterjed a sérülékenységek láncba fűzésére is. Jon Yeoh, a Cloud Security Alliance tudományos igazgatója szerint a modellek már egyszerű promptokra is képesek lehetnek „három vagy négy, nagyon alacsony szintű CVE-t összekapcsolni, hogy valami magas vagy kritikus besorolásúvá váljon”. Ez egy minőségileg új fenyegetést jelent, különösen a komplex SaaS környezetekben, ahol Louis Leung szoftverfejlesztő szerint a támadóknak egyre inkább több gyengeséget kell összekapcsolniuk az első belépési pont megtalálása helyett.
AIQ nézőpont: Mit jelent ez az EU piacára?
Az AIQ szerint ez a fejlemény közvetlen hatással van a magyar és európai vállalatok megfelelőségére és biztonsági stratégiájára. Az események több ponton is kapcsolódnak az OWASP LLM Top 10 kockázataihoz.
- LLM05: Supply Chain Vulnerabilities: A nyílt súlyozású modellek finomhangolása és a rosszindulatú derivatívák megjelenése (ahogy Noe Ramos is említi) rávilágít az AI ellátási lánc kritikus szerepére. Egy vállalat által használt, látszólag ártalmatlan modell alapja egy olyan nyílt modell lehet, amelyet támadók már felkészítettek sebezhetőségek keresésére.
- LLM09: Overreliance: Ha a fejlesztői csapatok túlzottan támaszkodnak az AI-ra a kódírásban vagy a biztonsági ellenőrzésben anélkül, hogy megértenék annak kettős felhasználású természetét, akaratlanul is egy olyan eszközt integrálnak a folyamataikba, amely ellenük fordítható.
Ami a szabályozást illeti, az EU AI Act a magas kockázatú AI rendszerekkel szemben robusztus biztonsági követelményeket támaszt. Egy olyan AI-alapú fejlesztői vagy biztonsági eszköz, amelynek képességeit támadók lemásolhatják, komoly megfelelőségi kérdéseket vet fel. A GDPR 32. cikke az adatbiztonság kapcsán az „adott technológiai állás” (state of the art) figyelembevételét írja elő. Az AI-vezérelt támadásokra való felkészülés hiánya a jövőben egyre inkább a megfelelő technikai és szervezési intézkedések elmulasztásának minősülhet egy adatvédelmi incidens esetén.
Vállalati kontextusban ez azt jelenti, hogy a hagyományos, szignatúra-alapú sebezhetőség-vizsgálatok már nem elégségesek. Az AI-specifikus biztonsági auditok, különösen az LLM Red Teaming, elengedhetetlenné válnak. Szimulálni kell azokat a komplex, logikai hibákat és támadási láncokat, amelyeket ezek az új modellek képesek azonosítani, mielőtt egy valós támadó tenné meg.
A stratégiai váltás: A megelőzésről a rezilienciára
Ha az AI olyan ütemben tárja fel a sebezhetőségeket, amely meghaladja az emberi javítási kapacitást – és a Mythos ezt sugallja –, akkor a stratégiai prioritásnak a védekezés és a reziliencia felé kell elmozdulnia. Noe Ramos, az Agiloft AI operációs alelnöke ezt tömören fogalmazza meg:
„Assume breach. Shrink blast radius.” (Feltételezd a behatolást. Csökkentsd a robbanási sugarat.)
A védekező oldalon a legnagyobb kihívás gyakran nem technikai, hanem szervezeti. Melissa Bischoping, a Tanium kutatási igazgatója szerint bár az „ágens-alapú javítási munkafolyamatok” lehetségesek és sok esetben lépést tarthatnának a támadó AI-val, a vállalati „politika és a változáskezelés ma nem az AI sebességével működik”.
A megoldás az agresszív hibajavítás és a proaktív védekezés. Mudit Sinha, a Lineaje AI vezetője szerint a biztonsági csapatoknak abba kell hagyniuk, hogy a sebezhetőség-felderítést kezeljék a nehéz feladatként, és el kell kezdeniük az agresszív javítást. A már ismert CVE-k a legjobb kiindulópontok: priorizálás, kihasználhatóság validálása, javítás, tesztelés és folyamatos ellenőrzés. Ugyanazok a modellek, amelyek a hibákat megtalálják, gyakran a javításra is képesek, de ehhez egy támogató keretrendszerre van szükségük: eszközkontextus, SBOM, CI/CD ellenőrzések és kockázatos változtatások esetén emberi jóváhagyás.
A konklúzió egyértelmű: az AI-vezérelt sebezhetőség-felderítés korszaka megkezdődött. A vállalatoknak fel kell hagyniuk a tökéletes védelem illúziójával, és egy olyan reziliens, gyorsan reagáló biztonsági modellt kell kiépíteniük, amely a behatolást nem lehetőségként, hanem elkerülhetetlen eseményként kezeli.