Az Egyesült Királyság Nemzeti Kiberbiztonsági Központja (NCSC) egyértelmű iránymutatást adott ki, amelyben arra figyelmezteti a szervezeteket, hogy ne siessék el a mesterséges intelligencia alapú sebezhetőségkezelő eszközök bevezetését. A központ szerint a technológia ígéretes, de a benne rejlő kockázatok és operacionális kihívások megértése nélkül a bevezetés többet árthat, mint használ. Ruth C, az NCSC Sebezhetőségkezelési Csoportjának vezetője 10 kritikus kérdést vázolt fel, amelyeket minden szervezetnek fel kell tennie, mielőtt AI modelleket alkalmazna rendszerei, szoftverei és infrastruktúrája sebezhetőségeinek azonosítására.
Az NCSC hangsúlyozza, hogy bár az AI javíthatja a biztonsági képességeket, a sebezhetőségek puszta megtalálása önmagában nem tesz egy szervezetet biztonságosabbá. A figyelmeztetés szerint a nem megfelelően implementált AI rendszerek akár új kockázatokat is bevezethetnek a környezetbe.
AI Biztonság kérdésed van? Itt elérsz minket:
A biztonság illúziója: Több azonosított hiba nem jelent nagyobb védelmet
Az egyik legfontosabb üzenet, hogy a mennyiség nem egyenlő a minőséggel. Az NCSC adatai szerint évente több ezer sebezhetőséget jelentenek, és 2025-ben több mint 40 000 hiba kapott CVE azonosítót. Ennek azonban csak egy töredéke jelent meg az aktívan kihasznált sebezhetőségeket követő rendszerekben, mint például a Known Exploited Vulnerabilities (KEV) katalógus. A valós veszélyt sokkal inkább a javítatlan rendszerek és a gyenge hozzáférés-kezelés jelentik, nem pedig a fejlett nulladik napi (zero-day) fenyegetések.
Az AIQ szerint ez a jelenség a vállalati gyakorlatban az „alert fatigue” (riasztási fáradtság) problémáját súlyosbíthatja. Ha egy AI eszköz releváns kontextus és priorizálás nélkül önti a fejlesztőkre és az üzemeltetőkre a potenciális sebezhetőségek ezreit, a valóban kritikus, aktívan kihasznált hibák elveszhetnek a zajban. A siker kulcsa nem a minél több hiba megtalálása, hanem a legkockázatosabbak azonosítása és gyors javítása. Ez a priorizálási képesség továbbra is mély szakértői tudást és üzleti kontextus-ismeretet igényel, amit az AI jelenleg nem képes teljes mértékben helyettesíteni.
Adatkiszivárgás: Az OWASP LLM Top 10 és az AI integráció rejtett költsége
Az NCSC egyik legnagyobb aggálya az adatkiszivárgás. A szervezetek tudtukon kívül hozzáférést adhatnak az AI platformoknak érzékeny kódtárakhoz, belső dokumentációkhoz, korábbi hibajelentésekhez vagy akár éles rendszerekhez. A központ azt tanácsolja, hogy a cégek alaposan mérjék fel, hogyan telepítik az AI rendszereket, milyen jogosultságokat kapnak, és hogy az infrastruktúra megfelelően van-e izolálva (sandboxing).
Vállalati kontextusban ez azt jelenti, hogy az ilyen eszközök bevezetése közvetlenül érinti az OWASP LLM Top 10 több kritikus pontját is. Különösen releváns az LLM06: Sensitive Information Disclosure (Érzékeny adatok felfedése), ahol a modell akaratlanul is kiszivárogtathatja a betanításához vagy a feldolgozáshoz használt bizalmas adatokat. Emellett az LLM09: Overreliance (Túlzott megbízhatóság) is komoly kockázat, amikor a csapatok kritikátlanul elfogadják az AI javaslatait anélkül, hogy a szakértők felülvizsgálnák azokat. Az NCSC által javasolt izoláció és jogosultságkezelés elengedhetetlen ezen kockázatok mérsékléséhez.
Megfelelőség az EU AI Act és a GDPR radarján
Az AIQ szerint az NCSC figyelmeztetései különösen fontosak az európai uniós szabályozási környezetben. A GDPR szempontjából a forráskódok, belső dokumentációk és hibajegyek személyes adatokat is tartalmazhatnak. Ezen adatok átadása egy külső AI szolgáltatónak adatfeldolgozási szerződést (DPA) és esetenként adatvédelmi hatásvizsgálatot (DPIA) tesz szükségessé. Az adatkiszivárgás kockázata itt nemcsak kiberbiztonsági, hanem súlyos jogi és pénzügyi következményekkel járó megfelelési kérdés is.
Az EU AI Act közeledtével pedig a kiberbiztonsági eszközök, amelyek kritikus infrastruktúrák védelmében játszanak szerepet, könnyen a „magas kockázatú” kategóriába eshetnek. Ez szigorú követelményeket támaszt majd velük szemben, beleértve a transzparenciát, a robusztusságot és a kötelező emberi felügyeletet. Az NCSC azon tanácsa, hogy az AI nem helyettesíti a szakembereket, hanem kiegészíti őket, tökéletesen illeszkedik az AI Act „human-in-the-loop” elvéhez.
Konklúzió: Az AI mint kiegészítő, nem mint helyettesítő
Az NCSC egyértelművé teszi: az AI modelleket olyan eszközként kell kezelni, amelyek a biztonsági csapatok képességeit javítják, nem pedig helyettesítik őket. Bár a központ úgy véli, hogy a határterületi AI fejlesztések a következő évtizedben kulcsszerepet játszanak majd a kiber-rezilienciában, a sikeres adaptációhoz hosszú távú stratégiára van szükség. Ez magában foglalja az erőforrások kezelését, a biztonsági munkafolyamatok frissítését és a külső felektől származó termékekben felfedezett sebezhetőségekre való reagálást.
Az AIQ álláspontja szerint a brit hatóság útmutatása egyetemes érvényű. Mielőtt egy szervezet elkötelezné magát egy AI-alapú biztonsági eszköz mellett, elengedhetetlen egy alapos, független audit és egy célzott LLM Red Teaming gyakorlat. Ezek segítenek feltárni a rejtett adatkiszivárgási vektorokat és a túlzott megbízhatóságból fakadó operacionális kockázatokat, biztosítva, hogy a technológiai befektetés valóban a védelem erősítését szolgálja, ne pedig új támadási felületeket nyisson.