Claude Mythos és az AI-korszak: Az új modellek a régi sebezhetőségeket erősítik

Claude Mythos and the AI Era: Why New Models Amplify Old Vulnerabilities

A TechRadar Pro hasábjain megjelent friss elemzés, amely az Anthropic új, Claude Mythos nevű modelljét vizsgálja, egy kulcsfontosságú, de gyakran figyelmen kívül hagyott igazságra világít rá. Bár az Anthropic állítása szerint a Mythos bizonyos hekkelési és kiber-védelmi feladatokban képes felülmúlni az embereket, és elsősorban védelmi eszközként pozicionálják, a valóság az, hogy a fejlett AI modellek nem írják újra a kiberbiztonság alapszabályait. Ehelyett felerősítik a meglévő, gyakran banális sebezhetőségeket, amelyek középpontjában egyetlen dolog áll: az identitás.

Az új szereplő a hálózaton: a nem emberi identitás (NHI)

A cikk, melyet a Keeper Security vezérigazgatója jegyez, hangsúlyozza, hogy a támadók továbbra is ugyanazokra az alapvető technikákra támaszkodnak, mint évek óta: identitások kihasználása, hitelesítő adatok kompromittálása és a megszerzett hozzáféréssel való visszaélés. A gyenge hitelesítőadat-higiénia, a túlzott jogosultságok és a nem megfelelő hozzáférés-szabályozás továbbra is az elsődleges belépési pontok a jogsértésekhez.

AI Biztonság kérdésed van? Itt elérsz minket:

A forradalmi változás nem a támadási módszerekben, hanem a célpontok kiterjedésében rejlik. Minden egyes bevezetett AI rendszer, automatizált munkafolyamat vagy LLM-alapú ügynök egy új, nem emberi identitást (non-human identity – NHI) hoz létre a vállalati környezetben. Ezek az NHI-k API kulcsokkal, szolgáltatásfiókokkal és egyéb titkosított adatokkal rendelkeznek, amelyekkel hozzáférnek a rendszerekhez és adatokhoz. Az AI által vezérelt környezetekben az identitás – legyen az emberi vagy gépi – válik azzá a vezérlősíkká (control plane), amelyen keresztül a hozzáférést, a kockázatot és a bizalmat kezelni kell.

Az AIQ nézőpontja: EU AI Act, GDPR és az OWASP LLM Top 10

Az AIQ szerint ez a jelenség messze túlmutat az általános kiberbiztonsági jótanácsokon, és közvetlen hatással van a magyar és európai uniós vállalatok megfelelőségi kötelezettségeire.

Megfelelőség és audit

Vállalati kontextusban ez azt jelenti, hogy minden egyes AI-integrációt úgy kell kezelni, mintha egy új, speciális feladatkörű munkatársat vennénk fel. Az EU AI Act és a GDPR szempontjából egy nem megfelelően kontrollált NHI komoly kockázatot jelent. Ha egy AI ügynök túlzott jogosultságokkal rendelkezik, és személyes adatokhoz fér hozzá, az sérti a beépített adatvédelem (privacy by design) és az adminimalizálás elvét. Egy NHI által okozott adatvédelmi incidens pontosan ugyanolyan jogi következményekkel jár, mint egy emberi hiba vagy rosszindulatú cselekedet. Az auditok során ezért elengedhetetlen lesz igazolni, hogy az NHI-k életciklusa, jogosultságai és tevékenysége naplózott és szabályozott.

OWASP LLM Top 10 kockázatok

Az NHI-k koncepciója közvetlenül kapcsolódik több OWASP LLM Top 10 kockázathoz is:

  • LLM08: Excessive Agency (Túlzott cselekvőképesség): Ez a legnyilvánvalóbb kapcsolat. Egy AI ügynök, amely túl széles körű jogosultságokkal rendelkezik a belső rendszerekben, katasztrofális károkat okozhat, ha kompromittálódik vagy egy rosszindulatú prompt hatására cselekszik. A nem emberi identitások szigorú felügyelete a kockázat elsődleges ellenszere.
  • LLM05: Supply Chain Vulnerabilities (Ellátási lánc sebezhetőségei): Az AI modell maga is egy szoftverkomponens, az általa képviselt NHI pedig egy entitás a hálózaton. Az NHI hitelesítő adatainak biztonságos kezelése kulcsfontosságú az ellátási lánc alapú támadások megelőzésében.
  • LLM04: Model Denial of Service (Modell szolgáltatásmegtagadás): Egy túlzott jogosultságokkal rendelkező NHI-t rá lehet venni, hogy rendkívül erőforrás-igényes feladatokat hajtson végre, megbénítva ezzel a rendszert. A jogosultságok korlátozása ezt a támadási felületet is csökkenti.

Vissza az alapokhoz: Fegyelmezett kontrollok az AI-korszakban

A megoldás nem egy újabb csillogó AI-védelmi eszközben rejlik, hanem a már ismert, de most még kritikusabbá váló alapvető biztonsági kontrollok fegyelmezett és skálázott alkalmazásában. A cikk is ezeket a jól bevált gyakorlatokat emeli ki:

  • A legkisebb jogosultság elve (Principle of Least Privilege – PoLP): Minden identitás – emberi és nem emberi egyaránt – csak a feladatai elvégzéséhez feltétlenül szükséges erőforrásokhoz és adatokhoz férhet hozzá.
  • Hitelesítő adatok és titkok kezelése (Credential and secrets management): Az API kulcsokat, jelszavakat és tanúsítványokat központosított, biztonságos tárolókban (vaults) kell kezelni, és rendszeresen rotálni kell őket.
  • Szerepköralapú hozzáférés-szabályozás (Role-Based Access Control – RBAC): Az NHI-k számára is egyértelmű szerepköröket kell definiálni, amelyek meghatározzák a hozzáférési szintjüket.
  • Szoftverfrissítések és -javítások: Az AI rendszereket és az általuk használt komponenseket is naprakészen kell tartani a sebezhetőségek elkerülése érdekében.

A szervezeti ellenállóképességet a fejlett AI-korszakban nem az új modellek bevezetése, hanem a kiberbiztonsági alapok fegyelmezett alkalmazása fogja meghatározni. Azok a szervezetek lesznek sikeresek, amelyek az identitás- és hozzáférés-kezelést alapvető infrastrukturális elemként kezelik, kiterjesztve azt a rohamosan szaporodó nem emberi identitásokra is. A fenyegetési szereplők folyamatosan alkalmazkodni fognak, de a védelem alapjai szilárdak maradnak.

Rácz-Akácosi Attila

AI Biztonsági Szakértő

Két évtized analitikai, elemzői háttérrel. 2017 óta foglalkozunk mesterséges intelligenciával.
Az utóbbi években AI/LLM biztonságra és AI Red Teaming-re specializálódtunk. 
Rendszerszintű gondolkozás hibalisták helyett.