Ha az általános IT a köznyelv, akkor a mesterséges intelligencia és a gépi tanulás világa egy speciális szakzsargonnal teli dialektus. Red Teamerként nem elég érteni ezt a nyelvet, folyékonyan kell beszélned. Ez a szószedet nem egy teljeskörű lexikon, hanem egy harctéri gyorstalpaló a leggyakrabban előforduló betűszavakhoz, amelyekkel a modellek elemzése, a támadási vektorok feltérképezése és a riportok írása során garantáltan találkozni fogsz.
Tekints erre a listára úgy, mint a svájci bicskádra: egy kompakt eszköz, ami mindig kéznél van, amikor gyorsan kell azonosítanod egy koncepciót vagy megértened egy technikai dokumentáció lényegét. A betűszavak ismerete nemcsak a hatékonyságodat növeli, de a hitelességedet is megalapozza a fejlesztői csapatok és a döntéshozók előtt.
Gyakori AI/ML Akronimák
| Rövidítés | Teljes Név (Angol) | Magyar Megfelelő / Körülírás | Rövid Leírás és Red Teaming Kontextus |
|---|---|---|---|
| AI | Artificial Intelligence | Mesterséges Intelligencia (MI) | A gépek emberi intelligenciát szimuláló képességeinek gyűjtőfogalma. Red Teaming szempontból ez a teljes támadási felület, amit vizsgálunk. |
| AGI | Artificial General Intelligence | Általános Mesterséges Intelligencia | Egy hipotetikus MI, amely bármilyen intellektuális feladatot képes elvégezni, amit egy ember. Jelenleg nem létezik, de a biztonsági kockázatai elméleti szinten is óriásiak. |
| ML | Machine Learning | Gépi Tanulás (GT) | Az MI egy részterülete, ahol az algoritmusok adatokból tanulnak explicit programozás nélkül. A legtöbb támadás (pl. adatmérgezés, modellinverzió) ezen a szinten történik. |
| DL | Deep Learning | Mélytanulás | Az ML egy ága, amely többrétegű neurális hálókat (DNN) használ. Komplex mintázatok felismerésére képes, de sebezhető az adverzárius támadásokkal szemben. |
| LLM | Large Language Model | Nagy Nyelvi Modell | Szöveggenerálásra, -értelmezésre és -fordításra specializálódott mélytanulási modell. A prompt injection, jailbreaking és adatlopási támadások elsődleges célpontja. |
| NLP | Natural Language Processing | Természetes Nyelvfeldolgozás | Az MI azon területe, amely a gépek és az emberi nyelv közötti interakcióval foglalkozik. Az LLM-ek ezen a területen működnek. |
| GAN | Generative Adversarial Network | Generatív Ellenséges Hálózat | Két neurális háló (generátor és diszkriminátor) versengésén alapuló architektúra. Kritikus a deepfake-ek és más szintetikus adatok generálásában, ami komoly dezinformációs kockázat. |
| CNN | Convolutional Neural Network | Konvolúciós Neurális Háló | Képek és vizuális adatok feldolgozására optimalizált hálózattípus. Sebezhető vizuális adverzárius példákkal (pl. alig észrevehető zaj hozzáadása egy képhez a félreosztályozás érdekében). |
| RNN | Recurrent Neural Network | Rekurrens Neurális Háló | Szekvenciális adatok (pl. idősorok, szöveg) feldolgozására tervezett hálózat, amely belső „memóriával” rendelkezik. A kontextus manipulálása lehet egy támadási vektor. |
| RAG | Retrieval-Augmented Generation | Kereséssel Kiegészített Generálás | Olyan technika, ahol egy LLM külső tudásbázisból (pl. dokumentumokból) kér le releváns információkat a válasz generálása előtt. A támadási felület kiterjed a tudásbázisra is (pl. mérgezett dokumentumok). |
| RLHF | Reinforcement Learning from Human Feedback | Megerősítéses Tanulás Emberi Visszajelzésből | Egy technika a modellek finomhangolására, ahol emberi preferenciák alapján jutalmazzák vagy büntetik a modell válaszait a viselkedésének javítása érdekében. A visszajelzési ciklus manipulálása egy lehetséges támadási vektor. |
| PEFT | Parameter-Efficient Fine-Tuning | Paraméter-hatékony Finomhangolás | Olyan technikák gyűjtőneve (pl. LoRA), amelyek lehetővé teszik nagy modellek finomhangolását a teljes paraméterkészlet töredékének módosításával. A rosszindulatú finomhangolás (backdooring) kockázatát csökkentheti, de új sebezhetőségeket is behozhat. |
| API | Application Programming Interface | Alkalmazásprogramozási Felület | A rendszerek közötti kommunikációt lehetővé tevő interfész. Az MI modellek gyakran API-kon keresztül érhetők el, így az API biztonsága (jogosultságkezelés, rate limiting, input validáció) kritikus Red Teaming szempontból. |
| GPU | Graphics Processing Unit | Grafikus Feldolgozó Egység | Eredetileg grafikai számításokra tervezett hardver, amely párhuzamos feldolgozási képességei miatt ideális a mélytanulási modellek tréningezéséhez és futtatásához. A hozzáférés-szabályozása és a kihasználtsága is lehet célpont. |
| TPU | Tensor Processing Unit | Tenzor Feldolgozó Egység | A Google által kifejezetten neurális hálókhoz fejlesztett, specializált hardver (ASIC). Nagyobb hatékonyságot kínál, mint a GPU-k bizonyos ML feladatokra. |
Ez a lista természetesen nem teljes, hiszen az AI/ML területe napról napra fejlődik és új rövidítések születnek. Azonban a itt felsorolt akronimák adják azt a stabil alapot, amire építve magabiztosan mozoghatsz a legkomplexebb MI-rendszerek biztonsági értékelése során is. A következő alfejezetekben a biztonsági és hálózati rövidítésekkel folytatjuk a szótárad bővítését.