Egy red teaming projekt végén a feltárt sebezhetőségek és gyengeségek listája könnyen átláthatatlanná válhat. Melyikkel kell azonnal foglalkozni? Melyik jelent valós, de kevésbé sürgős üzleti kockázatot? Egy egyszerű lista nem ad választ ezekre a kérdésekre. A priorizálás elengedhetetlen, és ennek legelterjedtebb eszköze a kockázati mátrix.
A kockázati mátrix egy vizuális eszköz, amely két dimenzió mentén értékeli a kockázatokat: a bekövetkezés valószínűsége és a potenciális hatása alapján. Segítségével gyorsan és konzisztensen rangsorolhatod a feltárt problémákat, ami megalapozza a későbbi mitigációs terveket.
A kockázati mátrix vizuális sablonja
Az alábbi 5×5-ös mátrix egy iparági standardnak tekinthető sablon. A tengelyek mentén a valószínűség és a hatás növekszik, a cellák színe pedig az eredő kockázati szintet jelöli, a zöld (alacsony) és a vörös (extrém) között.
A mátrix tengelyeinek értelmezése
A skálák (1-5) definícióit minden szervezetnek a saját kontextusához kell igazítania. Az alábbiak általános iránymutatásként szolgálnak egy AI rendszer esetében.
Hatás (Impact)
A hatás azt méri, mekkora kárt okoz a sebezhetőség kihasználása. Ez nem csak pénzügyi veszteséget jelenthet.
- (1) Elhanyagolható: A rendszer működését nem befolyásolja érdemben. Pl. egy apró, félrevezető, de ártalmatlan hallucináció.
- (2) Kismértékű: Kisebb működési zavar, korlátozott adatvesztés, enyhe reputációs kár. Pl. a modell válaszainak stílusa manipulálható.
- (3) Mérsékelt: Jelentős működési probléma, érzékeny adatokhoz való korlátozott hozzáférés, a felhasználói bizalom megingása. Pl. egy prompt injection, ami a rendszerutasítások egy részét felülírja.
- (4) Jelentős: A szolgáltatás leállása, nagy mennyiségű érzékeny adat kompromittálódása, komoly pénzügyi vagy reputációs veszteség. Pl. a modell biztonsági szűrőinek teljes megkerülése.
- (5) Kritikus: A rendszer teljes átvétele, adatvédelmi katasztrófa, jogi következmények, a szervezet alapvető működésének veszélyeztetése. Pl. a modell felhasználása nagyszabású, automatizált dezinformációs kampányra.
Valószínűség (Likelihood)
A valószínűség azt méri, mennyire könnyen és gyakran használható ki egy adott sebezhetőség.
- (1) Nagyon alacsony: Kihasználása extrém szaktudást, belső hozzáférést vagy nagyon specifikus, ritka körülményeket igényel.
- (2) Alacsony: A kihasználáshoz speciális eszközökre vagy mélyebb technikai tudásra van szükség. A támadási felület szűk.
- (3) Közepes: A kihasználás ismert technikákkal, publikusan elérhető eszközökkel lehetséges, de igényel némi erőfeszítést.
- (4) Magas: Könnyen kihasználható, akár egyszerű scriptekkel vagy széles körben ismert módszerekkel. Nincs szükség különösebb szaktudásra.
- (5) Nagyon magas: A sebezhetőség triviálisan, bárki által, minimális erőfeszítéssel kihasználható. Aktív, automatizált támadások várhatók.
Kockázati napló sablon
A mátrix önmagában csak egy vizuális segédeszköz. A tényleges kockázatkezelés egy táblázatban, vagy dedikált szoftverben történik, ahol minden egyes feltárt problémát dokumentálsz. Ez a táblázat a kockázati napló (risk log/register).
| ID | Sebezhetőség leírása | Hatás (1-5) | Valószínűség (1-5) | Kockázati szint | Javasolt intézkedés |
|---|---|---|---|---|---|
| AI-001 | A modell prompt injection támadással rávehető a belső biztonsági irányelvek figyelmen kívül hagyására. | 4 (Jelentős) | 4 (Magas) | EXTRÉM | Azonnali javítás: szigorúbb bemeneti szűrés, rendszer-prompt megerősítése. |
| AI-002 | A modell hajlamos magabiztosan tényként közölni pontatlan információkat (hallucináció) kevésbé ismert témákban. | 2 (Kismértékű) | 5 (Nagyon magas) | MAGAS | Válaszok finomhangolása, forrásmegjelölés implementálása, a bizonytalanság jelzése. |
| AI-003 | Célzott, több lépésből álló adverzális támadással a modell osztályozási logikája manipulálható. | 5 (Kritikus) | 1 (Nagyon alacsony) | MAGAS | Adverzális tréning bevezetése, anomáliadetekció a bemeneti adatokon. |
| AI-004 | A modell API végpontja nem rendelkezik megfelelő rate limiting mechanizmussal, ami DoS támadásnak teheti ki. | 3 (Mérsékelt) | 3 (Közepes) | MAGAS | Rate limiting bevezetése az API gateway szintjén. |
| AI-005 | A modell hibakezelése túl részletes hibaüzeneteket ad vissza, ami információt szivárogtathat a belső architektúráról. | 2 (Kismértékű) | 2 (Alacsony) | MÉRSÉKELT | Általános hibaüzenetek bevezetése, részletes naplózás a háttérben. |
Ez a dokumentum képezi a hidat a feltárás és a javítás között. A „Kockázati szint” oszlop alapján a fejlesztői csapatok és a menedzsment egyértelműen látja, mely feladatok élveznek prioritást, és melyekhez kell azonnal erőforrásokat rendelni. A részletes hatáselemzés és a mitigációs tervek kidolgozása már erre a priorizált listára épül.