Minden professzionális red team művelet alapja egy kikezdhetetlen, minden fél által elfogadott és aláírt dokumentum. Nevezhetjük Megbízási Levélnek, Műveleti Szabályzatnak (Rules of Engagement – RoE), vagy egyszerűen csak projekt hatókörnek. A név másodlagos, a tartalma viszont a projekt szent grálja. Ez a dokumentum a te pajzsod, a megbízód biztosítéka, és a projekt korlátjainak kőbe vésett definíciója. Enélkül egy lépést se tegyél.
Egy jól megírt megbízás két alapvető célt szolgál:
- Felhatalmazás: Ez a te „Get Out of Jail Free” kártyád. Hivatalosan engedélyez téged és a csapatodat, hogy aktívan teszteljétek a megnevezett rendszereket, ami normál körülmények között illegális vagy szerződésszegő lenne.
- Tisztázás: Pontosan meghatározza, mit, mikor, hogyan és meddig lehet tesztelni. Megelőzi a félreértéseket, a hatókör-túllépést (scope creep), és biztosítja, hogy a projekt a megbízó elvárásainak megfelelően haladjon.
A Megbízási Levél (Mandate/Letter of Engagement) Sablonja
Az alábbi sablon egy szilárd kiindulási pont. Minden projekt más, ezért mindig testre kell szabni, de a főbb elemek univerzálisak. A sablon után részletesen is kifejtem a legkritikusabb pontokat.
AI Red Teaming Megbízási Levél és Hatókör
---------------------------------------------
Projekt Azonosító: [Projekt Kódja, pl. AIRT-2024-01]
Verzió: 1.0
Dátum: [YYYY-MM-DD]
1. PROJEKT ÁTTEKINTÉSE ÉS CÉLKITŰZÉSEK
- Megbízó: [Ügyfél Cégneve, Osztály]
- Végrehajtó: [A Te Céged/Csapatod Neve]
- Elsődleges cél: [Pl. A "ChatBot v2.3" LLM prompt injection és adatvédelmi sebezhetőségeinek azonosítása.]
- Másodlagos célok: [Pl. A modell válaszadási korlátainak kijátszása; toxikus vagy káros tartalom generálása.]
2. HATÓKÖR (SCOPE)
- Hatókörön belüli rendszerek:
- Modell: [Modell neve, verziója, pl. gpt-4-turbo]
- Hozzáférési pont (Endpoint): [API URL, pl. https://api.example.com/v2/chatbot]
- Környezet: [Staging/UAT/Teszt]
- Adatkészletek: [Opcionális, ha releváns, pl. a teszteléshez használt RAG dokumentumok]
- Hatókörön kívüli rendszerek:
- [Minden, amihez NEM szabad hozzányúlni, pl. Éles (Production) rendszerek, alatta lévő infrastruktúra (Kubernetes, AWS), más API-k]
3. RÉSZTVEVŐK ÉS SZEREPKÖRÖK
- Megbízói kapcsolattartó (elsődleges): [Név, Beosztás, E-mail, Telefon]
- Megbízói technikai kapcsolattartó: [Név, Beosztás, E-mail, Telefon]
- Red Team vezető: [Név, Beosztás, E-mail, Telefon]
- Red Team tagok: [Név, Név, ...]
4. ÜTEMEZÉS ÉS MÉRFÖLDKÖVEK
- Aktív tesztelési időszak: [Kezdő dátum] - [Befejező dátum]
- Tesztelési idősáv: [Pl. Munkanapokon 09:00 - 17:00 CET]
- Mérföldkövek:
- [Dátum]: Projekt indító megbeszélés (Kick-off)
- [Dátum]: Heti státusz riport
- [Dátum]: Félidős értékelés
- [Dátum]: Tesztelés lezárása, előzetes eredmények bemutatása
- [Dátum]: Végleges jelentés leadása
5. MŰVELETI SZABÁLYOK (RULES OF ENGAGEMENT - RoE)
- Engedélyezett technikák: [Pl. Prompt Injection (közvetlen, közvetett), Jailbreaking, Adat-extrakció, Modell-manipuláció]
- Tiltott technikák: [Pl. Denial of Service (DoS), Social Engineering a megbízó alkalmazottai ellen, fizikai behatolás]
- Tesztelési fiókok: [Felhasználónevek/API kulcsok]
- Forrás IP címek (ha szükséges): [A Red Team által használt IP-k listája a whitelistinghez]
6. KOMMUNIKÁCIÓ ÉS JELENTÉSKÉSZÍTÉS
- Kommunikációs csatorna: [Pl. Dedikált Slack csatorna, titkosított email]
- Státusz riportok gyakorisága: [Heti/Napi]
- Kritikus sérülékenység jelentése: [Azonnal, a definiált eszkalációs folyamat szerint]
- Végleges jelentés formátuma: [PDF dokumentum]
7. JOGI ÉS TITOKTARTÁSI KERETEK
- A [Megbízó Cégneve] hivatalosan felhatalmazza a [Végrehajtó Cégneve]-t a 2. pontban meghatározott rendszerek biztonsági tesztelésére a 4. pontban megjelölt időszakban.
- A tesztelés során szerzett minden információ bizalmas, és a [NDA/Titoktartási Szerződés hivatkozási száma] hatálya alá esik.
- Felelősségvállalás: [Rövid leírás a véletlen károkozás esetén követendő eljárásról és a felelősség korlátozásáról.]
8. JÓVÁHÁGYÁS
A felek a dokumentum tartalmát elolvasták, megértették és elfogadják.
_________________________ _________________________
[Név], [Beosztás] [Név], [Beosztás]
Megbízó képviseletében Végrehajtó képviseletében
Dátum: __________ Dátum: __________
Kulcsfontosságú Részletek Kibontva
A Hatókör: A legélesebb kétélű kard
A „Hatókörön kívül” (Out of Scope) rész legalább annyira fontos, mint a „Hatókörön belül”. Itt kell kőkeményen és félreérthetetlenül rögzíteni, mihez tilos hozzányúlni. Egy AI rendszer tesztelésekor ez különösen kritikus. Például:
| Hatókörön Belül (In Scope) | Hatókörön Kívül (Out of Scope) |
|---|---|
A /api/v2/chat/completions endpoint a staging környezetben. |
Minden más API endpoint, különösen a /api/v1/*, ami az éles rendszer része. |
| A modell viselkedésének tesztelése a kapott teszt API kulccsal. | Az API kulcs jogosultságainak kiterjesztésére tett kísérletek az IAM rendszerben. |
| A RAG rendszerbe feltöltött teszt dokumentumok tartalmának kiszivárogtatása a modellen keresztül. | A RAG mögötti vektoradatbázis (pl. Pinecone, ChromaDB) közvetlen támadása. |
A precíz hatókör-definíció megvéd attól, hogy véletlenül éles rendszert vagy nem engedélyezett komponenst támadj, ami azonnali projektleállításhoz és komoly jogi következményekhez vezethet.
Műveleti Szabályok (RoE): A játékszabályok
Itt nem lehet helye kétértelműségnek. Ha például a megbízó fél a szolgáltatásmegtagadási (DoS) támadásoktól, expliciten le kell írni, hogy az ilyen jellegű, nagy terhelést okozó tesztek tiltottak. Ha egy modell „öncenzúráját” tesztelitek, tisztázni kell, hogy milyen típusú (pl. erőszakos, politikai, illegális tevékenységekre buzdító) tartalmak generálására tehettek kísérletet. Egy jó RoE előre kezeli a kellemetlen kérdéseket.
Jóváhagyás: A pecsét
Lehet, hogy csak egy formális szekciónak tűnik, de a digitális vagy fizikai aláírás jogi erővel bír. Mindig győződj meg róla, hogy a megbízó oldaláról egy olyan személy írja alá, akinek van felhatalmazása a projekt engedélyezésére (pl. CISO, IT vezető, a termékért felelős menedzser). Egy alacsonyabb szintű munkatárs aláírása vitás helyzetben nem biztos, hogy megvéd.
Gyakorlati tanács
Tekints erre a dokumentumra élő anyagként a projekt elején. Küldd át a tervezetet a megbízónak, és egy közös megbeszélésen pontról pontra menjetek végig rajta. Ez a folyamat nem felesleges bürokrácia, hanem a bizalomépítés és a közös megértés alapja. Egy jól átbeszélt és egyeztetett hatókör már fél siker.