22.5.2. Input validáció fejlesztése

A bemeneti adatok validálása a biztonságos szoftverfejlesztés alfája és ómegája. Amikor azonban egy nagy nyelvi modell (LLM) vagy más generatív AI a rendszer magja, a „validálás” szó jelentése kibővül. Nem elég azt ellenőrizni, hogy a bemenet „jól formázott-e”. Azt is vizsgálnunk kell, hogy a bemenet nem készteti-e a modellt nem kívánt, veszélyes vagy egyszerűen csak hibás viselkedésre. Ez a fejezet egy rétegzett validációs stratégiát vázol fel, amely messze túlmutat a hagyományos módszereken.

A rétegzett validáció elve

Képzelj el egy szűrőrendszert, ahol a bejövő prompt több, egyre szigorúbb ellenőrzési ponton halad át, mielőtt elérné a modellt. Minden réteg egy specifikus támadási vektortípust céloz. Ha egy prompt bármelyik rétegen elbukik, a rendszer visszautasítja vagy megtisztítja azt, mielőtt kárt okozhatna.

1. réteg: Szintaktikai és formai ellenőrzés (A „hagyományos” validáció)

Ez az alap, az első védelmi vonal. Itt végezzük el azokat az ellenőrzéseket, amelyek a legtöbb fejlesztő számára ismerősek. A cél a nyilvánvalóan hibás vagy rosszindulatú, de egyszerűen detektálható bemenetek kiszűrése.

• Hossz-korlátozás: Megakadályozza a DoS (Denial of Service) támadásokat, ahol a támadó extrém hosszú inputtal terheli túl a rendszert.
• Karakterkészlet szűrése: Csak az engedélyezett karakterek (pl. alfanumerikus, alapvető írásjelek) használata, a kontrollkarakterek, láthatatlan karakterek és egyéb trükkös Unicode szimbólumok kizárása.
• Formátum ellenőrzése: Ha a bemenetnek egy adott struktúrát (pl. JSON, XML) kell követnie, annak szigorú validálása.

import re

MAX_PROMPT_LENGTH = 2048
# Csak alapvető latin betűk, számok, szóköz és néhány írásjel engedélyezett
ALLOWED_CHARS_PATTERN = re.compile(r"^[a-zA-Z0-9\s.,?!'-]+$")

def validate_syntactic(prompt: str) -> bool:
 # 1. Hossz ellenőrzése
 if len(prompt) > MAX_PROMPT_LENGTH:
 print("Hiba: A prompt túl hosszú.")
 return False
 
 # 2. Karakterkészlet ellenőrzése
 if not ALLOWED_CHARS_PATTERN.match(prompt):
 print("Hiba: A prompt nem engedélyezett karaktereket tartalmaz.")
 return False
 
 return True

# Példa használat
valid_prompt = "Mondj egy viccet a programozásról!"
invalid_prompt_long = "a" * 3000
invalid_prompt_chars = "Mondj egy viccet <script>alert(1)</script>"

print(f"'{valid_prompt[:20]}...': {validate_syntactic(valid_prompt)}")
print(f"'{invalid_prompt_long[:20]}...': {validate_syntactic(invalid_prompt_long)}")
print(f"'{invalid_prompt_chars[:20]}...': {validate_syntactic(invalid_prompt_chars)}")
 

2. réteg: Szemantikai és kontextuális validáció

Itt kezdődik az AI-specifikus védelem. Ezen a szinten azt vizsgáljuk, hogy a szintaktikailag helyes bemenetnek van-e értelme az adott alkalmazás kontextusában. A cél a logikailag hibás, üzleti szabályokat sértő vagy a modell céljával ellentétes kérések kiszűrése.

• Témakörön kívüli (Off-topic) kérések: Egy orvosi chatbotnak ne kelljen befektetési tanácsot adnia. A kérés témáját ellenőrizhetjük kulcsszavakkal vagy egy kisebb, specializált klasszifikációs modellel.
• Üzleti logika megsértése: Egy e-kereskedelmi asszisztens ne fogadjon el negatív darabszámú rendelést vagy ne adjon 100%-nál nagyobb kedvezményt.
• Belső információkra való rákérdezés: A prompt nem tartalmazhat olyan kulcsszavakat, amelyek a rendszer belső működésére, adatbázis sémákra vagy API kulcsokra utalnak.

3. réteg: Eloszláson kívüli (Out-of-Distribution – OOD) bemenetek szűrése

A modellek a tanítási adathalmazuk statisztikai eloszlásán belül működnek megbízhatóan. Azok a bemenetek, amelyek ettől az eloszlástól drasztikusan eltérnek (OOD), gyakran előrejelezhetetlen és hibás viselkedést váltanak ki. Ezek a bemenetek lehetnek szintaktikailag és szemantikailag is helyesek, mégis veszélyesek.

Az OOD detekció módszerei lehetnek egyszerűbbek (pl. a beágyazások távolsága a tanítási adatok átlagától) vagy komplexebbek (pl. dedikált anomália detekciós modellek).

4. réteg: Adversarial mintázatok felismerése

Ez a leginkább Red Teaming-specifikus réteg. Itt olyan ismert támadási mintákat keresünk, amelyek célja a modell „megzavarása” vagy a biztonsági szűrők kijátszása. Ezek gyakran nem természetes nyelvi konstrukciók.

A validációs tölcsér: Egy gyakorlati modell

Az egyes rétegeket együttesen egy „validációs tölcsérként” képzelhetjük el, amelyen a nyers felhasználói bemenet áthalad. Minden lépésnél szűkül a potenciálisan veszélyes bemenetek köre.