Haladás 0 / 22 kérdés megválaszolva

OWASP Top 10 LLM-alkalmazások ellenőrzőlista

Értékeld LLM-alkalmazásod biztonságát az OWASP Top 10 alapján. 22 kérdés, 5 kategória.

Prompt- és bemeneti sebezhetőségek

LLM01 Prompt Injection, LLM03 Training Data Poisoning

Védve vagy a prompt injection támadások ellen (pl. system prompt kinyerése, jailbreaking)?

A prompt injection az egyik leggyakoribb LLM elleni támadás.

Többrétegű védelem: bemenet validálása + kimenet szűrése + prompt guard-ok Van bemenet validálás és tartalomszűrés Csak alapvető bemeneti tisztítás (sanitization) Nincs védelem a prompt injection ellen

Véded az LLM-et az indirekt prompt injection ellen (pl. rosszindulatú tartalom külső forrásokból)?

Az indirekt injection külső dokumentumokból vagy weboldalakról érkezhet.

Külső tartalom szigorú validálása és sandboxing Külső források engedélyezőlistára (whitelist) helyezése Nincs védelem az indirekt injection ellen

Végezel átfogó bemeneti validálást és tisztítást (sanitization) az LLM-promptokon?

A bemenet validálása az első védelmi vonal.

Többszintű validálás: hossz, tartalom, speciális karakterek, prompt mintázatok Alapvető hossz- és tartalomellenőrzés Minimális vagy semmilyen validálás

Ellenőrzöd a tanítóadatok integritását, és védve vannak a data poisoning ellen?

A data poisoning (adatfertőzés) megronthatja az LLM viselkedését.

Teljes adatszármazás-követés (provenance) és automatizált fertőzésészlelés Megbízható források használata és manuális felülvizsgálat Alapvető adatminőségi ellenőrzések Nincs védelem a data poisoning ellen

A fine-tuning/RAG adatok biztonságosan vannak kezelve és ellenőrizve?

A RAG és fine-tuning adatok ugyanolyan kritikusak, mint a tanítóadatok.

Szigorú adatvalidálás és hozzáférés-szabályozás a fine-tuning/RAG adatokra Van alapvető hozzáférés-szabályozás Nincs speciális védelem

Modell- és kimenetbiztonság

LLM02 Insecure Output Handling, LLM06 Sensitive Information Disclosure

Tisztítod (sanitization) az LLM kimeneteit a megjelenítés előtt (pl. XSS, injection elleni védelem)?

Az LLM kimenete rosszindulatú kód forrása lehet.

Teljes kimeneti kódolás és kontextusérzékeny tisztítás (sanitization) Van HTML-kódolás Nincs kimeneti tisztítás (sanitization)

Végzel automatikus szűrést az LLM kimenetében a bizalmas információkra (PII, titkok, API-kulcsok)?

Az LLM-ek véletlenül kiszivárogtathatnak bizalmas információkat.

Valós idejű PII/titok észlelés és kitakarás (redaction) Van utófeldolgozó szűrés Csak manuális felülvizsgálat Nincs bizalmas adatokra vonatkozó szűrés

Biztosítva van, hogy az LLM nem fedi fel a system promptot, a tanítóadatokat vagy a belső működés részleteit?

A system prompt kiszivárgása veszélyeztetheti a biztonságot.

Proaktív szivárgásmegelőzés: prompt guard-ok + kimeneti szűrés Alapvető kimeneti szűrés Nincs szivárgásmegelőzés

Vannak mechanizmusaid az LLM-hallucinációk (téves információk) észlelésére?

A hallucinációk káros döntésekhez vezethetnek.

Automatikus tényellenőrzés (fact-checking) és megbízhatósági pontozás (confidence scoring) Manuális felülvizsgálat a kritikus válaszoknál Van felhasználói felelősségkizáró nyilatkozat (disclaimer) Nincs hallucináció-észlelés

Ellátási lánc és pluginbiztonság

LLM05 Supply Chain, LLM07 Insecure Plugin Design

Ellenőrzöd a használt LLM-modellek forrását és sértetlenségét (pl. modell ellenőrzőösszeg)?

A kompromittált modellek hátsó kapukat (backdoor) tartalmazhatnak.

Ellenőrzött források + kriptográfiai aláírás-ellenőrzés Csak megbízható szolgáltatók (provider) használata Nincs forrásellenőrzés

Az LLM-pluginek és -kiterjesztések átesnek biztonsági felülvizsgálaton a telepítés előtt?

A pluginek új támadási felületet nyitnak.

Formális biztonsági felülvizsgálat + sandboxing minden pluginnél Megbízható plugin-regisztrációs adatbázis (registry) használata Alapvető ellenőrzés Nincs a plugineknek biztonsági felülvizsgálata

A pluginek a legkisebb jogosultság elve (least privilege principle) szerint működnek?

A túl magas jogosultságok veszélyeztetik a rendszert.

Részletes (granular) jogosultsági modell minden pluginnél Alapvető jogosultságkezelés Nincs jogosultságkorlátozás

Rendszeresen ellenőrzöd az LLM-függőségeket (könyvtárak, modellek) sebezhetőségek szempontjából?

A függőségekben lévő sebezhetőségek kihasználás (exploitation) célpontjai lehetnek.

Automatikus sebezhetőség-ellenőrzés és riasztás Manuális felülvizsgálat a nagyobb frissítéseknél Nincs függőség-ellenőrzés

Validálod a pluginek által visszaadott adatokat, mielőtt az LLM feldolgozná azokat?

A plugin kimenetén keresztüli injection veszélyeztetheti az LLM-et.

Szigorú sémaellenőrzés (schema validation) minden plugin kimenetére Alapvető típusellenőrzés Nincs a plugin kimenetének validálása

Hozzáférés-szabályozás és jogosultságkezelés

LLM08 Excessive Agency, LLM09 Overreliance

Jogosultak (authorizáltak) az LLM által végrehajtott műveletek (pl. API-hívások, adatmódosítás)?

A jogosulatlan műveletek súlyos károkat okozhatnak.

Minden LLM-művelethez explicit felhasználói jóváhagyás (authorization) szükséges A kritikus műveletekhez van jóváhagyás (authorization) Nincs műveleti szintű jóváhagyás (authorization)

Korlátozottak az LLM jogosultságai, és biztosítva van, hogy nem lépheti túl a felhasználói engedélyeket?

A túlzott cselekvőképesség (Excessive Agency) jogosultsági szint emeléshez (privilege escalation) vezethet.

Szigorú hatókör (scope) korlátozás és jogosultság-öröklés Alapvető szerepkör-alapú hozzáférés-szabályozás (RBAC) Nincs jogosultságkorlátozás

Szükséges emberi megerősítés a kritikus műveletekhez (pl. törlés, fizetés)?

A "human-in-the-loop" (ember a folyamatban) megközelítés véd a hibás LLM-döntések ellen.

Minden kritikus műveletnél kötelező emberi jóváhagyás A főbb műveleteknél van megerősítés Nincs "human-in-the-loop" (ember a folyamatban)

Vannak mechanizmusaid az LLM-be vetett túlzott bizalom (overreliance) csökkentésére (pl. megbízhatósági pontszámok, disclaimerek)?

A túlzott bizalom (overreliance) veszélyes döntésekhez vezethet.

Megbízhatósági pontszámok (confidence scores) + forrásmegjelölés + felelősségkizáró nyilatkozatok (disclaimerek) Felelősségkizáró nyilatkozat (disclaimer) van az LLM-válaszoknál Nincs a túlzott bizalom (overreliance) mérséklésére megoldás

Szolgáltatásmegtagadás (DoS) és erőforrás-kezelés

LLM04 Model DoS, LLM10 Model Theft

Alkalmazol kéréssűrűség-korlátozást (rate limiting) az LLM API-n felhasználó/IP-cím alapon?

A kéréssűrűség-korlátozás (rate limiting) véd a DoS-támadások ellen.

Részletes (granular) kéréssűrűség-korlátozás + adaptív szabályozás (throttling) Van alapvető kéréssűrűség-korlátozás (rate limiting) Nincs kéréssűrűség-korlátozás (rate limiting)

Alkalmazol token- vagy költségkorlátot felhasználónként vagy munkamenetenként (session)?

Az erőforrás-kvóták védenek a költségek elszállása (költségexplózió) ellen.

Szigorú kvóták + költségfigyelés + riasztás Van alapvető kvóta Nincs erőforrás-kvóta

Korlátozva van a bemeneti prompt hossza a DoS-támadások kivédésére?

A túl hosszú promptok túlterhelhetik az LLM-et.

Dinamikus hosszkorlátozás a kontextus alapján Van fix maximális hosszkorlát Nincs hossz-ellenőrzés

Van védelem a modell kinyerése/ellopása (model extraction/theft) ellen (pl. lekérdezési mintázatok észlelése)?

A modell-lopás a szellemi tulajdont (IP) és a versenyelőnyt veszélyezteti.

Anomáliaészlelés + vízjelezés + lekérdezés-figyelés Van lekérdezés-figyelés Nincs védelem a modell-lopás ellen

Az AI Biztonsági Értékelésed

/100

📧 Kérem a részletes eredményeket emailben

Elküldjük a teljes riportot minden válasszal és javaslattal

Elfogadom a Felhasználási feltételeket.

Szeretnél mélyebb elemzést?

Szakértőink segítenek egy részletes AI Red Team audit elvégzésében

Ingyenes konzultáció foglalása →

Védett az LLM alkalmazásod a Prompt Injection ellen?

Töltsd ki 3 perces OWASP LLM Top 10 Ellenőrző Listánkat! A nagy nyelvi modellek (LLM) új sebezhetőségeket hoztak, mint a prompt injection vagy az adatszivárgás. Ez a gyors, red teaming fókuszú audit segít felmérni a védelmed az OWASP 10 legkritikusabb LLM támadása ellen. Töltsd ki 3 perc alatt, és kapj egy azonnali pontszámot az appod biztonságáról!

A sebezhetőségi riportot e-mailben küldjük.