33.3.5. Decentralizált ellenőrzés

2025.10.06.
AI Biztonság Blog

A központosított emberségigazoló rendszerek (mint a Google reCAPTCHA) Achilles-sarka éppen a központosításuk. Egyetlen entitás dönt arról, ki számít embernek, ami egyben egyetlen támadási felületet (single point of failure) és potenciális cenzúraeszközt is jelent. A decentralizált ellenőrzés erre a problémára kínál megoldást azzal, hogy a verifikáció terhét és felelősségét elosztja egy hálózat résztvevői között.

Kapcsolati űrlap

AI Biztonság kérdésed van? Itt elérsz minket:

Itt nem egyetlen szerver futtat egy algoritmust, hanem a közösség, a hálózat egésze vagy annak egy véletlenszerűen kiválasztott alcsoportja validálja a felhasználó emberségét. Ez a megközelítés ellenállóbb a manipulációval és a szolgáltatáskieséssel szemben, de új, komplex támadási vektorokat is nyit.

A Véletlenszerű Kihívók Modellje (Random Oracles)

Az egyik legelterjedtebb decentralizált modell a véletlenszerűen kiválasztott validátorokon alapul. Amikor egy felhasználó emberségigazolást kér, a hálózat kijelöl egy kisebb, véletlenszerű csoportot (az „orákulumokat” vagy „kihívókat”), akik egyidejű, de egymástól független Turing-teszteket bonyolítanak le vele. A teszt lehet egy rövid, valós idejű videóhívás, egyedi feladványok megoldása vagy más, nehezen automatizálható interakció.

A döntés konszenzuson alapul: ha a kihívók többsége embernek minősíti a felhasználót, a hálózat elfogadja az igazolást. A véletlenszerűség kulcsfontosságú, mert megnehezíti a támadó számára, hogy előre megvesztegesse vagy kompromittálja a validátorokat.

Felhasználó Decentralizált Hálózat Kihívó 1 Kihívó 2 Kihívó N 1. Igazolás kérése 2. Kihívók kijelölése 3. Interakciók & Válaszok

Red Teaming szempontok

A fő támadási vektor a validátorok közötti összejátszás (collusion). Ha egy támadó képes azonosítani és befolyásolni a véletlenszerűen kiválasztott validátorok többségét egy adott időablakban, akkor át tud juttatni egy MI-t a rendszeren. A hálózatnak olyan mechanizmusokat kell beépítenie, amelyek anonimizálják a validátorokat és büntetik a rosszindulatú viselkedést.

Gazdasági Ösztönzők: Tét (Stake) Alapú Ellenőrzés

A Proof-of-Stake (PoS) blokkláncokból kölcsönzött modell gazdasági tétekkel ösztönzi a becsületes viselkedést. A validátoroknak le kell kötniük egy bizonyos értékű kriptovalutát (a „tétet” vagy „stake”-et) ahhoz, hgoy részt vehessenek az ellenőrzési folyamatban.

  • Jutalmazás: Ha egy validátor helyesen (a többséggel megegyezően) szavaz, jutalomban részesül.
  • Büntetés (Slashing): Ha egy validátor rosszindulatúan viselkedik – például egy nyilvánvaló botot embernek igazol – vagy egyszerűen offline és nem vesz részt a folyamatban, elveszíti a letétbe helyezett tétjének egy részét vagy egészét.

Ez a „skin in the game” megközelítés drágává és kockázatossá teszi a csalást, mivel a potenciális nyereségnél nagyobb lehet a pénzügyi veszteség.


pszeudokód EllenorzesTetAlapon(felhasznalo, kihivok_listaja):
 szavazatok = {}
 
 // Minden kihívó elvégzi a tesztet és szavaz
 CIKLUS minden kihivo IN kihivok_listaja:
 eredmeny = vegezz_turing_tesztet(felhasznalo, kihivo)
 szavazatok[kihivo] = eredmeny // 'ember' vagy 'bot'
 
 // Szavazatok összesítése
 ember_szavazatok = szamol(szavazatok, 'ember')
 bot_szavazatok = szamol(szavazatok, 'bot')
 
 // Konszenzus ellenőrzése (pl. > 2/3)
 HA ember_szavazatok > (hossz(kihivok_listaja) * 2/3):
 vegeredmeny = 'ember'
 KÜLÖNBEN:
 vegeredmeny = 'bot'
 
 // Jutalom és büntetés kiosztása
 CIKLUS minden kihivo, szavazat IN szavazatok:
 HA szavazat == vegeredmeny:
 jutalmaz(kihivo) // A helyesen szavazó jutalmat kap
 KÜLÖNBEN:
 buntet_elvesztett_tet(kihivo) // A rosszul szavazó tétjét csökkentjük

 VISSZAAD vegeredmeny
 

Modellek Összehasonlítása: Előnyök és Kockázatok

A különböző decentralizált modellek eltérő kompromisszumokat kínálnak a biztonság, a skálázhatóság és a felhasználói élmény között. Az alábbi táblázat összefoglalja a legfontosabb szempontokat.

Modell Működési elv Előnyök Támadási Vektorok (Red Teaming szempontok)
Véletlenszerű Kihívók A hálózat véletlenszerűen kiválaszt egy „zsűrit”, amely konszenzussal dönt. Magas fokú cenzúrarezisztencia. Nehéz előre megcélozni a validátorokat. Összejátszás (collusion) a validátorok között. A véletlenszám-generátor manipulálása. „Grinding” támadások (újrapróbálkozás, amíg kedvező zsűrit nem kap a támadó).
Szociális Igazolás (Web of Trust) Már meglévő, megbízható felhasználók igazolják az újakat, bizalmi láncokat hozva létre. Nincs szükség komplex technikai megoldásokra. Az emberi bizalomra épít. Sybil-támadás: a támadó rengeteg álidentitást hoz létre, melyek egymást igazolják. Népszerűségi verseny, klikkesedés.
Tét (Stake) Alapú Gazdasági ösztönzők (jutalom/büntetés) biztosítják a validátorok becsületes viselkedését. A csalás gazdaságilag irracionálissá tehető. A hálózat öngyógyító (a rossz szereplők elvesztik a tétjüket). 51%-os támadás: ha egy entitás megszerzi a teljes tét több mint felét, irányíthatja a döntéseket. Gazdasági támadások: ha a csalásból származó haszon nagyobb, mint az elvesztett tét értéke.

A Decentralizáció Ára

Bár a decentralizált ellenőrzés robusztus alternatívát kínál a központosított kapuőrökkel szemben, nem csodaszer. A központi irányítás hiánya megnöveli a koordinációs komplexitást és új, kifinomult, gyakran játékelméleti és gazdasági alapú támadásoknak nyit teret. Egy Red Team számára ezeknek a rendszereknek a tesztelése nem csupán a technikai sebezhetőségek felderítését jelenti, hanem a gazdasági ösztönzők, a társadalmi dinamikák és a konszenzusmechanizmusok logikai hibáinak kiaknázását is.