A pénzügyi szektorban a mesterséges intelligencia (AI) alkalmazása már nem a jövő, hanem a jelen. A Wall Street-től a feltörekvő fintech cégekig az algoritmusok hozzák a kulcsfontosságú döntéseket a hitelbírálattól a kereskedésig. Egy friss, az arXiv preprint szerveren publikált tudományos cikk, a ‘When AI Meets Wall Street: A Survey on Trustworthy AI in Fintech’, pontosan erre a kritikus területre fókuszál. A tanulmány egy olyan keretrendszert és taxonómiát mutat be, amely a pénzügyi AI rendszerek életciklus-specifikus sebezhetőségeit és támadási felületeit elemzi. A cikk, melynek publikációs dátuma 2026. június 1., rávilágít, hogy az automatizáció miként erősítheti fel az algoritmikus támadások rendszerszintű pénzügyi hatásait.
A háromfázisú életciklus modell
A kutatás alapvetése, hogy a pénzügyi AI rendszerek biztonságát nem lehet egyetlen ponton, például a telepítéskor garantálni. Ehelyett egy folyamatos, az egész életciklust átfogó megközelítésre van szükség. A szerzők a pénzügyi AI életciklusát három fő szakaszra bontják:
AI Biztonság kérdésed van? Itt elérsz minket:
- Képzés és frissítés: Ez a fázis foglalja magában az adatok gyűjtését, előfeldolgozását és a modell tanítását. A sebezhetőségek itt leginkább az adatok minőségével és integritásával kapcsolatosak.
- Telepítés és következtetés (Inference): Amikor a betanított modell már éles környezetben működik, és valós adatok alapján hoz döntéseket. Itt a támadások a modell viselkedésének manipulálására irányulnak.
- Működés, monitorozás és visszacsatolás: A modell hosszú távú üzemeltetése, teljesítményének figyelése és a visszacsatolások alapján történő finomhangolása vagy újratanítása. Ebben a szakaszban a modell elavulása (model drift) és a visszacsatolási ciklusok manipulálása jelentik a fő kockázatot.
Az AIQ szerint ez a felosztás azért kulcsfontosságú, mert egyértelműen megmutatja, hogy a biztonsági auditoknak és a védelmi intézkedéseknek minden egyes fázisra ki kell terjedniük. Egy, a képzési fázisban elkövetett adatmérgezéses támadás hatása csak hónapokkal később, az éles működés során válhat katasztrofálissá.
A Pénzügyi AI Biztonsági és Robusztussági Taxonómia
A tanulmány bemutatja a „Financial AI Security and Robustness Taxonomy” elnevezésű rendszertant, amely tizenhét támadási altípust szervez kategóriákba. Ez a taxonómia konkrét, a pénzügyi szektorra jellemző támadási vektorokat azonosít. A cikkben kiemelt példák a következők:
- Adat- és modellmérgezés (Data and model poisoning): A támadók szándékosan manipulatív adatokat juttatnak a tanító adathalmazba, hogy a modell később hibás döntéseket hozzon.
- Ellenséges támadások a döntési határokon (Adversarial attacks on decision boundaries): A támadók minimális, ember számára észrevehetetlen módosításokat hajtanak végre a bemeneti adatokon (pl. egy tranzakció részletein), hogy a modellt megtévesszék.
- Prompt injection LLM-alapú munkafolyamatokban: Nagy nyelvi modellekre (LLM) épülő pénzügyi tanácsadó vagy ügyfélszolgálati rendszerek esetében a támadók rejtett utasításokkal veszik rá a modellt nem kívánt műveletek végrehajtására.
- Deepfake-alapú KYC verifikációs rétegek kijátszása: A „Know Your Customer” (KYC) folyamatokban használt arcfelismerő vagy videós azonosító rendszerek megtévesztése szintetikus médiával.
AIQ Elemzés: Megfelelőség és audit tanulságok
Vállalati kontextusban ez a taxonómia egy rendkívül hasznos ellenőrző lista. Az AIQ szempontjából a tanulmány megállapításai közvetlenül kapcsolódnak az európai szabályozási környezethez és a bevált biztonsági gyakorlatokhoz.
Kapcsolódás az OWASP LLM Top 10-hez
A tanulmányban említett támadástípusok közül több is szerepel az OWASP LLM Top 10 listáján. A prompt injection egy az egyben megfelel az LLM01: Prompt Injection kockázatnak. Az adat- és modellmérgezés szorosan kapcsolódik az LLM04: Model Poisoning ponthoz. A deepfake-alapú támadások pedig az input validáció és a rendszerintegritás hiányosságait használják ki, amelyek több OWASP kategóriát is érintenek.
EU AI Act és GDPR megfelelőség
Az EU AI Act a magas kockázatú AI rendszerekkel – amilyenek a pénzügyi alkalmazások többsége – szemben szigorú követelményeket támaszt a robusztusság, pontosság és biztonság terén. A cikkben vázolt életciklus-szemléletű megközelítés gyakorlatilag megkerülhetetlen a megfeleléshez. Egy sikeres modellmérgezéses támadás nem csupán üzleti kárt okoz, de az AI Act előírásait is sérti, ami súlyos bírságokhoz vezethet. A deepfake-alapú KYC kijátszás pedig a GDPR adatbiztonsági és pontossági elveit sérti, hiszen illetéktelenek férhetnek hozzá személyes és pénzügyi adatokhoz.
Audit tanulságok
Az AIQ szerint a legfontosabb tanulság az, hogy az AI rendszerek auditálása nem merülhet ki egyetlen, a telepítés előtti penetrációs tesztben. Egy átfogó AI biztonsági auditnak a teljes életciklust le kell fednie:
- Adatkezelési fázis: Az adatok eredetének, integritásának és a címkézési folyamatoknak az ellenőrzése a data poisoning kockázatok minimalizálása érdekében.
- Képzési fázis: A tanítási folyamat és az alkalmazott algoritmusok robusztusságának vizsgálata, beleértve az ellenséges támadásokkal szembeni ellenállóképességet.
- Működési fázis: Folyamatos monitorozás, anomáliadetektálás és a visszacsatolási mechanizmusok biztonsági elemzése, hogy a támadók ne tudják a rendszert „eltéríteni” a működés során.
A tanulmány által javasolt taxonómia kiváló alapot nyújt a pénzügyi szektorra szabott LLM red teaming gyakorlatokhoz, ahol célzottan szimulálhatjuk a tizenhét azonosított támadási altípust, feltárva a rejtett sebezhetőségeket, mielőtt a támadók tennék meg.