Haladás 0 / 22 kérdés megválaszolva

IEEE 7000-series Etikai Ellenőrzőlista

Értékeld az AI rendszered etikai megfelelőségét. 22 kérdés, 5 kategória.

Értékalapú Tervezés és az Érintettek Bevonása

IEEE 7000 szabvány: Az AI rendszer tervezése során figyelembe vett emberi értékek és az érintettek bevonása.

Azonosítottad-e az AI rendszer által érintett emberi értékeket (pl. méltányosság, autonómia, biztonság)?

IEEE 7000: Values elicitation. Az AI nem értéksemleges – minden döntés értékeket tükröz. Ezeket tudatosan kell megválasztani.

Nem, nem gondoltunk rá Informálisan megbeszéltük Dokumentált értékfeltáró (value elicitation) workshopon

Bevontad-e az érintetteket (stakeholders) az AI rendszer tervezésébe?

IEEE 7000: Stakeholder engagement. Az érintettek (felhasználók, érintett felek) visszajelzése kritikus az etikus AI-hoz.

Nem, csak a fejlesztők döntöttek Felhasználói felmérést (user survey) végeztünk Érintetti (stakeholder) workshopok és részvételi tervezés (participatory design)

Kezelted-e az értékkonfliktusokat (pl. adatvédelem vs. biztonság, méltányosság vs. pontosság)?

IEEE 7000: Value trade-offs. Az AI tervezés gyakran jár értékdilemmákkal. A döntéseket egyértelművé (explicitté) kell tenni.

Nem, nem foglalkoztunk ezzel Implicit döntések (nem dokumentált) Dokumentált kompromisszum-elemzés (trade-off analysis) és értéksorrend (value ranking)

Van-e etikai felülvizsgálati (ethics review) folyamat az AI projektek számára?

IEEE 7000: Ethics review. Hasonló az IRB-hez (Institutional Review Board) a kutatásokban. Független felülvizsgálat szükséges.

Nincs etikai felülvizsgálat Belső felülvizsgálat (csapatszinten) Független etikai bizottság (ethics board/committee) általi felülvizsgálat

Monitorozod-e az AI rendszer értékeknek való megfelelését (value alignment) a telepítés (deployment) után is?

IEEE 7000: Continuous value verification. Az értékek nem statikusak – a rendszer változásait (drift) monitorozni kell.

Nincs telepítés (deployment) utáni monitorozás Értékkövető metrikák (value-aligned metrics) követése Rendszeres etikai audit (ethics audit) és érintetti visszacsatolási kör (stakeholder feedback loop)

Átláthatóság és Magyarázhatóság

IEEE 7001 szabvány: Az AI rendszer működésének és döntéseinek átláthatósága.

Egyértelműen közlöd-e a felhasználókkal, hogy mesterséges intelligenciával (AI) lépnek interakcióba?

IEEE 7001: AI disclosure. Az embereknek joguk van tudni, ha géppel beszélnek (nem emberrel). Az EU AI Act is megköveteli ezt.

Nem, nem közöljük Van tájékoztatás (disclosure), de elrejtve (pl. apró betűs rész) Egyértelmű AI-jelzés (disclosure) a felületen (UI) (pl. "AI Asszisztens")

Az AI döntései megmagyarázhatók-e a felhasználóknak?

IEEE 7001 & GDPR Article 22: Right to explanation. A "feketedoboz" (black box) AI egyre kevésbé elfogadható.

Nem, feketedoboz (black box) modell Részleges (pl. feature importance / SHAP) Teljes körű magyarázhatóság (explainability) (pl. LIME, counterfactuals, attention maps)

Van-e Model Card vagy hasonló dokumentáció az AI rendszerhez?

IEEE 7001: Model transparency. A Model Card (Google) vagy Datasheet (Microsoft) az AI modell "címkéje" (felhasználási eset, korlátok, tanítóadatok).

Nincs Model Card Van belső dokumentáció Nyilvános (publikus) Model Card (Mitchell et al. formátum)

Átlátható-e, milyen adatokon tanult az AI modell?

IEEE 7001: Training data transparency. Az AI-ra is igaz: "az vagy, amit megeszel" – a tanítóadat (training data) határozza meg a viselkedést.

Titkos, nem közöljük Magas szintű (high-level) leírás (pl. "internetes szövegek") Részletes adatlap (datasheet) (források, méretek, elfogultság-elemzés (bias analysis))

Adatvédelem és Felhasználói Jogok

IEEE 7002 szabvány: Személyes adatok védelme az AI rendszerekben.

Alkalmazod-e az adattakarékosság (data minimization) elvét (csak a feltétlenül szükséges adatokat gyűjtöd)?

IEEE 7002 & GDPR Article 5(1)(c): Data minimization. Minél kevesebb adatot gyűjtesz, annál kisebb a kockázat.

Nem, "gyűjtsünk mindent" (collect everything) megközelítés Néhány felesleges adatot kiszűrünk Szigorú adattakarékossági (data minimization) audit és dokumentáció

Van-e egyértelmű hozzájárulás-kezelés (consent management) az AI adatfelhasználásához?

IEEE 7002 & GDPR Article 7: Consent management. A felhasználóknak tudniuk kell, mire használod az adataikat.

Nincs hozzájárulás (consent), vagy csak általános ÁSZF (ToS) Van hozzájárulás (consent), de nem AI-specifikus Részletes (granular), AI-specifikus hozzájárulás (consent) (célhoz kötöttség / purpose limitation)

Alkalmazod-e a beépített adatvédelem (Privacy by Design) elvét az AI fejlesztés során?

IEEE 7002 & GDPR Article 25: Privacy by Design. Az adatvédelem nem utólagos "add-on", hanem beépített alapelv.

Nem, az adatvédelem (privacy) utólag lett hozzáadva Néhány adatvédelmi technológia (privacy tech) (pl. titkosítás / encryption) Teljes körű PbD (anonimizálás, differential privacy, federated learning)

Biztosítod-e az érintetti jogokat (pl. hozzáférés, helyesbítés, törlés, adathordozhatóság)?

IEEE 7002 & GDPR Chapter III: Data subject rights. Ezeknek a jogoknak az AI kontextusában is működniük kell.

Nem, nincs implementálva Manuális folyamat (pl. support ticket) Automatizált önkiszolgáló (self-service) portál

Végeztél-e adatvédelmi hatásvizsgálatot (DPIA) az AI rendszerre?

IEEE 7002 & GDPR Article 35: DPIA. Magas kockázatú (high-risk) AI rendszerekhez kötelező a DPIA.

Nem végeztünk DPIA-t Informális kockázatértékelés (risk assessment) Formális DPIA dokumentáció (GDPR-megfelelőség)

Algoritmikus Elfogultság (Bias) és Méltányosság

IEEE 7003 szabvány: Az AI rendszer méltányossága (fairness) és elfogultságainak (bias) kezelése.

Teszteltétek-e az AI rendszert elfogultságra (bias), (pl. előítélet, hátrányos megkülönböztetés)?

IEEE 7003: Bias testing. Az AI gyakran tükrözi (vagy felerősíti) a társadalmi elfogultságokat (biasokat) a tanítóadatokból (training data).

Nem teszteltünk elfogultságra (bias) Manuális felülvizsgálat (review) (néhány példa alapján) Szisztematikus elfogultság-audit (bias audit) (pl. Fairlearn, AI Fairness 360)

Azonosítottad-e a védett attribútumokat (protected attributes: nem, kor, etnicitás, vallás stb.)?

IEEE 7003: Protected attributes. EU AI Act & GDPR Különleges Adatkategóriák. Ezek alapján tilos a diszkrimináció.

Nem, nem foglalkoztunk ezzel Van lista a védett attribútumokról (protected attributes) Azonosítva + elfogultságcsökkentő (bias mitigation) technikák (pl. reweighting, adversarial debiasing)

Mértek-e méltányossági (fairness) metrikákat (pl. demographic parity, equalized odds)?

IEEE 7003: Fairness metrics. A pontosság (accuracy) nem elég – külön kell mérni a méltányosságot (fairness) (de itt kompromisszumok (trade-off) léteznek!).

Nem, csak pontosságot (accuracy) mérünk Egy méltányossági (fairness) metrikát Több méltányossági (fairness) metrika + kompromisszum-elemzés (trade-off analysis)

A fejlesztő csapat diverzitása tükrözi-e a felhasználói bázist?

IEEE 7003: Team diversity. A homogén csapatok könnyebben hagynak vakfoltokat (blind spots). A diverzitás csökkenti az elfogultságot (bias).

Nem, homogén csapat Van némi diverzitás Reprezentatív diverzitás + befogadási (inclusion) program

Elszámoltathatóság és AI Irányítás (Governance)

IEEE 7000-7003 közös: Felelősség, auditnapló (audit trail), incidenskezelés (incident management) és irányítási (governance) struktúra.

Van-e AI irányítási (governance) struktúra a szervezetben (pl. AI etikai bizottság, felülvizsgálati testület)?

IEEE 7000+: AI governance. Az etikai döntéseket nem lehet csak a fejlesztőkre bízni – szervezeti szintű felügyelet (oversight) kell.

Nincs irányítási (governance) struktúra Informális felülvizsgálat (review) (pl. vezetői jóváhagyás) Formális AI etikai bizottság (ethics committee) vagy testület (board)

Van-e auditnapló (audit trail) az AI döntésekhez (ki, mikor, mit, miért)?

IEEE 7000+: Auditability. Az AI döntéseknek utólag rekonstruálhatónak kell lenniük (megfelelőség (compliance), incidensvizsgálat (incident investigation)).

Nincs naplózás (logging) Alap naplózás (logging) (bemenet/kimenet) Teljes auditnapló (audit trail) (modellverzió, döntési indoklás, emberi felülbírálat)

Van-e emberi felügyelet (human oversight) a kritikus AI döntéseknél?

IEEE 7000+ & EU AI Act: Human-in-the-loop. Magas kockázatú (high-risk) döntéseknél (pl. felvétel, hitelbírálat) emberi felügyelet (human-in-the-loop) szükséges.

Nincs, teljesen automatizált Emberi felülvizsgálat (human review) igényelhető (fellebbezés / appeal) Kötelező emberi felülvizsgálat (human review) a kritikus döntéseknél

Van-e AI-specifikus incidenskezelési terved (incident response plan) (pl. bias incident, privacy breach, safety failure)?

IEEE 7000+: Incident management. Az AI incidensek (pl. diszkriminatív döntés) gyors reakciót igényelnek – kell egy forgatókönyv (playbook).

Nincs AI-specifikus incidenskezelési (IR) terv Általános (generic) IT incidenskezelési terv (nem AI-specifikus) Dedikált AI incidenskezelési útmutató (playbook) (elfogultság, méltányosság, biztonság)

Az AI Biztonsági Értékelésed

/100

📧 Kérem a részletes eredményeket emailben

Elküldjük a teljes riportot minden válasszal és javaslattal

Elfogadom a Felhasználási feltételeket.

Szeretnél mélyebb elemzést?

Szakértőink segítenek egy részletes AI Red Team audit elvégzésében

Ingyenes konzultáció foglalása →

Etikus és felelős az AI rendszered?

Töltsd ki 3 perces IEEE 7000 Etikai Ellenőrző Listánkat! Az IEEE 7000-es sorozat az etikus és társadalmilag felelős technológia tervezésére fókuszál. Ez a gyors ellenőrző lista segít felmérni, hogy az AI fejlesztési folyamataid mennyire veszik figyelembe az átláthatóságot, az elfogultság csökkentését és az emberi jólétet. Töltsd ki 3 perc alatt, és kapj egy azonnali etikai audit pontszámot! Az eredményeket e-mailben küldjük.