A mesterséges intelligencia biztonságos használata
A mesterséges intelligencia biztonságos használata
AI-alapok és szervezeti kontextus - Alapfogalmak, használati kategóriák, szerepkörök, eszközleltár
Jogi és szabvány környezet
EU AI Act: kötelezettségek - Kockázati kategóriák, tiltások, követelmények, GPAI, transzparencia
Magyar jogszabályi környezet - 2025. évi LXXV. törvény és 344/2025. Korm. rendelet áttekintése, legfontosabb rendelkezései
Az EU AI Act szerinti magas kockázat esetén erős megfelelési követelmények, megoldás: AI irányítási rendszer működtetése
ISO AI irányítási és kockázati szabványok – ISO 42001, ISO 23894, ISO 31000 kapcsolódások
ISO 42001 - AI irányítási rendszerre vonatkozó követelményszabvány – áttekintés, fejezetek, kontrollterületek
ISO 23894 - AI-specifikus kockázatkezelés, iránymutató szabvány (nem kötelező) – megfelelés támogatása, folyamatsablon
ISO/IEC 31000 - általános kockázatkezelési keretszabvány, melyre az ISO 23894 szabvány épít
AI-fenyegetések és támadások
AI-alapú támadások: automatizált adathalászat, deepfake, malware fejlesztés, jelszófeltörés gyorsítása, pszichológiai manipuláció, AI-alapú DDoS (AI mint támadó eszköz)
Emberi tényező: nem megfelelő AI használat (misuse), túlzott bizalom az AI-ban, biztonságtudatosság hiánya, belső szabályok megkerülése, adatszivárgás humán okból: érzékeny adatok bevitele, shadow AI
AI-rendszerek elleni támadások: adatmérgezés (tréning vagy input adatok manipulálása), adversarial attack (manipulált bemenetekkel hibás döntés kiváltása), modell-lopás, prompt injection, jailbreak
AI-specifikus technológiai kockázatok: kimeneti konzisztencia hiánya (nem determinisztikus működés), hallucináció (pontatlan / nem megbízható kimenet), torzítás (pl. bias, nem szándékolt vagy szándékolt preferenciák), AI szolgáltatás elleni DoS (AI mint célpont), adatszivárgás technikai okból: modell memorizálás, prompt szivárgás (rendszer prompt / rejtett utasítások kiszivárgása)
Üzleti, működési kockázatok: ellátási lánc kompromittálódása, erős beszállítói függés
Jogi és megfelelési kockázatok: GDPR megsértése, licenc- és szerzői jogsértés, átláthatatlanság (black box), EU AI Act megfelelés hiánya
Ellenőrzési rutinok és kontrollok
Biztonságos AI használat a napi munkában
alapelvek
prompt előtti ellenőrző rutin
kimenetet követő ellenőrző rutin
human-in-the-loop - az emberi kontroll mikor kötelező?
hozzáférés- és jogosultságkezelés AI-környezetben
naplózás, monitoring és audit
incidenskezelés AI-használatnál
AI-használati szabályzat
tartalmi elvárások
AI engedélyezési modell
tiltott használatok
beszállítói és beszerzési kontrollok
szerepkörök és felelősségek
Felelős AI használat oktatása valós képzés bemutatásával
célcsoportok és fókuszok
oktatási modulok – javasolt tematika
valós e-learning képzés bemutatása (kb.20 percben)
gyakorlati feladatok: promptolás, deepfake
oktatás hatékonyság mérése
AI irányítási rendszer bevezetése
ütemtervek: 30–60–90 napos terv
kontrollérettség
vezetői döntési pontok
audit szemléletű ellenőrzőlista
ISO 27001 tanúsított szervezet útja az ISO 42001 megfeleléshez
döntési mátrix, integrációs logika
feladatlista, szükséges intézkedések bemutatása
minimális bizonyítékcsomag ISO 42001 megfeleléshez
bevezetési ütemterv
audit szemléletű ellenőrzőlista ISO 27001→ ISO 42001