Az európai mesterséges intelligenciatörvény jelentős változásokat vezetett be 2025. február 2-án, bizonyos mesterséges intelligencia-gyakorlatokat illegálissá téve az EU egész területén. A holland vállalkozásoknak mostantól szigorú szabályoknak kell megfelelniük arra vonatkozóan, hogy mely mesterséges intelligenciarendszereket használhatják.
Azok a vállalatok, amelyek nem távolítják el a tiltott mesterséges intelligencia eszközöket, súlyos bírságokra számíthatnak, és a kárt szenvedett személyektől jogi lépéseket is tehetnek.
2025 februárjától Hollandiában tilosak azok a mesterséges intelligenciarendszerek, amelyek embereket manipulálnak, közösségi pontozást használnak, biometrikus adatok alapján kategorizálják az egyéneket, vagy valós idejű arcfelismerést alkalmaznak nyilvános helyeken. Ezek a tilalmak kiterjednek a munkahelyeken és iskolákban használt érzelemfelismerő technológiákra is, valamint az arcképmások internetről történő célzott gyűjtésére felismerési adatbázisok létrehozása céljából.
A szabályok azonnal hatályba lépnek, így a vállalkozásoknak nincs türelmi idejük ezen rendszerek fokozatos kivezetésére. A büntetések elkerülése érdekében elengedhetetlen megérteni, hogy mely mesterséges intelligencia gyakorlatok tiltottak, és milyen lépéseket kell tennie a szervezetének.
Ez az útmutató ismerteti a konkrét tilalmakat, felvázolja a holland vállalkozásként fennálló megfelelési kötelezettségeit , és ismerteti azokat a képzési követelményeket, amelyek ahhoz szükségesek, hogy az új törvény értelmében jogszerűen működjön.
Mire vonatkoznak a tilalmak
Az (EU) 2024/1689 rendelet, más néven az EU MI-törvénye , konkrét tilalmakat vezetett be bizonyos mesterséges intelligencia gyakorlatokra, amelyek 2025. február 2-án léptek hatályba. Ezek a szabályok akkor vonatkoznak hollandiai vállalkozására, ha Hollandiában vagy a tágabb Európai Unióban fejleszt, telepít vagy használ MI-rendszereket .
A tiltott mesterséges intelligencia gyakorlatok hatálya
A mesterséges intelligenciatörvény tiltja azokat a mesterséges intelligencia gyakorlatokat, amelyek elfogadhatatlan kockázatot jelentenek az alapvető jogokra és az európai értékekre nézve. Az (EU) 2024/1689 rendelet 5. cikke ezeket a tiltott gyakorlatokat a potenciális káruk, nem pedig maga a technológia alapján azonosítja.
A tiltott fő kategóriák a következők:
- Manipulatív mesterséges intelligencia rendszerek amelyek kihasználják bizonyos csoportok sebezhetőségét
- Szociális pontozási rendszerek, függetlenül attól, hogy hatóság vagy magánvállalkozás üzemelteti-e
- Valós idejű távoli biometrikus azonosítás a bűnüldöző szervek számára nyilvánosan hozzáférhető helyeken (korlátozott kivételektől eltekintve)
- Biometrikus kategorizáló rendszerek amelyek érzékeny tulajdonságokra következtetnek
- Céltalan kaparás arcképmások az internetről vagy CCTV-felvételekről
Az Ön vállalkozása ezeknek a tilalmaknak a hatálya alá tartozik, függetlenül attól, hogy mesterséges intelligencia szolgáltatóként, telepítőként vagy forgalmazóként működik-e Hollandiában. A Holland Adatvédelmi Hatóság más európai uniós végrehajtó szervekkel együttműködve biztosítja a megfelelést.
A tilalmak be nem tartása akár harmincöt millió euróig vagy a világméretű éves forgalom hét százalékáig terjedő bírsággal jár, attól függően, hogy melyik a magasabb.
Hatálybalépés dátumai és átmeneti időszakok
Az 5. cikk szerinti tilalmak 2025. február 2-án léptek hatályba. Ez azt jelenti, hogy vállalkozásának azonnal meg kell felelnie ezeknek a szabályoknak, ha releváns mesterséges intelligenciarendszereket használ vagy fejleszt.
A végrehajtási keretrendszer lépcsőzetes ütemtervet követ. A teljes büntetések, az irányítási struktúrák és a titoktartási rendelkezések 2025. augusztus 2-án lépnek hatályba.
Ez hat hónapos időszakot biztosít a szervezetének, amíg a szabályok érvényesek, de a teljes körű végrehajtási mechanizmusok még kidolgozás alatt állnak. Az Európai Bizottság 2025. február 4-én hivatalos iránymutatásokat tett közzé, amelyek tisztázzák, hogyan működnek ezek a tilalmak a gyakorlatban.
A végrehajtást a nemzeti piacfelügyeleti hatóságok szervezik, amelyeket minden tagállamnak ki kell jelölnie. Hollandia még nem fejezte be a hivatalosan kijelölő végrehajtási jogszabályt; az előkészítő szakaszban a Holland Adatvédelmi Hatóság és a Holland Digitális Infrastruktúra Hatósága koordináló szervként jár el, az ágazati szabályozók pedig saját szakterületükön felügyelik a mesterséges intelligenciát. Maga a tilalom ettől függetlenül érvényes: az a tény, hogy a végrehajtási struktúra még véglegesítés alatt áll, nem teszi jogszerűvé a tiltott gyakorlatot, és egy olyan rendszer, amely megsérti az 5. cikket, a legtöbb esetben a GDPR-t is sérti, amelyet a Holland Adatvédelmi Hatóság ma érvényesíthet.
Főbb definíciók: MI-rendszerek és gyakorlatok
A rendelet 3. cikke a mesterséges intelligenciarendszert olyan gépi alapú rendszerként határozza meg, amelyet úgy terveztek, hogy különböző szintű autonómiával működjön, amely a telepítés után adaptív képességet mutathat, és amely a kapott bemenetekből következtet arra, hogyan generáljon kimeneteket, például előrejelzéseket, tartalmakat, ajánlásokat vagy döntéseket, amelyek befolyásolhatják a fizikai vagy virtuális környezetet. A definícióban a következtetés az az elem, amely elvégzi a munkát: egy olyan rendszer, amely csupán egy személy által teljes egészében leírt szabályokat alkalmaz, nem mesterséges intelligenciarendszer, míg egy olyan modell, amely saját döntési szabályát adatokból vezeti le, az.
A tiltott MI-gyakorlat a mesterséges intelligencia telepítésének vagy felhasználásának olyan konkrét módjaira utal, amelyeket az Európai Unió elfogadhatatlannak ítélt. A tilalom magára a gyakorlatra vonatkozik, nem az alapul szolgáló technológiára.
Ez azt jelenti, hogy ugyanazt a mesterséges intelligencia rendszert használhatod megengedett célokra, miközben bizonyos alkalmazásokból el vagy tiltva. A vállalkozásodnak különbséget kell tennie a mesterséges intelligencia rendszer (a technológia) és annak gyakorlata (hogyan használod) között.
Egy arcfelismerő mesterséges intelligencia rendszer használata legális lehet épületbeléptetéshez, de tiltott a nyilvános terek valós idejű megfigyelésében. Az (EU) 2024/1689 rendelet értelmében a kontextus és az alkalmazás határozza meg a jogszerűséget.
A tiltott mesterséges intelligencia gyakorlatok részletes listája
Az EU mesterséges intelligencia törvénye tiltja azokat a mesterséges intelligencia alkalmazásokat, amelyek elfogadhatatlan kockázatot jelentenek az alapvető jogokra és a biztonságra nézve. Ezek a tiltott gyakorlatok három fő kategóriába sorolhatók: az emberi viselkedést manipuláló rendszerek, a kiszolgáltatott csoportokat kihasználó rendszerek, valamint a tömeges megfigyelést lehetővé tevő mechanizmusok a közösségi pontozáson keresztül.
Manipulatív és megtévesztő rendszerek
A mesterséges intelligencia törvénye tilt minden olyan mesterséges intelligenciarendszert, amely tudatalatti technikákat alkalmaz az emberi viselkedés lényeges torzítására oly módon, hogy az kárt okoz. Ezek olyan módszerek, amelyek a tudatos tudaton túl működnek, hogy befolyásolják a döntéseidet vagy cselekedeteidet.
A tiltott manipulatív gyakorlatok közé tartoznak:
- Olyan MI-rendszerek, amelyek olyan tudatalatti komponenseket telepítenek, amelyeket nem lehet észlelni
- A gyermekek életkorral összefüggő sebezhetőségeinek kihasználására tervezett rendszerek
- Olyan technológiák, amelyek manipulálják a viselkedést fizikai vagy pszichológiai kár okozása érdekében
A mesterséges intelligenciát nem használhatod arra, hogy szándékosan megtévesszd az embereket olyan módon, ami jelentős kárt okoz . Ez azt jelenti, hogy a vállalkozásod nem alkalmazhat chatbotokat vagy virtuális asszisztenseket, amelyek félrevezetik a felhasználókat a mesterséges intelligencia által képviselt mivoltukról, ha ez a megtévesztés kárt okozhat.
A tilalom kiterjed azokra a mesterséges intelligenciarendszerekre is, amelyek sötét mintákat vagy pszichológiai manipulációt használnak, hogy káros döntések felé tereljék a felhasználókat. A törvény védi az egyéneket a racionális döntéshozatalt megkerülő mesterséges intelligenciagyakorlatoktól.
Ha a mesterséges intelligencia rendszered rejtett manipulációval, nem pedig átlátható információkkal befolyásolja a viselkedést, akkor megsérti a törvényt.
Kiszolgáltatott személyek kizsákmányolása
Szigorúan tilos az olyan mesterséges intelligenciarendszerek használata, amelyek az életkorral, fogyatékossággal, társadalmi vagy gazdasági körülményekkel kapcsolatos sebezhetőségeket kihasználják. A mesterséges intelligencia nem használható olyan emberek kihasználására, akik nem képesek megérteni vagy ellenállni a manipulációnak.
Ez a tilalom a gyermekek tapasztalatlanságát vagy az idősek kognitív hanyatlását célzó mesterséges intelligenciára vonatkozik. Vállalkozása nem alkalmazhat olyan rendszereket, amelyek fizikai vagy mentális fogyatékosságot használnak ki a viselkedés manipulálására.
A gazdasági kétségbeesésre vagy társadalmi elszigeteltségre épülő mesterséges intelligencia is e tilalom hatálya alá tartozik.
A védett, veszélyeztetett csoportok közé tartoznak:
- Gyermekek és kiskorúak
- Kognitív károsodásban szenvedő idősek
- Fizikai vagy mentális fogyatékossággal élők
- Gazdasági nehézségekkel küzdő magánszemélyek
A tilalom akkor érvényes, ha az Ön MI-rendszere jelentős kárt okoz vagy okozhat a kizsákmányolás révén. Fel kell mérnie, hogy az MI-alkalmazásai tisztességtelenül célozhatják-e meg a kiszolgáltatott lakosságot.
Szociális pontozás és viselkedési profilalkotás
A mesterséges intelligencia törvény tiltja azokat a mesterséges intelligencia rendszereket, amelyek az embereket társas viselkedésük vagy személyes jellemzőik alapján értékelik vagy osztályozzák . Nem lehet olyan társadalmi pontozási mechanizmusokat használni, amelyek igazságtalan bánásmódhoz vagy kárhoz vezetnek.
A társadalmi pontozás az egyének viselkedésük, kapcsolataik vagy előre jelzett viselkedésük alapján történő értékelését jelenti. Ez olyan profilokat hoz létre, amelyek meghatározzák a szolgáltatásokhoz, lehetőségekhez vagy jogokhoz való hozzáférést.
A tiltott közösségi pontozási tevékenységek a következők:
- Polgárok értékelése társadalmi vagy szakmai viselkedésük alapján
- Megbízhatósági pontszámok létrehozása személyes adatokból
- Bűnözői magatartás előrejelzése profilalkotás alapján
- Szolgáltatások megtagadása viselkedési értékelések alapján
Nem lehet olyan MI-rendszereket bevezetni, amelyek pontszámokat rendelnek hozzá annak megállapításához, hogy valaki részesül-e egészségügyi ellátásban, oktatásban, foglalkoztatásban vagy pénzügyi szolgáltatásokban. A tilalom attól függetlenül érvényes, hogy ezeket a rendszereket hatóságként vagy magánvállalkozásként üzemelteti.
A valós idejű távoli biometrikus azonosítás nyilvános helyeken szintén szigorú tilalmak alá esik, korlátozott kivételekkel a bűnüldöző szervek számára.
A biometrikus, arcfelismerő és érzelmi mesterséges intelligencia tilalma
Az EU mesterséges intelligencia törvénye számos olyan biometrikus és arcfelismerő rendszert tilt, amelyek kockázatot jelentenek az alapvető jogokra . Ezek a tilalmak befolyásolják, hogy a holland vállalkozások hogyan használhatják a biometrikus adatokat , az arcfelismerő adatbázisokat, az érzelemfelismerő eszközöket és a valós idejű azonosító rendszereket nyilvános helyeken.
Biometrikus kategorizálás
Tilos olyan MI-rendszereket használni, amelyek biometrikus adataik alapján kategorizálják az embereket, hogy megállapítsák faji hovatartozásukat, politikai véleményüket, szakszervezeti tagságukat, vallási meggyőződésüket vagy szexuális irányultságukat. Ez a tilalom akkor érvényes, amikor ezeket a rendszereket forgalomba hozzák, üzembe helyezik, vagy erre a konkrét célra használják.
A tilalom olyan rendszereket céloz meg, amelyek biometrikus elemzés segítségével vonnak le érzékeny következtetéseket az egyénekről. Vállalkozása a szabályok be nem tartása esetén a világméretű éves forgalom akár 7%-át is kitevő bírsággal nézhet szembe.
Van egy kivétel ez alól a szabály alól. A jogszerűen megszerzett biometrikus adatkészleteket, például képeket, a bűnüldözési kontextusban használt biometrikus adatok alapján címkézheti vagy szűrheti.
A bűnüldözésen kívül ezek a kategorizálási gyakorlatok továbbra is teljes mértékben tiltottak.
Az arcfelismerő technológiákra vonatkozó korlátozások
Tilos arcfelismerő adatbázisokat létrehozni vagy bővíteni az internetről vagy CCTV-felvételekről származó, céltalanul lekaparott arcképmások segítségével. Ez a tilalom 2025. február 2-án lépett hatályba.
A tilalom alkalmazásához négy feltételnek kell teljesülnie:
- A gyakorlat magában foglalja egy mesterséges intelligencia rendszer elhelyezését, szervizelését vagy használatát.
- A cél az arcfelismerő adatbázisok létrehozása vagy bővítése.
- A módszer céltalan arcképmások kaparását alkalmazza.
- Az adatforrások az internet vagy a CCTV felvételei.
A kulcsszó a „nem célzott”. Arcképmásokat nem lehet széles körben, válogatás nélkül gyűjteni.
Ez azt jelenti, hogy nem lehet olyan kamerákat telepíteni szupermarketekben vagy nyilvános helyeken, amelyek automatikusan lekaparják az arcokat, hogy felismerési adatbázisokat hozzanak létre meghatározott célzási kritériumok nélkül.
Érzelemfelismerés a foglalkoztatásban és az oktatásban
A munkahelyeken és oktatási intézményekben tilos mesterséges intelligencia rendszereket használni érzelmek kikövetkeztetésére. Ez a tilalom közvetlenül érinti a HR osztályokat, iskolákat és képzőhelyeket, amelyek fontolóra vehetik az érzelemfelismerő eszközök használatát.
A tilalom minden olyan mesterséges intelligenciarendszerre vonatkozik, amelyet érzelmi állapotok olvasására vagy értelmezésére terveztek ezekben a konkrét helyzetekben. Az, hogy arcfelismerést, hangminta-felismerést vagy más biometrikus jelzőket használ, nem számít.
Van egy szűk kivétel. Használhatsz érzelemfelismerő mesterséges intelligenciát, ha az orvosi vagy biztonsági célokat szolgál.
Például a vezető éberségének biztonsági okokból történő ellenőrzése vagy a betegek szorongásának észlelése egészségügyi intézményekben e kivétel hatálya alá tartozhat.
A távoli biometrikus azonosítás korlátozásai
Nyilvánosan hozzáférhető helyeken bűnüldözési célokra nem használhatók valós idejű távoli biometrikus azonosító rendszerek, kivéve szigorúan meghatározott körülmények között. Ezek a kivételek magukban foglalják az emberrablás vagy emberkereskedelem áldozatainak felkutatását, az életveszély vagy terrortámadások elhárítását, valamint a legalább négy évig terjedő szabadságvesztéssel büntetendő súlyos bűncselekmények gyanúsítottjainak felkutatását.
Minden felhasználáshoz előzetes engedély szükséges egy igazságügyi hatóságtól vagy független közigazgatási szervtől. Sürgős esetekben engedély nélkül is megkezdheti a felhasználást, de 24 órán belül jóváhagyást kell kérnie.
Ha a hatóságok elutasítják az engedélyt, azonnal le kell állítania a rendszer használatát, és törölnie kell az összes adatot. Hollandia a nemzeti jogán belül meghatározhatja a saját részletes szabályait ezen kivételek tekintetében.
Vállalkozásának minden egyes felhasználásról értesítenie kell az illetékes piacfelügyeleti hatóságot és a nemzeti adatvédelmi hatóságot. A tagállamok éves jelentéseket nyújtanak be az Európai Bizottságnak a valós idejű távoli biometrikus azonosítás használatáról.
Megfelelési kötelezettségek a holland vállalkozások számára
A holland vállalkozásoknak konkrét lépéseket kell tenniük a mesterséges intelligencia előírásainak való megfelelés érdekében a tiltott rendszerek azonosításával, működésből való eltávolításával és megfelelő dokumentáció vezetésével. A holland adatvédelmi hatóság és a holland digitális infrastruktúra hatósága jelentős büntetésekkel fogja betartatni ezeket a követelményeket a jogsértések esetén.
Tiltott mesterséges intelligencia azonosítása a műveletek során
Alapos kockázatértékelést kell végezni a szervezet egészében, hogy felkutassák azokat a mesterséges intelligenciarendszereket, amelyek esetleg sértik az új szabályokat. Ez azt jelenti, hogy meg kell vizsgálni minden olyan technológiát, amely manipulációs technikákat alkalmaz, sebezhetőségeket használ ki, közösségi pontozást alkalmaz, vagy valós idejű biometrikus azonosítást végez nyilvános helyeken.
Kezd azzal, hogy leltárt készítesz az összes jelenleg használatban lévő mesterséges intelligencia rendszerről. Dokumentáld, hogy mit csinálnak az egyes rendszerek, hogyan dolgozzák fel az adatokat, és kikre vannak hatással.
Fordítson különös figyelmet azokra a rendszerekre, amelyek ügyfelekkel, alkalmazottakkal vagy a nyilvánossággal lépnek kapcsolatba. A kockázatértékeléseknek értékelniük kell, hogy bármelyik rendszer sértheti-e az alapvető jogokat.
Ez magában foglalja annak ellenőrzését is, hogy a mesterséges intelligencia rendszerei viselkedés, személyes jellemzők vagy társadalmi kapcsolatok alapján hoznak-e döntéseket az emberekről. Azokat a rendszereket, amelyek átláthatóság nélkül követik nyomon vagy készítenek profilt az egyénekről, azonnal felül kell vizsgálni.
Műszaki csapataival együttműködve értse meg, hogyan működnek az egyes MI-rendszerek. Nem hagyatkozhat kizárólag a szállítói leírásokra.
A holland adatvédelmi hatóság egyértelművé tette, hogy a megfelelőségért Ön felelős, függetlenül attól, hogy Ön építette-e a rendszert, vagy harmadik féltől vásárolta.
A betiltott mesterséges intelligenciarendszerek fokozatos kivonása vagy eltávolítása
Azonnal abba kell hagynia a tiltott mesterséges intelligencia gyakorlatok használatát. A törvény nem biztosít türelmi időt a tiltott rendszerekre.
Ha a kockázatértékelés tiltott gyakorlatot azonosít, azonnal deaktiválnia kell azt. Készítsen egy eltávolítási tervet, amely mind a technikai, mind az üzemeltetési hatásokat figyelembe veszi.
Egyes rendszerek nagyobb platformokba ágyazhatók, vagy több folyamathoz is csatlakozhatnak. Biztosítani kell, hogy a tiltott elemek eltávolítása ne zavarja meg az alapvető üzleti funkciókat.
Mielőtt leállítanál egy rendszert, határozd meg, hogyan fogod kezelni a korábban elvégzett feladatokat. Ez jelentheti a manuális folyamatokhoz való visszatérést, más technológia bevezetését vagy a munkafolyamatok teljes újratervezését.
Dokumentálja az eltávolítási folyamat minden lépését. Jegyezze fel, mikor fedezte fel a tiltott gyakorlatot, milyen lépéseket tett, és mikor deaktiválták teljesen a rendszert.
A szabályozó hatóságok egyértelmű bizonyítékot várnak el arról, hogy Ön a jogsértés azonosítása után azonnal cselekedett.
Nyilvántartások és dokumentáció
Műszaki dokumentációt kell vezetnie, amely igazolja a tiltó szabályok betartását. Ez magában foglalja a kockázatértékelések feljegyzéseit, a mesterséges intelligenciarendszerekkel kapcsolatos döntéseket és a megfelelés elérése érdekében végrehajtott módosításokat.
A dokumentációnak a következőket kell tartalmaznia:
- Rendszerleltárak az egyes AI-alkalmazások leírásával
- Kockázatértékelési jelentések bemutatja a lehetséges szabálysértések elemzését
- Eltávolítási nyilvántartások részletezve, hogy mikor és hogyan deaktiválta a tiltott rendszereket
- Alapvető jogokra vonatkozó hatásvizsgálatok bármilyen határeset esetén
A mesterséges intelligencia törvény nem ír elő rögzített megőrzési időszakot ehhez az anyaghoz a tiltott gyakorlatoknak való megfelelés érdekében; az általa előírt nyilvántartási időszakok, mint például a magas kockázatú rendszerek műszaki dokumentációjára vonatkozó tíz év és az automatikusan generált naplók minimális időtartama, a magas kockázatú fejezetben találhatók. Az értékeléseket mindaddig őrizze meg, ameddig még kérhetőek, ami a gyakorlatban a rendszerből eredő bármely követelés elévülési idejét jelenti, és kérésre be kell tudnia mutatni azokat. A hatóságnak helytelen, hiányos vagy félrevezető információkkal való ellátása külön büntetendő a rendelet 99. cikke alapján.
Az általános leírások vagy marketinganyagok nem felelnek meg ennek a követelménynek. Tüntesse fel a műszaki specifikációkat, az adatfolyamokat és a döntéshozatali folyamatokat.
Frissítse dokumentációját, valahányszor módosítja a mesterséges intelligencia rendszereket, vagy újakat telepít. Folyamatos folyamatokra van szükség annak biztosítására, hogy a jövőbeli rendszerek ne vezessenek be tiltott gyakorlatokat.
AI-műveltségi követelmények és személyzeti képzés
2025. február 2-tól a mesterséges intelligencia rendszereket szolgáltató vagy telepítő holland vállalkozásoknak biztosítaniuk kell, hogy alkalmazottaik megfelelő mesterséges intelligencia ismeretekkel rendelkezzenek. Ez a kötelezettség attól függetlenül érvényes, hogy magas vagy alacsony kockázatú mesterséges intelligencia rendszereket használ-e.
A dokumentált képzési programokat az alkalmazottak szerepköréhez és technikai hátteréhez kell igazítani.
A mesterséges intelligencia ismeretének kötelezettsége elmagyarázva
Az EU MI-törvényének 4. cikke jogi kötelezettséget ír elő minden MI-szolgáltató és -üzemeltető számára, hogy biztosítsák személyzetük megfelelő MI-ismereteit. Intézkedéseket kell tenni annak garantálására, hogy a MI-rendszerekkel foglalkozó személyzet és vállalkozók megértsék a technológiát, amellyel dolgoznak.
A mesterséges intelligencia ismeretének kötelezettsége mindenkire vonatkozik, aki a nevében üzemeltet, használ vagy döntéseket hoz a mesterséges intelligencia rendszerekkel kapcsolatban. Ez magában foglalja a mesterséges intelligencia rendszereket építő vagy karbantartó műszaki személyzetet, valamint a nem műszaki alkalmazottakat, akik a mindennapi munkájuk során mesterséges intelligencia eszközöket használnak.
A mesterséges intelligencia használatára vonatkozó képzést minden egyes személy szerepköréhez, műszaki ismereteihez, tapasztalataihoz, végzettségéhez és a mesterséges intelligencia rendszereket használó konkrét kontextushoz kell igazítani. Egy mesterséges intelligencia modelleket megvalósító szoftverfejlesztőnek más képzésre van szüksége, mint egy mesterséges intelligencia által vezérelt chatbotokat használó ügyfélszolgálati képviselőnek.
A kötelezettség előírja, hogy „minden tőled telhetőt” meg kell tenned a megfelelő írástudási szint biztosítása érdekében. Nem kínálhatsz egyszerűen szimbolikus képzést, és nem állíthatod, hogy megfelelsz.
Hatékony képzési programok kidolgozása
A mesterséges intelligencia ismeretterjesztési programjának a szervezete által használt konkrét mesterséges intelligenciarendszerekre kell összpontosítania, ahelyett, hogy általános információkat nyújtana. A munkatársaknak meg kell érteniük, hogyan működnek a konkrét mesterséges intelligenciaeszközök, amelyekkel dolgoznak, azok korlátait és a lehetséges kockázatokat.
A képzés tartalmának a következőket kell tartalmaznia:
- A rendszereidhez kapcsolódó alapvető mesterséges intelligencia fogalmak
- Hogyan kell helyesen használni a mesterséges intelligencia eszközeit
- Lehetséges torzítások és hibák a mesterséges intelligencia kimeneteiben
- Amikor emberi felügyeletre van szükség
- Szervezete mesterséges intelligencia irányelvei és eljárásai
Figyelembe kell venni minden alkalmazott kezdeti tudásszintjét. A műszaki személyzetnek szüksége lehet haladó képzésre a modellfejlesztés és -tesztelés terén, míg az általános felhasználóknak gyakorlati útmutatásra van szükségük a mesterséges intelligencia kimeneteinek értelmezéséhez és a helytelennek tűnő eredmények felismeréséhez.
A képzések lebonyolítása többféle formát ölthet, beleértve a workshopokat, online kurzusokat, munkahelyi coachingot vagy külső programokat. A formátum kevésbé számít, mint az, hogy a munkatársak valóban elsajátítsák a szükséges ismereteket és készségeket.
AI-műveltségi tevékenységek dokumentálása
Nyilvántartást kell vezetnie a mesterséges intelligencia műveltségi képzési tevékenységeiről, hogy igazolja az EU mesterséges intelligencia törvényének való megfelelést. Ez a dokumentáció bizonyítja, hogy eleget tett jogi kötelezettségeinek.
A nyilvántartásodnak tartalmaznia kell:
- Képzési program tartalma és anyagai
- A képzést elvégzett alkalmazottak listája
- A képzések időpontjai és időtartama
- Értékelési eredmények (ha alkalmazható)
- Hogyan határozta meg a megfelelő írástudási szinteket a különböző szerepkörökhöz?
Dokumentálja a szervezetében felmerülő mesterséges intelligencia-ismereti igények azonosítására szolgáló folyamatot. Ez magában foglalja azt is, hogyan mérte fel, hogy mely munkatársaknak van szükségük képzésre, és milyen konkrét ismeretekre van szükségük a mesterséges intelligencia rendszerekkel való interakciójuk alapján.
Vezessen nyilvántartást arról, hogyan frissíti a képzéseket, ahogy a mesterséges intelligencia rendszerei változnak, vagy új munkatársak csatlakoznak a szervezethez. A mesterséges intelligencia ismerete nem egyszeri követelmény, hanem folyamatos kötelezettség, amelynek alkalmazkodnia kell a mesterséges intelligencia technológia folyamatosan változó használatához.
Felügyelet, végrehajtás és büntetések
Az EU mesterséges intelligencia törvénye többrétegű végrehajtási struktúrát hoz létre, jelentős pénzügyi szankciókkal a szabályok be nem tartása esetén. A holland vállalkozásokat mind nemzeti, mind európai hatóságok felügyelik, a tiltott mesterséges intelligencia gyakorlatokért kiszabható bírságok pedig elérhetik a világméretű éves forgalom 7%-át.
Holland és uniós felügyeleti hatóságok
Hollandiában a felügyeleti architektúra még kiépítés alatt áll. A Holland Adatvédelmi Hatóság koordináló szerepet tölt be, és a Holland Digitális Infrastruktúra Hatósággal közösen elkészítette a piacfelügyeleti keretrendszert, de az illetékes hatóságokat kijelölő és a rendelet szerinti hatásköröket felruházó törvény még nem készült el. Amíg ez nem történik meg, a meglévő szabályozó hatóságok saját hatáskörükön belül érvényesítik a szabályokat, és továbbra is a Holland Adatvédelmi Hatóság az a hatóság, amelynek el kell számolnia minden olyan esetben, amikor a mesterséges intelligencia rendszer személyes adatokat dolgoz fel.
Európai szinten az Európai Bizottság felügyeli a mesterséges intelligenciatörvény végrehajtását az összes tagállamban. A Bizottságon belül létrehozott Európai MI-hivatal koordinálja a végrehajtási tevékenységeket és technikai szakértelmet biztosít.
Az Európai Mesterséges Intelligencia Testület, amely a tagállamok képviselőiből áll, támogatja a rendelet következetes alkalmazását, tanácsokkal látja el a Bizottságot, és együttműködik az adatvédelmi hatóságokkal azokon a területeken, ahol a mesterséges intelligencia rendszerek személyes adatokat dolgoznak fel.
Ha több uniós országban üzemeltet mesterséges intelligencia rendszereket, akkor minden olyan joghatóság felügyeleti szerveinek ellenőrzésével szembesülhet, ahol a rendszereit telepítik vagy ahol azok működnek.
Szankciók és polgári jogi felelősség
Az 5. cikk tiltott gyakorlatainak megsértése akár 35 millió eurós vagy a teljes éves világméretű forgalom 7%-át kitevő bírsággal is járhat, attól függően, hogy melyik a magasabb. Maga a tilalom 2025. február 2. óta hatályos, de a rendelet büntetési rendelkezései 2025. augusztus 2-tól alkalmazandók, így a magatartásért ettől az időponttól kezdve bírság szabható ki. A többi kötelezettség megszegése alacsonyabb felső határokkal jár: tizenöt millió euró vagy három százalék a magas kockázatú követelmények be nem tartása esetén, és hét és fél millió euró vagy egy százalék a hatóságnak helytelen vagy félrevezető információk szolgáltatása esetén.
Az Európai Unió Bírósága (Bíróság) rendelkezik a végső jogkörrel a mesterséges intelligenciatörvény rendelkezéseinek értelmezésében. A nemzeti bíróságok kérdéseket terjeszthetnek az Bíróság elé, ha viták merülnek fel azzal kapcsolatban, hogy mi minősül tiltott gyakorlatnak.
A közigazgatási bírságokon túl a tiltott rendszer által károsított személy polgári jogi követelést is benyújthat. Erre nincs harmonizált európai szabályozás: a mesterséges intelligenciával kapcsolatos felelősségi irányelvjavaslatot visszavonták, így Hollandiában a keresetet a holland jog alapján indítják, általában jogellenes cselekményként a Polgári Törvénykönyv 6:162. cikke alapján, és az 5. cikk megsértése bizonyítékként szolgál arra, hogy törvényi kötelezettséget megsértettek. A tagállamok további szankciókat is megállapíthatnak a nemzeti jogukban.
Útmutató európai és nemzeti szervektől
Az Európai Bizottság 2025. február 4-én közzétette a tiltott mesterséges intelligencia gyakorlatokról szóló iránymutatásait . Ezek a dokumentumok elmagyarázzák, hogyan értelmezik a hatóságok az 5. cikk tilalmait, és gyakorlati példákat is tartalmaznak a megfelelésre.
Bár ezek az iránymutatások nem kötelező érvényűek, értékes betekintést nyújtanak a végrehajtási prioritásokba. Kizárólag az Európai Unió Bírósága adhat mérvadó jogi értelmezéseket.
A holland felügyeleti hatóságok további, a helyi üzleti környezethez igazított országos iránymutatásokat adhatnak ki. A végrehajtási megközelítések fejlődésével párhuzamosan figyelemmel kell kísérnie mind az európai, mind a holland szervek frissítéseit.
Az iránymutatások az EU összes nyelvén elérhetők a határokon átnyúló megértés elősegítése érdekében.
Gyakran Ismételt Kérdések
Az európai mesterséges intelligenciatörvény 2025 februárjától kezdődően konkrét követelményeket és korlátozásokat vezet be a holland vállalkozásokra vonatkozóan. Ezek a szabályozások tiltanak bizonyos mesterséges intelligencia gyakorlatokat, megfelelési intézkedéseket írnak elő , és büntetéseket szabnak ki a jogsértésekre.
Milyen új szabályozások vannak a mesterséges intelligencia használatával kapcsolatban a holland vállalatoknál februártól?
Az európai mesterséges intelligenciatörvény 2024. augusztus 1-jén lépett hatályba, az első tilalmak 2025. február 2-án léptek hatályba. Ezek a szabályozások minden olyan holland vállalkozásra vonatkoznak, amely mesterséges intelligenciarendszereket fejleszt, telepít vagy használ az Európai Unión belül.
A törvény tiltja a manipulatív MI-rendszereket, amelyek tudatalatti technikákat alkalmaznak olyan döntések befolyásolására, amelyeket az emberek normális esetben nem hoznának meg. Azok a MI-rendszerek is tilosak, amelyek az életkor, a fogyatékosság vagy a társadalmi-gazdasági státusz alapján sebezhetőségeket kihasználják.
A teljes betiltás fenyegeti azokat a közösségi pontozási rendszereket, amelyek az egyéneket társas viselkedésük vagy személyes jellemzőik alapján ítélik meg. A szabályozások tiltják a mesterséges intelligencia alapú kockázatértékeléseket is, amelyek kizárólag profilalkotás vagy személyiségjegy-elemzés alapján, a bűnözői tevékenységgel kapcsolatos tények helyett előrejelzik a bűncselekményeket.
Nem engedélyezettek az olyan biometrikus kategorizációs rendszerek, amelyek arcképmások vagy ujjlenyomatok alapján következtetnek ki faji hovatartozásra, politikai nézetekre, szakszervezeti tagságra, vallási meggyőződésre vagy szexuális irányultságra. A valós idejű távoli biometrikus azonosítás nyilvános helyeken tilos, kivéve szigorúan meghatározott, külön törvényi engedéllyel járó helyzeteket.
Hogyan befolyásolják a 2025. februári holland mesterséges intelligencia irányelvek az adatvédelmet és a fogyasztók adatvédelmét?
A mesterséges intelligencia törvénye a meglévő adatvédelmi szabályozásokkal, köztük a GDPR-ral együtt működik. A holland adatvédelmi hatóság útmutatást nyújt arról, hogy a mesterséges intelligencia rendszereknek hogyan kell megfelelniük az adatvédelmi szabályoknak, különösen az automatizált döntéshozatal terén.
Tilos az arcképmások internetről vagy kamerafelvételekről történő céltalan kinyerése arcfelismerő adatbázisok létrehozása vagy bővítése céljából. Ez a korlátozás védi az egyének magánélethez való jogát, és megakadályozza a biometrikus adatok jogosulatlan gyűjtését.
A mesterséges intelligenciarendszereknek teljes életciklusuk során tiszteletben kell tartaniuk az alapvető jogokat. A hatóságoknak és a közszolgáltatásokat nyújtó szervezeteknek alapvető jogi hatásvizsgálatot kell végezniük, amikor magas kockázatú mesterséges intelligenciarendszereket használnak.
Milyen mesterséges intelligencia alapú tevékenységeket nem végezhetnek a holland vállalkozások a közelmúltbeli jogszabályi változások miatt?
Vállalkozása nem használhat érzelemfelismerő rendszereket munkahelyi vagy oktatási környezetben. Ezek a rendszerek tilosak, függetlenül az állítólagos előnyöktől vagy felhasználási esetektől.
Nem lehet olyan MI-rendszereket telepíteni, amelyek tudatalatti technikákkal manipulálják az embereket, vagy kihasználják a sebezhetőségüket. Ez magában foglalja azokat a rendszereket is, amelyek fogyatékosságuk, társadalmi státuszuk vagy életkoruk alapján célozzák meg az egyéneket, hogy befolyásolják viselkedésüket.
Tilosak az olyan biometrikus kategorizáló rendszerek, amelyek érzékeny jellemzők alapján osztályozzák az embereket. A mesterséges intelligencia nem használható arra, hogy valakinek a biometrikus adataiból következtessen a faji hovatartozására, politikai véleményére, vallási meggyőződésére vagy szexuális irányultságára.
A közösségi pontozási rendszerek teljes mértékben betiltottak. Nem lehet olyan mesterséges intelligenciát alkalmazni, amely az embereket társas viselkedésük vagy személyes jellemzőik alapján értékeli vagy osztályozza.
Nyilvánosan hozzáférhető helyeken tilos a valós idejű távoli biometrikus azonosítás kereskedelmi célú felhasználása . A bűnüldöző szervek csak szűken meghatározott körülmények között, megfelelő jogi felhatalmazással használhatják az ilyen rendszereket.
Milyen lépéseket kell tenniük a holland vállalatoknak, hogy MI-rendszereiket összehangolják a februárban meghatározott megfelelőségi szabványokkal?
Azonosítania kell az összes olyan mesterséges intelligenciarendszert, amelyet szervezete jelenleg használ vagy telepít. Ennek a leltárnak az egyes rendszereket a mesterséges intelligenciatörvényben meghatározott kockázati besorolások szerint kell kategorizálnia.
Tekintse át mesterséges intelligencia rendszereit a tiltott gyakorlatok listája alapján. Ha tiltott rendszereket használ, azokat azonnal ki kell vonnia a szabályozási szankciók elkerülése érdekében.
Dokumentálja mesterséges intelligencia rendszereinek céljait, adatforrásait és döntéshozatali folyamatait. Ez a dokumentáció segít igazolni a megfelelőséget, és támogatja a szükséges hatásvizsgálatokat.
A magas kockázatú rendszerek saját kötelezettségekkel járnak, beleértve az európai adatbázisban való regisztrációt, valamint a közintézmények és a közszolgáltatók esetében az alapvető jogokra vonatkozó hatásvizsgálatot. Ezt a rendszert elhalasztották: a III. mellékletben felsorolt rendszerek, például a toborzási, hitelminősítési és foglalkoztatás-kezelési eszközök esetében 2027. december 2-án, a szabályozott termékek biztonsági alkotóelemeit képező magas kockázatú rendszerek esetében pedig 2028. augusztus 2-án lép hatályba.
Képezze ki munkatársait az új követelményekre, és hozzon létre belső folyamatokat a folyamatos megfelelőség-ellenőrzéshez. A megfelelőségi programnak tartalmaznia kell a mesterséges intelligencia rendszerek rendszeres felülvizsgálatát annak biztosítása érdekében, hogy azok a szabályozási határokon belül maradjanak.
Vannak-e olyan ágazatspecifikus tilalmak a mesterséges intelligenciával kapcsolatban, amelyekről a holland cégeknek tudniuk kellene az új szabályozások betartása után?
Az oktatási szektor szervezetei sajátos korlátozásokkal szembesülnek. Az érzelemfelismerő rendszerek nem használhatók a diákok megfigyelésére vagy érzelmi állapotuk felmérésére, függetlenül a kívánt oktatási haszontól.
A munkahelyi környezeteknek hasonló korlátaik vannak. A munkáltatók nem alkalmazhatnak érzelemfelismerő mesterséges intelligenciát az alkalmazottak érzelmi állapotának vagy reakcióinak monitorozására a munkatevékenységek során.
A bűnüldöző szervek korlátozott kivételekkel rendelkeznek a biometrikus azonosító rendszerekre vonatkozóan. Ezek a kivételek szigorú jogi engedélyt igényelnek, és csak meghatározott helyzetekre vonatkoznak, például emberrablás áldozatainak felkutatására, közvetlen fenyegetések elhárítására vagy súlyos bűncselekmények gyanúsítottjainak nyomon követésére.
A közszolgáltatásokat nyújtó hatóságokra az általános tilalmakon túl további követelmények vonatkoznak. Minden magas kockázatú mesterséges intelligenciarendszer esetében alapvető jogi hatásvizsgálatot kell végezni, és ezeket a rendszereket regisztrálni kell az európai adatbázisban.
Milyen büntetések járnak a 2025 februárjában bevezetett holland mesterséges intelligencia korlátozások be nem tartása esetén?
A szabályozó hatóságok jelentős bírságokat szabhatnak ki a mesterséges intelligencia törvény be nem tartása esetén. A büntetési struktúra a jogsértés súlyosságától függő, többszintű megközelítést követ.
A tiltott mesterséges intelligenciarendszerek használata a legsúlyosabb szabálysértési kategóriát képviseli. Szervezete jelentős pénzügyi szankciókkal néz szembe, ha a 2025. februári határidő után is folytatja a tiltott rendszerek üzemeltetését.
A pontos büntetési összegek attól függenek, hogy a szervezet kis- és középvállalkozásnak vagy nagyobb vállalatnak minősül-e. A szabályozó hatóságok olyan tényezőket vesznek figyelembe, mint a jogsértés jellege, időtartama és az okozott kár.
A pénzügyi büntetéseken túl a szabályok be nem tartása károsíthatja szervezete hírnevét. A tiltott MI-rendszerek által károsított személyek további jogorvoslatokat igényelhetnek polgári peres eljárás útján.
A Holland Adatvédelmi Hatóság és más szabályozó szervek végrehajtási hatáskörrel rendelkeznek. Kivizsgálhatják a panaszokat, ellenőrzéseket végezhetnek, és követelhetik a tiltott gyakorlatok azonnali megszüntetését.
Law & More Tanácsot adunk a vállalkozásoknak az MI-törvény gyakorlati alkalmazásáról: átvilágítjuk a már használatban lévő rendszereket az 5. cikk tilalmai alapján, felmérjük, hogy egy használati eset hol helyezkedik el közel az engedélyezett és a tiltott gyakorlat közötti határvonalhoz, meghatározzuk a 4. cikk által előírt MI-műveltségi intézkedéseket, és felkészülünk a 2027 decemberében esedékes, magas kockázatú kötelezettségekre. Amennyiben egy MI-rendszer személyes adatokat is feldolgoz, egyidejűleg a GDPR-helyzetet is felmérjük, mivel ma itt érhető el a végrehajtás.
