MI felelősség: ki a felelős, ha egy MI-rendszer kárt okoz?

Az igazság mérlege apró emberi alakokat tart, alattuk egy nyitott tenyérrel

Amikor egy mesterséges intelligenciarendszer kárt okoz Hollandiában, a felelősség mindig egy személyt vagy egy vállalatot terhel, soha nem magát a szoftvert. A gyakorlatban a követelés a felhasználóhoz (a rendszert telepítő szervezethez) fűződik a kártérítési jog alapján, a Holland Polgári Törvénykönyv (BW) 6:162. cikke szerint, vagy a gyártóhoz a termékfelelősség alapján, a BW 6:185. cikke szerint, amely nem követeli meg a vétkességet.

Az, hogy a kettő közül melyik viseli a veszteséget, attól függ, hogy hol történt a hiba, mit tudtak a felek, és mit mond a szerződésük. Ez a cikk mindkét álláspontot tárgyalja. A büntetőjogi keretet, a funkcionális elkövetéstől a Büntető Törvénykönyv (Sr.) 51. cikke szerinti vállalati felelősségig, a kísérő cikkünkben tárgyaljuk, amely arról szól, hogy egy algoritmus részben felelős lehet-e.

Egy billentyűzeten nyugvó kalapács, amely a jog és a technológia metszéspontját szimbolizálja.

Miért maga a mesterséges intelligencia rendszer soha nem felelős?

A holland jog csak természetes és jogi személyeket ismer, egy mesterséges intelligenciarendszer pedig egyikre sem. Nem idézhető be, nem szabható ki rá bírság, és nem kötelezhető kártérítés megfizetésére, mert semmivel sem rendelkezik; az „elektronikus személyiségre” vonatkozó javaslatokat uniós szinten megvitatták, de nem fogadták el.

A kérdés tehát az, hogy a lánc melyik tagja mulasztotta el a kötelezettségeit: a modell fejlesztője, az a fél, amelyik termékké alakította azt, a beszállító vagy integrátor, a telepítő szervezet, vagy az a személy, aki a kimenet alapján cselekedett. A mesterséges intelligencia felelőssége a hiba megtalálását és annak jogi alaphoz való illesztését jelenti a láncban.

Mikor felelős a felhasználó?

A felhasználó felelős, ha a rendszert anélkül telepíti, konfigurálja vagy használja, hogy olyan gondossággal járna el, mint ahogyan azt egy ésszerű üzemeltető tenné. A szervezetet, amely kiválaszt egy eszközt, adatokat szolgáltat neki és a kimenete alapján cselekszik, a saját magatartása alapján ítélik meg.

Mi van, ha a mesterséges intelligenciát bűncselekmény elkövetésére használják?

A mesterséges intelligencia szándékos felhasználása bűncselekményhez nem változtat a bűncselekményen. Egy meggyőző, mesterséges intelligencia által generált számla, amelyet egy vállalat megkárosítására használnak fel, csalásnak (oplichting) minősül a 326. cikkely értelmében, a hamisított dokumentum továbbra is hamisításnak minősül a 225. cikkely értelmében, és a mesterséges intelligencia által írt kód, amelyet egy rendszerbe való betörésre használnak, számítógépes behatolásnak minősül a 138ab. cikkely értelmében.

Egy valós személyről készült manipulált képek rágalmazásnak minősülhetnek, és a szexuális tartalmú deepfake-ek a 2024. július 1. óta hatályos szexuális bűncselekményekre vonatkozó szabályok hatálya alá tartoznak (Wet seksuale misdrijven). A mesterséges intelligencia által támogatott, tartós zaklatás a 285b Sr. cikk értelmében zaklatásnak minősülhet, amely csak az áldozat panasza alapján indul büntetőeljárás. A promptok, a fióknaplók, a kimenetek és a fájl metaadatok azok a bizonyítékok, amelyek a bűncselekményt egy adott személyhez kötik; tekintse meg a hollandiai számítógépes bűnözésről és kiberbűnözésről szóló áttekintésünket.

Hogyan néz ki a gondatlan használat?

Több szervezet kerül bajba gondatlanságból, mint szándékosságból. Egy adott célra vásárolt rendszert egy másikra használnak, a kimenetét döntésként, nem pedig jelzésként kezelik, és senki sem ellenőrzi azokat az eseteket, amikor hibás.

A BW 6:162. cikke értelmében az íratlan gondossági kötelezettség megszegése jogellenes, amelyet egy gondos vállalkozó tett volna. A munkáltató a munkavállalói hibáiért is felelős (BW 6:170. cikke), és az a fél, amelyik a saját szerződésének teljesítéséhez egy beszállító modelljét használja, felelős ezért a kisegítőért (BW 6:76. cikke).

Az EU mesterséges intelligencia törvénye (2024/1689/EU rendelet) mostantól ellátja ezt a gondossági kötelezettséget a magas kockázatú rendszerek esetében. A telepítőknek az utasításoknak megfelelően kell használniuk a rendszert, az emberi felügyeletet felhatalmazott, hozzáértő személyekre kell bízniuk, biztosítaniuk kell a releváns bemeneti adatokat, figyelemmel kell kísérniük a működést, naplókat kell vezetniük, és tájékoztatniuk kell a munkavállalókat, mielőtt ilyen rendszert használnának a munkahelyükön. A gondatlanságot vizsgáló bíróság ezeket a kötelezettségeket a gondos magatartás mércéjeként értelmezi.

Az emberi felügyeletnek valósnak kell lennie. Egy felülvizsgáló, aki a rendszer által javasolt szinte mindent jóváhagy – az átviteli sebesség alapján mérve –, nem hoz döntést; ez az „automatizálási torzítás” az, ahol a felügyelet leggyakrabban kudarcot vall.

Milyen kockázatokat nem háríthat át a felhasználó?

  • A károsult féllel szemben a felhasználó a látható alperes. A hitelt elutasító ügyfél vagy a szűrőeszköz által elutasított jelölt beperli a telepítőt; a beszállítóval szembeni kártérítési igény a szerződés értelmében külön kérdés.
  • Az adatvédelem önállóan alkalmazandó. A megvalósító általában az adatkezelő az általános adatvédelmi rendelet (GDPR) értelmében, és a GDPR 22. cikke feljogosítja az embereket az emberi beavatkozásra a kizárólag automatizált döntésekbe, amelyek jogi vagy hasonlóan jelentős hatással járnak. Lásd az oldalunkat a témában. Általános adatvédelmi rendelet.
  • A módosítás megváltoztatja a szerepkörödet. Az a telepítő, aki egy magas kockázatú rendszerre adja a nevét, megváltoztatja annak rendeltetését, vagy jelentősen módosítja azt, a mesterséges intelligencia törvény értelmében szolgáltatóvá válik, a szolgáltatói kötelezettségekkel együtt.
Összekapcsolt csomópontok és vonalak digitális illusztrációja, amelyek egy globális hálózatot alkotnak, szimbolizálva a nemzetközi mesterséges intelligencia szabályozásokat.

Mikor felelős a gyártó?

A gyártó vétkesség nélkül felelős a termékében keletkezett hibából eredő károkért (BW 6:185. cikk). Egy termék hibás, ha nem nyújtja azt a biztonságot, amelyet egy személy elvárhat, figyelembe véve a megjelenését, az ésszerűen elvárható használatát és a forgalomba hozatalának időpontját; a károsultnak kell bizonyítania a kárt, a hibát és az okozati összefüggést.

A kártérítési igényeket a károsult félnek a kárról, a hibáról és a gyártó kilétéről való tudomásszerzésétől számított három éven belül kell benyújtani, és a jog a termék forgalomba hozatalától számított tíz év elteltével évül el. A termékfelelősséget nem lehet szerződéssel kizárni vagy korlátozni a károsult féllel szemben. A gyártó korlátozott számú védekezési jogkörre hivatkozhat, beleértve a fejlesztési kockázattal kapcsolatos védekezést is.

Milyen változások vonatkoznak a szoftverekre az új termékfelelősségi irányelv értelmében?

A felülvizsgált termékfelelősségi irányelv (2024/2853/EU irányelv) 2024. december 8-án lépett hatályba, és 2026. december 9-ig kell átültetni. Az ezen időpont után forgalomba hozott termékekre vonatkozik; a korábbi termékekre továbbra is a jelenlegi Polgári Törvénykönyv szabályai az irányadók.

  • A szoftver, beleértve a mesterséges intelligencia rendszereket is, kifejezetten terméknek minősül.
  • Több fél is felelős lehet: bárki, aki a gyártó ellenőrzésén kívül eső mértékben jelentősen módosít egy terméket, az importőr, a meghatalmazott képviselő, és bizonyos esetekben a teljesítési szolgáltatók és az online platformok.
  • A nem professzionális célokra használt adatok megsemmisülése vagy sérülése helyrehozható kárnak minősül.
  • Egy termék a forgalomba hozatala után hibássá válhat, például hibás frissítés vagy a biztonsági frissítések hiánya miatt.

Az irányelv a bizonyítást is megkönnyíti. A bíróság elrendelheti az alperes számára a vonatkozó bizonyítékok feltárását, és ha az nem tesz eleget ennek, a hiányosságot vélelmezni kell. Amennyiben a technikai bonyolultság túlzottan megnehezíti a bizonyítást, a hiányosság vagy az oksági összefüggés vélelmezhető, ha a felperes bizonyítja, hogy azok valószínűsíthetőek.

Mit szabályozhat a szerződés?

A vállalkozások között általában a szerződés az első csatatér. A beszállítónak teljesítenie kell a megállapodottakat; a megígért pontosság, rendelkezésre állás vagy a mesterséges intelligencia törvénynek való megfelelés be nem tartása szerződésszegésnek minősül, amelyre a teljesítés, kártérítés és a szerződés megszüntetése a szerződésszegésről szóló értesítést követően lehetséges.

A korlátozó záradékok általában vállalkozások között érvényesek, de a bíróság hatályon kívül helyezheti azokat, ha azokra való hivatkozás az ésszerűség és a méltányosság alapján elfogadhatatlan (BW 6:248. cikk (2) bekezdés), például szándékosság vagy szándékos gondatlanság esetén. A kártérítési igényekről szóló oldalunkon további információkat talál arról, hogyan épülnek fel az ilyen igények.

A mesterséges intelligencia törvénye jogot biztosít-e kártérítésre?

Nem. A mesterséges intelligencia törvény szabályozó jellegű: kötelezettségeket határoz meg a szolgáltatók és a telepítők számára, és végrehajtási hatásköröket biztosít a felügyelőknek, de nem teremt kártérítési igényt. Az Európai Bizottság visszavonta a mesterséges intelligencia felelősségi irányelvére vonatkozó javaslatát, így a kártérítési igények a nemzeti szerződési és kártérítési jog, valamint a termékfelelősségi jog alapján kerülnek benyújtásra.

A mesterséges intelligencia törvény továbbra is számít a bíróságon: a meg nem felelés a gondatlanság bizonyítéka, a kötelező műszaki dokumentáció és naplók kérhetők az eljárás során, és a törvény rendezi, hogy ki a szolgáltató és ki a telepítő. IT jogi gyakorlatunk ezekkel a besorolási kérdésekkel foglalkozik.

Egy ünnepélyes külsejű kormányzati épület a szürke ég alatt, amely a holland gyermekgondozási ellátásokkal kapcsolatos botrány súlyosságát tükrözi.

Mi van, ha mind a felhasználó, mind a gyártó hibázik?

A legtöbb incidensnek több oka van: nem reprezentatív betanítási adatok, nem tesztelt integráció, a rendeltetéstől eltérő használat és olyan üzemeltetők, akik nem ismerték a rendszer korlátait. A BW 6:102. cikke értelmében az ugyanazon kárért felelős felek mindegyike a teljes kárért felelős a károsulttal szemben, és utólag rendezik egymás között a kárrészüket.

A holland gyermekgondozási ellátások ügye (toeslagenaffaire) jól szemlélteti ezt a mintát: átláthatatlan kockázatbesorolás, valódi egyéni értékelés nélküli döntések és a következmények teljes mértékben az érintettek által viselt. Utóhatása inkább adminisztratív és politikai, mint büntetőjogi jellegű volt.

Mi vonatkozik az önvezető járművekre, drónokra és robotokra?

A testi sérülés szigorú felelősséget is magában foglal, amely nem kérdezi meg, hogy valaki gondatlan volt-e. Az 1994. évi közúti közlekedési törvény (Wegenverkeerswet 1994) 185. cikke értelmében a gépjármű tulajdonosa vagy üzembentartója felelős a gyalogosoknak és kerékpárosoknak okozott károkért, kivéve, ha vis maior történt, függetlenül attól, hogy volt-e vezetéstámogató rendszer a kormányzásban.

A drónok az EU drónszabályozásának hatálya alá tartoznak, a kezelőket az RDW-n keresztül kell regisztrálni, és a Humán Környezetvédelmi és Közlekedési Felügyelőség (ILT) felügyeli. A hibás, ingóságnak minősülő dolog birtokosa, amely különös veszélyt jelent, a BW 6:173. cikke értelmében felelős, akkor is, ha a hiba a szoftverében rejlik, így az ipari robot tulajdonosa nem mutathat egyszerűen az eladóra.

Mit kell ellenőrizni egy mesterséges intelligencia rendszer felhasználójaként?

  • Vezessen leltárt az Ön által használt mesterséges intelligencia rendszerekről, arról, hogy ki szállította azokat, és milyen döntéseket befolyásolnak.
  • Minden rendszer esetében állapítsa meg, hogy telepítőnek, vagy – módosítás után – szolgáltatónak minősül-e a mesterséges intelligencia törvény értelmében.
  • Jegyezze fel a rendeltetést, és tartsa be a szállító használati utasításait.
  • Adj valódi felhatalmazást a kezelőknek a rendszer felülbírálására, és ne csak a térfogat alapján mérd őket.
  • A naplókat és az incidensekről szóló feljegyzéseket elég sokáig őrizze meg, hogy vitás esetekben felhasználhassa azokat.

Mit kell ellenőriznie gyártóként vagy beszállítóként?

  • Dokumentumkockázat-kezelés, adatkezelés és tesztelés a rendszer által ténylegesen kiszolgált populáción.
  • Írjon olyan használati utasításokat, amelyek őszintén ismertetik a korlátokat és a hibaszázalékokat.
  • Állítson be egy frissítési szabályzatot, amely kimondja, hogy ki és mennyi ideig biztosítja a biztonsági frissítéseket, figyelembe véve az (EU) 2024/2853 irányelvet.
  • Egyezzenek meg a felelősségkorlátozásokról, a kivételekről és a kártalanításokról, amelyek tükrözik a rendszer tényleges döntéseit.
  • Hozz létre egy csatornát, amelyen az ügyfelek bejelenthetik az incidenseket, és rögzítsd, hogyan kezelték azokat.
Egy személy kézben tartja, amint egy felelősségvállalási ikonnal ellátott fadarabot helyez egy építményre, ami a mesterséges intelligencia etikájának és elszámoltathatóságának keretrendszerét szimbolizálja.

Mit tehetünk Önért a mesterséges intelligencia felelősségével kapcsolatban?

IT és holland büntetőjogi ügyvédeink mesterséges intelligencia rendszereket építő és azokat használó szervezeteket is tanácsadnak.

  • Megállapítjuk, hogy Ön szolgáltatónak vagy telepítőnek minősül-e a mesterséges intelligencia törvény értelmében, és mely kötelezettségek vonatkoznak Önre.
  • Felülvizsgáljuk és tárgyaljuk a mesterséges intelligencia ellátási szerződéseit, beleértve a korlátozásokat, a kártalanítási kötelezettségeket és a naplókhoz való hozzáférést.
  • Egy incidens után felmérjük a kárigényt, és megvizsgáljuk a szükséges bizonyítékokat a védekezéshez vagy a benyújtáshoz.
  • Felmérjük a vállalat és igazgatóinak bűnügyi kitettségét olyan esetekben, amikor egy MI-rendszerrel visszaéltek.
  • Belső mesterséges intelligencia-szabályzatokat dolgozunk ki az emberi felügyeletre, a naplózásra és az incidenskezelésre vonatkozóan.

Összegzésként

  • Egy MI-rendszer nem vonható felelősségre; a felhasználó vagy a gyártó igen.
  • A felhasználók kártérítési felelősséggel tartoznak (BW 6:162. cikk), a mesterséges intelligenciáról szóló törvény pedig meghatározza a magas kockázatú rendszerekre vonatkozó gondossági normákat.
  • A gyártók vétkességük nélkül felelősek a hibás termékekért (BW 6:185. cikk), három és tíz éven belül.
  • Az (EU) 2024/2853 irányelv a szoftvert termékké minősíti, és megkönnyíti a bizonyítást a 2026. december 9. után forgalomba hozott termékek esetében.
  • Több felelős fél egyenként a teljes kárért felelős a károsulttal szemben.

Gyakran Ismételt Kérdések

Lehet egy MI-rendszer tanú a bíróságon?

Nem. A holland büntetőeljárásokban a tanúk személyes ismerettel rendelkező személyek. A mesterséges intelligencia által kibocsátott adatok bizonyítékként felhasználhatók, például írásos dokumentumként vagy egy szakértő magyarázatán keresztül.

Mi a különbség a mesterséges intelligencia polgári jogi és büntetőjogi felelőssége között?

A polgári jogi felelősség a károsult kártalanításáról szól, például a BW 6:162. vagy 6:185. cikke alapján. A büntetőjogi felelősség az állam általi büntetésről szól, és megköveteli a bűncselekmény, gyakran a szándékosság bizonyítását egy személy vagy vállalat részéről.

Már hatályos a mesterséges intelligencia törvény?

A mesterséges intelligencia törvénye (2024/1689/EU rendelet) 2024. augusztus 1-jén lépett hatályba, és szakaszosan alkalmazandó. Ellenőrizze, hogy mely kötelezettségek melyik napon vonatkoznak az Ön rendszereire.

Kizárhatja-e egy beszállító a felelősséget a mesterséges intelligencia rendszeréért?

Vállalkozások között a korlátozó záradékok általában érvényesek, de nem ott, ahol azokra való hivatkozás az ésszerűség és a méltányosság alapján elfogadhatatlan. A károsulttal szembeni termékfelelősség nem zárható ki.

Jade Vaneerdewegh
Jade Vaneerdewegh ügyvéd a következő cégnél: Law & More in Eindhoven és a AmsterdamBüntető- és közigazgatási jogi ügyekkel foglalkozik, tanácsait a tények és a jogszabályok alapos elemzésére alapozva.

Bűncselekménnyel gyanúsítják?

Írjon nekünk néhány sort a kérdéséről a következő címre: info@lawandmore.nlTájékoztatni fogjuk, hogy tudunk-e segíteni, és mi a következő lépés. E-mailben nem értékelünk ügyeket vagy dokumentumokat előzetes egyeztetés nélkül.

Szeretné, ha egy büntetőjogász felmérné a helyzetét? Egy 300 eurós, áfával együtt fizetős konzultáció keretében útmutatást kap kérdésére.

Ez a cikk általános információkat tartalmaz, és nem helyettesíti az Ön konkrét helyzetére vonatkozó tanácsadást.

Jogi tanácsra van szüksége?

Írjon nekünk néhány sort a kérdéséről a következő címre: info@lawandmore.nlTájékoztatni fogjuk, hogy tudunk-e segíteni, és mi a következő lépés. E-mailben nem értékelünk ügyeket vagy dokumentumokat előzetes egyeztetés nélkül.

Szeretné, ha egy büntetőjogász felmérné a helyzetét? Egy 300 eurós, áfával együtt fizetős konzultáció keretében útmutatást kap kérdésére.

Kapcsolódó cikkek

Letartóztatás után a rendőrség akár kilenc órán át is előzetes letartóztatásban tarthatja Önt kihallgatás céljából.

Vizsgáljuk meg a felmentés fogalmát, hogy megértsük annak jelentőségét, jogi működését és következményeit.

A pénzmosás azt jelenti, hogy a bűncselekményből származó bevételeknek jogszerű eredet látszatát keltik, és

Az átlagpolgárok számára a szervezett bűnözés elleni küzdelem főként azt jelenti, hogy Önt is érintheti

Jogi problémákkal küzd Hollandiában? Ne nézzen szembe egyedül – tanulja meg, hogyan oldja meg most!

A holland törvényekben nincs külön deepfake bűncselekmény, de a legtöbb káros deepfake továbbra is büntetendő.