Hollandiában a mesterséges intelligenciarendszerekért a felelősség mindig személyt vagy vállalatot terhel, soha nem a szoftvert. A gyakorlatban két álláspont számít: a felhasználó, azaz az a személy vagy szervezet, amely telepíti a rendszert és döntéseket hoz vele, valamint a gyártó, azaz az a fél, amelyik kifejlesztette, forgalomba hozta vagy szállította a rendszert. Az, hogy a kettő közül melyik viseli a kárt, attól függ, hogy hol történt a hiba, mit tudtak mindketten, és mit mond a közöttük lévő szerződés. Ez a cikk mindkét álláspontot figyelembe veszi; magát a büntetőjogi keretet, a funkcionális elkövetéstől a Büntető Törvénykönyv 51. cikke szerinti vállalati felelősségig, a kísérő cikkünkben ismertetjük, amely arról szól, hogy egy algoritmus részben felelős lehet-e.
Miért nem a rendszer a vádlott?
A holland jog kétféle személyt ismer: természetes és jogi személyeket. Egy mesterséges intelligenciarendszer egyik sem. Nem birtokolhat jogokat, nem idézhető be, nem szabható ki rá bírság, és nem kötelezhető kártérítés megfizetésére, mivel semmivel sem rendelkezik, és nincs jogi létezése külön az azt üzemeltető vállalattól. Európai szinten már megvitatták egy harmadik kategória, az úgynevezett elektronikus személyiség létrehozására irányuló javaslatokat, de ezek sehová sem vezettek, egy inkább gyakorlati, mint filozófiai okból: egy vagyon nélküli és a viselkedését megváltoztatni nem képes felelősségbiztosítási eszköz elhárítaná a kockázatot azokról a felekről, akik ténylegesen megelőzhetnék a kárt.
Tehát a kérdés soha nem az, hogy a gép felelős-e. Az a kérdés, hogy a lánc melyik emberi vagy vállalati szereplője mulasztotta el a kötelességét, és ennek a láncnak kiszámítható alakja van: az a fél, amelyik a modellt építette, az a fél, amelyik termékké alakította, az a fél, amelyik szállította vagy integrálta, a szervezet, amelyik bevezette, és az a személy, aki megnyomta a gombot. A mesterséges intelligenciarendszerek felelőssége a hiba megtalálását jelenti az adott láncban, és annak jogi alaphoz való illesztését.
Ezen jogalapok közül kettő dominál. A felhasználó számára az általános kártérítési jog és a gondossági kötelezettség, amely egy erős eszköz más felé történő felhasználásával jár. A gyártó számára a termékfelelősség, amely egyáltalán nem követeli meg a vétkességet. Minden más, beleértve a büntetőjogi felelősségre vonást is, ezekre rétegződik.
A felhasználó pozíciója
A felhasználók alábecsülik a kitettségüket, mivel a rendszert egy fekete doboznak tekintik, amit valaki más épített. A törvény szerint az a személy, aki úgy dönt, hogy telepít egy eszközt, konfigurálja azt, adatokat szolgáltat neki, és a kimenete alapján cselekszik, tesz valamit, és ezt a cselekvést önmagában értékelik.
Amikor a rendszer csupán egy bűncselekmény eszköze
A legegyszerűbb esetek azok, amikor egy mesterséges intelligencia által támogatott rendszert szándékosan használnak. Egy cég megkárosítására szolgáló, meggyőző számla generálása csalásnak minősül a Büntető Törvénykönyv 326. cikkelye értelmében, függetlenül attól, hogy a levelet személy vagy egy modell fogalmazta, és egy dokumentum hamisítása a 225. cikkely értelmében továbbra is hamisításnak minősül, függetlenül az eszköztől. Egy modell felhasználása egy rendszerbe betörni képes kód írásához továbbra is számítógépes behatolás a 138ab. cikkely értelmében. Valódi személy manipulált képeinek generálása és terjesztése rágalmazásnak minősülhet, és ha az anyag szexuális jellegű, akkor a 2024. július 1. óta hatályos szexuális bűncselekményekről szóló törvényben foglalt bűncselekmények alá esik. Egy személy tartós, mesterséges intelligencia által támogatott zaklatása a 285b. cikkely értelmében zaklatásnak minősülhet, amelyet csak az áldozat panasza alapján lehet üldözni.
Mindez nem új törvény. A technológia a megtévesztés mértékét és valószínűségét változtatja meg, nem a bűncselekmény elemeit. Amit viszont megváltoztat, az a bizonyíték: a promptok, a fióknaplók, a modellkimenetek és a fájl létrehozásának időzítése azok az anyagok, amelyek a bűncselekményt egy adott személyhez kötik, és azok a felhasználók, akik azt feltételezik, hogy a mesterséges intelligencia által generált tartalom nyomon követhetetlen, általában tévednek.
Gondatlan használat: a gyakoribb kockázat
Sokkal több szervezet kerül bajba gondatlanságból, mint szándékosságból. A minta ismerős. Egy rendszert egy célra vásárolnak, és egy másikra használják. A kimenetét inkább döntésként, mint jelzésként kezelik. Senki sem ellenőrzi azokat az eseteket, amikor hibás, mert az azt üzemeltető emberek soha nem tudták, hogy mekkora a hibaszázaléka, vagy hol hibázik. Amikor a kár bekövetkezik, a szervezet rájön, hogy nincsenek feljegyzései arról, hogyan jutottak a döntéshez.
Polgári értelemben ez egyértelmű károkozás: a Polgári Törvénykönyv 6:162. cikkelye felelősségre vonja a személyt a neki tulajdonítható jogellenes cselekményért, amely kárt okoz. A társadalmi gondossági kötelezettség megszegése a jogellenesség egyik kategóriája, és e kötelezettség tartalmát az határozza meg, hogy mit tett volna egy gondos gazdasági szereplő ebben a helyzetben. A munkáltató ezen felül felelős alkalmazottai hibáiért a 6:170. cikk értelmében, és az a fél, amely segédszemélyzetet vesz igénybe szerződéses kötelezettség teljesítéséhez, a 6:76. cikk értelmében felel ezért a segédszemélyzetért, amely rendelkezés egy olyan szervezetet érint, amely egy beszállító modelljét használja saját szolgáltatásának nyújtásához.
A gondossági kötelezettség kitalálása már nem teljes mértékben a bíróságokra van bízva. Az EU mesterséges intelligencia törvénye konkrét kötelezettségeket ró a magas kockázatú rendszerek telepítőire: a rendszert az utasításoknak megfelelően kell használni, emberi felügyeletet kell megbízni azokkal a személyekkel, akik rendelkeznek a hatáskörrel és felhatalmazással annak gyakorlására, biztosítani kell, hogy az ellenőrzésük alatt álló bemeneti adatok relevánsak legyenek, ellenőrizni kell a működést és fel kell függeszteni a használatot, ha kockázat merül fel, naplókat kell vezetni, és tájékoztatni kell a munkavállalókat és képviselőiket, mielőtt ilyen rendszert telepítenének a munkahelyen. Ezek a kötelezettségek szabályozási jellegűek, de a gondatlanságot vizsgáló bíróság a gondos magatartás leírásaként értelmezi őket. Az a szervezet, amely figyelmen kívül hagyta a használati utasítást, nemcsak nem felel meg a szabályoknak, hanem átadta a felperesnek az ügyét.
Az automatizálási torzítás külön említést érdemel, mivel ez az a pont, ahol a felügyelet csendben kudarcot vall. Az a felülvizsgáló, aki szinte mindent jóváhagy, amit a rendszer javasol, nem gyakorol felügyeletet, és egy olyan szervezet, amely a személyzetét az áteresztőképesség alapján méri, gyakorlatilag megtervezte ezt az eredményt. A jogi kérdés az, hogy valóban emberi döntés született-e, és a gumibélyegző nem felel meg ennek a kritériumnak.
Amennyiben a felhasználó nem tudja áthárítani a kockázatot
Három pont rendszeresen meglepi azokat a szervezeteket, amelyek azt feltételezték, hogy a beszállító viseli a kockázatot.
Először is, a sérült harmadik féllel szemben a felhasználó a látható fél. Egy ügyfél, akinek megtagadták a hitelt, egy szűrőeszköz által elutasított alkalmazott, egy rossz triázsban részesült beteg: szerződést kötnek a telepítővel, vagy az kezeli őket, és beperlik a telepítőt. Az, hogy a telepítő kártérítést tud-e szerezni a beszállítójától, egy külön kérdés, amely a szerződéstől függ, és nem késlelteti az ellene indított követelést.
Másodszor, az általános adatvédelmi szabályok minden mástól függetlenül alkalmazandók. Ha a rendszer személyes adatokat dolgoz fel, a telepítő általában az adatkezelő, aki felelős a jogalapért, az átláthatóságért, a hatásvizsgálatért és a biztonságért. A kizárólag automatizált eszközökkel hozott döntés, amely joghatással jár, vagy hasonlóan jelentős hatással van egy személyre, külön szabályozás alá esik, és jogot biztosít az adott személynek az emberi beavatkozásra és az eredmény megtámadására. Az általános adatvédelmi rendelet áttekintése ismerteti ezt a rendszert.
Harmadszor, a módosítás megváltoztatja a szerepkört. Egy telepítő, aki saját nevet ad egy rendszernek, megváltoztatja annak rendeltetését, vagy jelentősen módosítja azt, a mesterséges intelligencia törvény értelmében szolgáltatóvá válik, és örökli a szolgáltató kötelezettségeit. Egy általános célú modell finomhangolása szabályozott döntéshozatalhoz szükséges szűrőeszközzé pontosan az a fajta lépés, amely átlépi ezt a határt. Azoknak a szervezeteknek, amelyek valaki más modelljére építenek, a bevezetés előtt meg kell határozniuk, hogy melyik oldalon állnak, nem pedig egy incidens után.
A producer álláspontja
A gyártó felelőssége más utat követ, és szigorúbb. A Polgári Törvénykönyv 6:185. és azt követő cikkei szerinti termékfelelősség a gyártót a termék hibája által okozott károkért felelősségre vonja anélkül, hogy a károsultnak bizonyítania kellene a vétkességet. Egy termék hibás, ha nem nyújtja azt a biztonságot, amelyet egy személy jogosan elvárhat, figyelembe véve a megjelenését, az ésszerűen elvárható használatot és a forgalomba hozatalának időpontját. A kártérítési igényt tevőnek kell bizonyítania a kárt, a hibát és a közöttük lévő ok-okozati összefüggést, ami mesterséges intelligencia esetén a valódi küzdelem tárgya.
A rendszernek rögzített korlátai vannak. A kártérítési igényeket a károsult fél káráról, hibájáról és a gyártó kilétéről való tudomásszerzésétől számított három éven belül kell benyújtani, és a jog a konkrét termék forgalomba hozatalát követő tíz év elteltével lejár. A rendszer szerinti felelősséget nem lehet szerződéssel kizárni vagy korlátozni, és haláleset, személyi sérülés és más, magánhasználatú vagyontárgyakban okozott kár esetére is kiterjed, egy alacsonyabb értékhatárig. A gyártó korlátozott számú védekezési lehetőséggel rendelkezik, beleértve a fejlesztési kockázattal kapcsolatos védekezést is, amely akkor érvényesül, ha a forgalomba hozatal időpontjában a tudományos és műszaki ismeretek állása nem mutathatta volna ki a hibát.
A reform, amely megváltoztatja a szoftverek helyzetét
A jelenlegi holland szabályozás szerint a termék ingó dolognak minősül, és évek óta vitatott, hogy egy önálló szoftver megfelel-e ennek. Ez a vita most lezárulóban van. A felülvizsgált termékfelelősségi irányelv, az (EU) 2024/2853 irányelv, 2024. december 8-án lépett hatályba, és 2026. december 9-ig kell átültetni a nemzeti jogba; az ezen időpont után forgalomba hozott vagy üzembe helyezett termékekre vonatkozik, így a Polgári Törvénykönyv jelenlegi rendelkezései továbbra is az előtte forgalomban lévő termékekre vonatkoznak. Négy változás számít a mesterséges intelligenciarendszerek felelőssége szempontjából.
A szoftver, beleértve a mesterséges intelligencia rendszereket és a digitális gyártási fájlokat, kifejezetten terméknek minősül. A felelős felek köre a gyártón túl kiterjed arra a félre is, aki a gyártó ellenőrzésén kívül lényegesen módosítja a terméket, a meghatalmazott képviselőre, az importőrre, valamint meghatározott körülmények között a teljesítési szolgáltatóra és az online platformra. A megtérítendő kár kiterjed a nem professzionálisan használt adatok megsemmisülésére vagy sérülésére is, ami a szoftverhibák valódi veszteségkategóriáját jelenti. Egy termék hibás lehet azért, ami a forgalomba hozatala után történik: egy szükséges szoftverfrissítés hibája, a biztonsági frissítések hiánya vagy a folyamatos tanulás hatásai, ahol a gyártó megtartotta az ellenőrzést felette.
A reform közvetlenül a bizonyítási problémát is támadja. A bíróság elrendelheti az alperes számára, hogy a felperes kérésére feltárja a vonatkozó bizonyítékokat, és ha az alperes nem tesz eleget ennek, a hiányosságot vélelmezni kell. A hiányosság és az oksági összefüggés megdönthető vélelmei akkor érvényesülnek, ha a felperes műszaki vagy tudományos bonyolultság miatt túlzott nehézségekkel szembesül azok bizonyításában, feltéve, hogy a felperes hihetővé teszi a valószínűséget. Egy olyan modellel szembesülő felperes számára, amelyet senki sem tud teljes mértékben megmagyarázni, ez a különbség egy vitatható és egy lehetetlen eset között.
Szerződés, megfelelőség és a kizárási klauzulák korlátai
A vállalkozások között az első csatatér általában a szerződés, nem pedig a törvény. Egy MI-rendszer szállítója tartozik azzal, amiben megállapodott: a leszállított rendszernek meg kell felelnie a szerződésnek, és rendelkeznie kell azokkal a tulajdonságokkal, amelyeket a vevő jogosan elvárhatott. Amennyiben a szállító pontossági szintet, rendelkezésre állási szintet vagy a MI-törvénynek való megfelelést ígért, a szállítás elmulasztása szerződésszegésnek minősül, és a szerződésszegésről szóló megfelelő értesítést követően a teljesítés, a kártérítés és a szerződés felbontásának szokásos jogorvoslatai következnek.
A szállítók korlátozó és kizáró záradékokkal válaszolnak, és ezek a záradékok általában kereskedelmi felek között érvényesek. Nem korlátlanok. Egy záradékot el lehet tekinteni, ha az ésszerűség és a méltányosság normái szerint elfogadhatatlan lenne rá támaszkodni, ami a bíróságok által követett eljárás a szállító szándékos gondatlansága vagy súlyos hibája esetén, és ahol a záradék általános jellegű, akkor meghiúsulhat, ha a másik félnek soha nem volt valódi lehetősége arra, hogy tudomásul vegye azt. A termékfelelősségi rendszer szerinti felelősség egyáltalán nem mentesülhet a károsult féltől. A gyakorlatban a tárgyalás a korlátozásokról, az adatvédelmi incidensek és a szellemi tulajdonjogok megsértése esetén alkalmazandó kivételekről, a szabályozási bírságok miatti kártalanításról, valamint a szállító azon kötelezettségéről szól, hogy biztosítsa az ügyfél számára a védekezéshez szükséges dokumentációt és naplókat. A kártérítési igényekről szóló oldalunk ismerteti , hogyan épülnek fel ezek az igények.
Mit tesz és mit nem a mesterséges intelligencia törvény?
A mesterséges intelligenciatörvény egy szabályozási eszköz. Megmondja a szolgáltatóknak és a telepítőknek, hogy mit kell tenniük, és felhatalmazást ad a felügyelőknek a végrehajtására; nem teremt kártérítési jogot a mesterséges intelligenciarendszer által károsult személy számára. A javasolt mesterséges intelligencia felelősségi irányelvet, amely harmonizálta volna a polgári jogi igényeket, és bevezette volna a nyilvánosságra hozatali és vélelmi szabályokat minden területen, visszavonták. Ami megmaradt, az a fent leírt kombináció: a nemzeti szerződésen kívüli kártérítési és szerződési jog, valamint a megreformált termékfelelősségi rendszer.
Ez nem teszi a mesterséges intelligenciatörvényt irrelevánssá a felelősség szempontjából. Három szempontból is fontos. Rögzíti a gondossági normát, így a meg nem felelés a gondatlanság bizonyítéka. Dokumentumokat generál, mivel a műszaki dokumentáció, a használati utasítás, a naplók és a forgalomba hozatal utáni felügyeleti fájl mind törvényileg létezik, és eljárásokban követelhető. És kiosztja a szerepköröket, így a korábban vita tárgyát képező kérdés, hogy ki a szolgáltató és ki a bevezető, most jogi választ kapott. IT jogi gyakorlatunk ezekkel az osztályozási kérdésekkel foglalkozik, mielőtt azok vitákká válnának.
Ahol a felhasználó és a termelő találkozik
A legtöbb valós incidenst nem egyetlen hiba okozza a lánc egyik végén. Egy olyan modell okozza őket, amelyet olyan adatokon képeztek ki, amelyek nem reprezentálták azt a populációt, amelyre alkalmazták, egy olyan beszállító integrálta, amely nem tesztelte azt ebben a kontextusban, egy olyan szervezet telepítette, amely olyan célra használta, amelyet az utasítások nem fedtek le, és olyan személyzet üzemeltette, akiknek soha nem mondták el a korlátait. A holland jognak nincs ezzel problémája: több fél is felelős lehet ugyanazért a kárért, mindegyik fél felelős a teljes kárért a károsult féllel szemben, és utólag rendezik a belső felelősségmegosztást egymás között a saját hozzájárulásaik szerint.
Az alábbi táblázat bemutatja, hogy jellemzően kinek a felelőssége van, és milyen alapon.
| party | A felelősség tipikus alapja | Mi dönti el az eredményt |
|---|---|---|
| Szolgáltató vagy gyártó | Termékfelelősség vétkesség nélkül; szerződéses felelősség az ügyféllel szemben. | Vajon a rendszer biztosította-e az elvárható biztonságot, és mit mondtak valójában a dokumentáció és az utasítások. |
| Az a fél, amely lényegesen módosítja | A módosított termék gyártójának pozíciójába lép. | Vajon a változtatás túlmutatott-e a tervezett célon, vagy az eredeti gyártó befolyásán kívül esett-e. |
| Telepítő szervezet | Kártérítési igény, saját gondossági kötelezettségének megszegése, felelősség az alkalmazottakért és a kisegítő személyzetért. | Az utasításoknak megfelelő használat, az emberi felügyelet minősége, a bemeneti adatok, a naplózás és a monitorozás. |
| Egyéni üzemeltető | A személyes felelősség ritka; büntetőjogi felelősségre vonás akkor következik be, ha a rendszert szándékosan használják. | Szándékosság vagy súlyos vétkesség, és hogy a munkáltató felelős-e. |
A holland gyermekgondozási ellátások ügye minden holland diskurzusban visszatérő viszonyítási pont, és inkább a mintázatot, mintsem a jogállamiságot illusztrálja: egy átláthatatlan kockázatbesorolási rendszert, a kimenetele alapján valódi egyéni értékelés nélküli döntéseket, és a következményeket, amelyek teljes mértékben a kedvezményezettekre hárultak. Jogi utóhatásai inkább adminisztratív és politikai, mint büntetőjogi jellegűek voltak, és hogy mit mutat és mit nem a büntetőjogi felelősségről, azt a mesterséges intelligenciáról és a büntetőjogról szóló cikkünkben tárgyaljuk.
A bizonyítékok problémája, és hogyan változik
Aki a keresetet benyújtja, annak bizonyítania kell azt, és a mesterséges intelligencia esetében a bizonyítás a nehéz rész. A felperesnek kell bemutatnia, hogy mit tett a rendszer, miért volt az helytelen, és hogy a helytelen cselekedet okozta a veszteséget. Az ehhez szükséges információk az alperesnél vannak, és egy összetett modellben valóban nehéz lehet ezt rekonstruálni még belsőleg is.
Három fejlemény változtatja meg ezt az egyensúlyt. A naplózás ma már jogi követelmény a magas kockázatú rendszerek esetében, így a korábban opcionális nyilvántartásnak léteznie kell. A termékszavatossági igényekben a bizonyítékok nyilvánosságra hozatala a reformált rendszerben lehetővé válik, a hibásság vélelmezésével alátámasztva, amennyiben az alperes nem tesz eleget a követelményeknek. A holland polgári eljárás pedig már lehetővé teszi a fél számára, hogy olyan meghatározott dokumentumok bemutatását követelje, amelyekhez jogos érdeke fűződik, és amelyeket rendszeresen használnak tesztjelentések, incidensnaplók és belső kockázatértékelések beszerzésére.
A vádlott számára a gyakorlati következtetés kellemetlen, de egyértelmű: a megőrzött dokumentációt fogják felolvasni Ön ellen, és a meg nem őrizett dokumentációt is felhasználják Ön ellen. A tesztelésről, az ismert korlátokról, az incidensekről és azok kezeléséről szóló teljes, dátummal ellátott, őszinte feljegyzések jelentik a legerősebb védelem, mivel ezek azt mutatják, hogy a szervezet a józan ítélőképességét gyakorolta, ahelyett, hogy a legjobbra számított volna. Amennyiben az incidensnek büntetőjogi vonatkozásai is vannak, például jogosulatlan hozzáférés a rendszerekhez vagy az adatok manipulálása, a hollandiai számítógépes bűnözésre és kiberbűnözésre vonatkozó büntetőjogi keretrendszer a polgári jogi követelés mellett alkalmazandó, és a bűnügyi nyomozás pontosan ugyanazt az anyagot foglalja le.
Autonóm rendszerek a fizikai világban
Amennyiben egy mesterséges intelligencia által vezérelt rendszer járművet irányít, drónt reptet vagy robotkart mozgat, a felelősség további rétege érvényesül, és ez általában szigorúbb, mint bármi, amiről eddig beszéltünk. A fizikai sérülés kockázati felelősséget von maga után, amely nem kérdezi meg, hogy valaki gondatlan volt-e.
Gépjárművek esetében az 1994. évi közúti közlekedési törvény 185. cikkelye a gépjármű tulajdonosát vagy üzembentartóját teszi felelőssé a gyalogosoknak és kerékpárosoknak okozott károkért, kivéve, ha vis maior történt, ami egy nagyon nehezen teljesíthető előírás. Ez a szabály független attól, hogy ember vagy vezetéstámogató rendszer kormányzott-e: az üzembentartó felel először, és a szoftver gyártójával szembeni bármilyen kártérítési igény csak ezt követően érvényesíthető. A valóban önvezető járművek közúti tesztelése engedélyt igényel a holland kísérleti jogszabályok értelmében, és az engedélyhez kapcsolódó feltételek, beleértve a felügyelő jelenlétét és szerepét, a gondossági előírás részévé válnak.
A pilóta nélküli légi járművekre az európai drónszabályozás vonatkozik, az üzemeltetők regisztrációját és a kategóriától függő követelményeket pedig Hollandiában a Rijksinspectie Digital Infrastructuur felügyeli. A kategóriáján kívül, vagy a szükséges kompetencia nélkül repülni kívánó üzemeltető nemcsak a légi közlekedési szabályokat sérti, hanem túllépi a bíróság által gondosnak minősített magatartás határait is, ami még azelőtt eldönti a gondatlanság kérdését, hogy az autopilótával kapcsolatos technikai vita egyáltalán elkezdődne.
Ezen szabályozások mellett áll a hibás tárgyakra vonatkozó általános szabály. Egy olyan ingó dolog birtokosa, amely nem felel meg a rá vonatkozó szabványoknak, és ezáltal különös veszélyt teremt, felelős a veszély okozta kárért. Ez a szabály a fizikai gépre is vonatkozik, még akkor is, ha a mögöttes hiba a szoftverében van, ami az egyik oka annak, hogy egy ipari robot vagy egy automatizált raktárrendszer tulajdonosa nem mutathat egyszerűen az eladóra. Ahol a termékfelelősségi szabályozás alkalmazandó, a két rendszer kölcsönhatásba lép, és a károsult általában azt az utat választja, amelyiket a legkönnyebben bizonyítani lehet.
Az autonóm funkciókkal rendelkező gépeket üzemeltető szervezetek számára ennek gyakorlati következménye, hogy a biztosítást és a szerződést a szigorú felelősség, nem pedig a vétkességen alapuló elemzés köré kell kötni. Érdemes igénybe venni a szállítóval szembeni kártérítési igényt, de ez nem akadályozza meg, hogy a kárigény először az ajtónkhoz érkezzen.
Az expozíció csökkentése mindkét oldalon
Az MI-rendszerek felelősségét csökkentő intézkedések ugyanazok az intézkedések, amelyek biztosítják a rendszerek megfelelő működését, ezért érdemes ezeket a szabályozási naptártól függetlenül megtenni.
Egy telepítő szervezet esetében kezdje a leltárral: mely rendszerek vannak használatban, ki szállította azokat, milyen döntéseket hoznak vagy befolyásolnak, és ki üzemelteti azokat. Határozza meg mindegyikhez a saját szerepét, mivel a szolgáltató és a telepítő feladatai eltérőek. Ezután írja le a tervezett célt, és maradjon is ennél; az elkerülhető felelősség leggyakoribb oka az eszköz olyanra való használata, amire nem hagyták jóvá. Adjon a rendszert üzemeltető embereknek valódi felhatalmazást a felülbírálására, és mérje őket a megítélésük, ne pedig a mennyiség alapján. Vezesse meg a naplókat, és őrizze meg őket elég sokáig ahhoz, hogy vitás esetekben hasznosak legyenek. Jegyezze fel az incidenseket, beleértve a majdnem baleseteket is, és jegyezze fel, hogy mit tettek velük kapcsolatban.
Egy gyártó vagy beszállító esetében az egyenértékű lista végigvonul az életcikluson: dokumentált kockázatkezelés, a szabályozó hatóságnak elmagyarázható adatkezelés, a rendszer ténylegesen használt populációjával szembeni tesztelés, a korlátozásokat és a hibaszázalékokat inkább őszintén, mintsem megnyugtatóan ismertető használati utasítások, egy csatorna, amelyen az ügyfelek bejelenthetik a problémákat, valamint egy frissítési szabályzat, amely meghatározza, hogy ki és mennyi ideig felelős a biztonsági javításokért. A megreformált termékfelelősségi rendszer ezt az utolsó pontot élesebbé teszi, mint korábban: a vállalt frissítések hiánya önmagában is hibássá teheti a terméket.
Mindkét félnek a szerződést kockázatmegosztási gyakorlatként, nem pedig formalitásként kell kezelnie. A lényeges záradékok a következők: a tervezett cél leírása, a megfelelőségi és teljesítményi garanciák, a dokumentáció és naplók átadásának kötelezettsége, az incidensértési kötelezettségek mindkét irányban, a felelősségi korlát és annak kivételei, a harmadik fél által benyújtott kártérítések és a szabályozási bírságok, valamint a kilépési megállapodások, amelyek meghatározzák, hogy mi történik a modellel és az adatokkal, ha a kapcsolat megszűnik. Az absztrakt módon, a rendszer tényleges döntésére való hivatkozás nélkül tárgyalt korlát senkit sem véd.
Végül, tartsuk szem előtt a büntetőjogi felelősségre vonás lehetőségét még akkor is, ha a közvetlen kockázat polgári jogi jellegű. Egy vállalat MI-hiba miatti büntetőeljárás alá vonása továbbra is szokatlan, de az elemek hétköznapiak: kötelesség, jogsértés, előre látható kár és egy olyan szervezet, amelyről kimutathatóan elfogadta a kockázatot. Amennyiben egy rendszert egyértelműen jogellenes dologra használnak, vagy ha egy vállalat továbbra is üzemeltet egy olyan rendszert, amelyről tudja, hogy kárt okoz, a büntetőjogi út nyitva áll, és az elemzést teljes egészében a holland büntetőjogról szóló cikkünkben , valamint az algoritmusokról és a büntetőjogi felelősségről szóló kísérőcikkben ismertetjük.
Gyakran Ismételt Kérdések
Tanúként szolgálhat egy MI a bíróságon?
A rövid válasz nem, legalábbis a jelenlegi jogi környezetben nem. A tanú fogalma alapvetően emberi. Ahhoz, hogy valaki tanú lehessen, képesnek kell lennie esküt tenni, amelyben megígéri, hogy igazat mond. Személyes ismeretekkel kell rendelkeznie a szóban forgó eseményekről, és képesnek kell lennie ellenállni a keresztkérdéseknek, ahol az emlékezetét, az érzékelését és a hitelességét vizsgálják.
Egy mesterséges intelligencia egyszerűen nem felel meg ezeknek a kritériumoknak. Nincs tudata, nem tud esküt tenni, és nincsenek személyes emlékei az emberi értelemben. Legjobb esetben is csak az általa feldolgozott adatokat tudja bemutatni. Ez sokkal inkább egy bizonyítékhoz, például egy térfigyelő kamerafelvételhez hasonlítja, mint egy tényleges tanúhoz. A mesterséges intelligencia kimenete természetesen bemutatható a bíróságon, de valójában egy emberi szakértő magyarázná el az adatokat, aki a tanú szerepét töltené be.
Mi a különbség a mesterséges intelligencia polgári jogi és büntetőjogi felelőssége között?
Ez a különbségtétel kulcsfontosságú, valahányszor egy mesterséges intelligencia kárt okoz. Bár mind a polgári, mind a büntetőügyek jogi felelősséggel járnak, céljuk, bizonyítási teherük és büntetéseik egymástól teljesen eltérőek.
Íme egy egyszerű módja annak, hogy átgondoljuk:
- Polgári felelősség: Ez arról szól, hogy egy áldozatot visszanyerjünk. A hangsúly a károk megtérítésén van, például egy hibás algoritmusból eredő anyagi veszteség vagy egy önvezető jármű okozta sérülések esetén. A bizonyítási mércéje alacsonyabb – gyakran a „valószínűségek mérlegelése”.
- Büntetőjogi felelősség: Ez a társadalommal szemben elkövetett bűn megbüntetéséről szól. Ez a bűnösséget „kétséget kizáróan” bizonyítja – ami sokkal magasabb akadály –, és súlyos büntetésekhez, például szabadságvesztéshez vagy súlyos pénzbírságokhoz vezethet.
Amikor egy mesterséges intelligencia érintett, egy vállalat polgári perrel nézhet szembe a terméke által okozott károk megtérítése érdekében. De ahhoz, hogy büntetőjogi vádakat lehessen emelni, az ügyésznek bizonyítania kell, hogy egy emberi szereplő „bűnös elmeállapotú” ( mens rea ) volt. Pontosan ezért vezetik vissza a felelősséget egy személyre, nem pedig a gépre.
Hogyan készülhet fel a szervezetem az EU mesterséges intelligencia törvényére?
Mivel az olyan szabályozások, mint az EU mesterséges intelligencia törvénye, már hatályban vannak és szakaszosan kerülnek alkalmazásra, kockázatos stratégia megvárni, amíg az utolsó kötelezettségek is hatályba lépnek. A proaktív megfelelés az egyetlen módja a jogi kockázatok hatékony csökkentésének.
Íme néhány fontos lépés a kezdéshez:
- Osztályozza mesterséges intelligencia rendszereit: Először is meg kell határoznia, hogy a mesterséges intelligencia alkalmazásai melyik kockázati kategóriába tartoznak – elfogadhatatlan, magas, korlátozott vagy minimális. Ez a besorolás fogja meghatározni a konkrét megfelelési kötelezettségeit.
- Kockázatértékelés elvégzése: Minden magas kockázatú rendszer esetében alapos értékelést kell végezni az alapvető jogokat fenyegető potenciális károk azonosítása és kezelése érdekében. Ez nem csak egy pipálás, hanem a rendszer hatásának mélyreható vizsgálata.
- Átláthatóság és dokumentáció biztosítása: Vezessen aprólékos nyilvántartást a mesterséges intelligencia tervéről, a betanításhoz használt adatkészletekről és a döntéshozatali folyamatairól. Ez a dokumentáció elengedhetetlen a megfelelőség és az elszámoltathatóság igazolásához, ha bármilyen incidens történik.
Law & More Tanácsot adunk mesterséges intelligencia rendszereket építő és azokat használó szervezeteknek a szerződésekben a kockázatmegosztásról, a mesterséges intelligencia törvény szerinti besorolásról és kötelezettségekről, valamint a kártérítési igények védelméről vagy benyújtásáról, ha egy rendszer kárt okozott. Meséljen nekünk a helyzetéről. Egy munkanapon belül tájékoztatjuk a lehetőségeiről.
