Algoritmikus menedzsment: képes-e egy algoritmus értékelni a teljesítményedet?

Az algoritmikus menedzsment, azaz a mesterséges intelligencia által vezérelt rendszerek használata az alkalmazottak monitorozására, pontozására és irányítására Hollandiában engedélyezett, de csak céges korlátokon belül. Egy algoritmus támogathatja a teljesítményértékelést; nem lehet az egyetlen alapja egy Önre jelentős hatással lévő döntésnek, például elbocsátásnak, lefokozásnak vagy bónusz megtagadásának, mivel a GDPR 22. cikke ezeket a döntéseket egy olyan emberi lény számára tartja fenn, aki valóban felülvizsgálja azokat. Ráadásul az EU mesterséges intelligencia törvénye a munkavállalók monitorozására és értékelésére használt rendszereket magas kockázatúnak minősíti, és egyenesen tiltja a mesterséges intelligencia használatát a munkavállalók érzelmeinek kikövetkeztetésére a munkahelyen.

Mi is valójában az algoritmikus menedzsment?

Az algoritmikus menedzsment az a helyzet, amelyben a szoftver – és nem egy felügyelő – végzi a megfigyelést, a mérést és gyakran az ítélkezést is. Megjelenik raktárakban és elosztóközpontokban, ügyfélkapcsolati központokban, platformmunkában, és egyre inkább a hétköznapi irodai munkakörökben is, ahol a termelékenységi eszközök beépülnek a már használt rendszerekbe. A munkáltatónak nem kell megvásárolnia egy mesterséges intelligencia alapú kezelőnek nevezett terméket ahhoz, hogy jogi kérdések merüljenek fel; elegendő egy olyan irányítópult, amely az automatikusan gyűjtött adatok alapján pontozza a munkatársakat.

Egy ilyen rendszer a számlálásban tud igazán jó lenni. Regisztrálja az elvégzett feladatokat, a kezelési időket, a válaszidőket, a szkriptek betartását, az alkalmazásban eltöltött órákat. Amit viszont nem tud, az az, hogy megértse, miért változott egy szám. Egy olyan alkalmazott, akinek a teljesítménye visszaesik, mert három hetet töltött egy új kollégája betanításával, mert az az egyetlen ügyféllel foglalkozott, amit senki más nem tudott kezelni, vagy mert a munka abban az időszakban szokatlanul összetett volt, ugyanúgy néz ki az adatokban, mint egy olyan alkalmazott, aki egyszerűen kevesebbet végzett. Ez a mérés és a jelentés közötti szakadék szinte minden jogi vita forrása ezen a területen.

Nem az a lényeg, hogy a teljesítmény mérése jogellenes. A munkáltatóknak joguk van tudni, hogyan halad a munka, és az ésszerű ellenőrzés a vállalkozás működtetésének normális része. A lényeg az, hogy a holland és az európai jog feltételeket szab a mérés elvégzésének módjához, és mindenekelőtt az eredmény felhasználásának módjához.

Hogyan pontozzák ezek a rendszerek a teljesítményedet

A mechanizmusok megértése fontos, mivel a jogaid a folyamat meghatározott szakaszaihoz kapcsolódnak. Nagy vonalakban három dolog történik: adatokat gyűjtenek, egy modell ítéletté alakítja ezeket az adatokat, és valaki vagy valami cselekszik azok alapján.

Amit a rendszer gyűjt

Az adatgyűjtés általában láthatatlan és folyamatos. Ügyfélkapcsolati környezetben a rendszer regisztrálhatja a kezelt kapcsolatfelvételek számát, az átlagos kezelési időt, az első alkalommal történő megoldást, a hívások közötti üresjárati időt és az előírt forgatókönyv betartását. Tovább is mehet, és elemezheti a tartalmat: természetes nyelvi feldolgozást alkalmazhat az e-mail- és hívásátiratokra, kulcsszó-észlelést és a beszélgetés ügyféloldali hangulatértékelését. Logisztikában ez a szkennelési arány és a komissiózás sebessége lesz; irodai munkában pedig az együttműködési eszközökben végzett aktivitás.

Ezen adatpontok mindegyike személyes adat Önről, és mindegyiket indokolni kell. A GDPR értelmében a munkáltató nem gyűjthet mindent, amit egy rendszer képes gyűjteni; az adatkezelésnek egy meghatározott célhoz szükségesnek és azzal arányosnak kell lennie. Egy olyan rendszert, amely rögzíti a billentyűleütéseket vagy időszakos képernyőképeket készít annak megállapítása érdekében, hogy ki dolgozik keményen, nagyon nehéz arányosként védeni, és az Autoriteit Persoonsgegevens (Holland Adatvédelmi Hatóság) következetesen bírálta az ilyen jellegű általános megfigyelést.

A szabályoktól a modellekig és a fekete dobozig

A legegyszerűbb rendszerek szabályalapúak. Ha az átlagos kezelési idő hetente többször meghalad egy meghatározott küszöbértéket, akkor az alkalmazottat megjelölik. Egy ilyen rendszer merev és kontextustól mentes, de van egy jelentős erénye: elolvashatja a szabályt, és pontosan láthatja, miért jelölték meg, ami lehetővé teszi a vitát róla.

A gépi tanulási modellek másképp működnek. A jól és rosszul teljesítő személyek korábbi adatain alapulnak, és kikövetkeztetik azokat a mintákat, amelyek korrelálnak ezekkel az eredményekkel. Ez hatékonyabb és lényegesen kevésbé átlátható módszer. Előfordulhat, hogy a modell valami olyasmit vesz alapul, aminek semmilyen védhető kapcsolata nincs a teljesítménnyel, és sem a munkáltató, sem néha a beszállító nem tudja pontosan megmondani, hogy egy adott pontszám miért úgy alakult, ahogy.

Ez az átláthatatlanság az, amit általában fekete doboz problémának neveznek, és jogi környezetben inkább végzetes, mint pusztán kellemetlen. Az a munkáltató, aki nem tudja elmagyarázni az adómegállapítás alapját, nem tud eleget tenni annak a kötelezettségének, hogy érdemi tájékoztatást adjon az alkalmazott logikáról, nem tudja megfelelően megvédeni az adómegállapítást, ha azt vitatják, és nem tudja bizonyítani, hogy az mentes a diszkriminatív hatástól. A gyakorlatban, ha nem tudjuk elmagyarázni, akkor nem is tudunk rá hivatkozni.

Amit a GDPR előír egy mesterséges intelligencia teljesítménynövelő rendszerrel szemben

A GDPR az első és mind a mai napig a legpraktikusabb eszköz ezen a területen, mivel minden olyan munkáltatóra vonatkozik, amely munkavállalói adatokat kezel, és évek óta alkalmazzák. Négy szabálya végzi a munka nagy részét.

22. cikk: nem hozhatnak jelentős döntéseket kizárólag gépek

Az Általános Adatvédelmi Rendelet (GDPR) 22. cikke mindenkinek jogot biztosít ahhoz, hogy ne terjedjen ki rá az olyan, kizárólag automatizált adatkezelésen – beleértve a profilalkotást is – alapuló döntés hatálya, amely rá nézve joghatással jár, vagy őt hasonlóan jelentős mértékben érinti. Az elbocsátás, a szerződés meg nem hosszabbítása, a lefokozás, a bónusz visszatartása és az előléptetés megtagadása mind ebbe a körbe tartozik.

Két szónak van súlya. Ez csupán azt jelenti, hogy egy emberi lény, aki csupán megerősíti a rendszer javaslatát, nem vonja ki a 22. cikkből a döntést; a felügyeleti hatóságok évek óta világossá teszik, hogy a gumibélyegző nem emberi beavatkozás. Az érdemi részvételhez olyan felülvizsgálóra van szükség, akinek felhatalmazása van eltérő következtetésre jutni, aki rendelkezik az eset értékeléséhez szükséges kompetenciával, és akinek van ideje ezt megtenni. A „jelentős hatással van” kifejezést tág értelemben kell értelmezni, és nem igényel hivatalos jogi következményt: egy pontozási rendszer, amely meghatározza, hogy mely műszakokat vagy feladatokat ajánlják fel, elég jelentősen befolyásolhatja Önt ahhoz, hogy elköteleződjön a cikk mellett.

Amennyiben a 22. cikk alkalmazandó, a munkáltatónak minden esetben biztosítania kell az előírt garanciákat: a jogot emberi beavatkozás kérésére, a véleménynyilvánításhoz és a döntés megtámadásához.

Átláthatóság, hozzáférés és a kapcsolódó logika

A munkavállalókat a rendszer létezéséről és annak működéséről előzetesen tájékoztatni kell. Amennyiben a 22. cikk értelmében automatizált döntéshozatal történik, a munkáltatónak érdemi információkat kell nyújtania az alkalmazott logikáról, valamint az adatkezelés jelentőségéről és várható következményeiről. Ugyanezek az információk utólag is kérhetők hozzáférési kérelem útján, amely feljogosítja Önt a róla kezelt személyes adatok másolatának megszerzésére is: a pontszámokra, az alapul szolgáló mérésekre és a rendszer által Önnek rendelt kategóriákra.

Azt, hogy mi számít értelmesnek, a formaságok helyett a tartalom irányába rendezték. Nem a technológia leírásáról van szó, hanem annak magyarázatáról, hogy mely tényezőket használták fel, és azok hogyan súllyal estek bele, olyan szavakba öntve, amelyeket az érintett személy ténylegesen megért és amelyek alapján cselekedni tud.

Jogalap, hozzájárulás és az adatvédelmi hatásvizsgálat

Minden adatkezelési művelethez jogalap szükséges. A foglalkoztatás kontextusában a hozzájárulás ritkán alkalmazható, pontosan a munkáltató és a munkavállaló közötti függőség miatt: a következmények nélkül megtagadhatatlan hozzájárulás nem önkéntes. A munkáltatók ezért általában a munkaszerződés teljesítéséhez szükséges adatkezelésre, jogi kötelezettségre vagy jogos érdekre hivatkoznak, és ezek közül az utóbbi a kitűzött érdek és a munkaerő magánéletének dokumentált mérlegelését igényli.

Mivel az ilyen mértékű teljesítménymérés az emberek szisztematikus és széleskörű, automatizált feldolgozáson alapuló értékelését foglalja magában, az adatvédelmi hatásvizsgálat elvégzése nem opcionális. A rendszer éles indulása előtt szükséges, és le kell írnia az adatkezelést, indokolnia kell annak szükségességét és arányosságát, azonosítania kell a munkavállalókat fenyegető kockázatokat, és meg kell határoznia az azok kezelésére szolgáló intézkedéseket. Az értékelést kihagyó munkáltatók általában később, vitában fedezik fel a problémákat, amikor a döntések már nem korrigálhatók csendben.

Meddig mehet el a munkáltató az ellenőrzés során?

A teljesítménypontozás nem választható el az azt tápláló ellenőrzéstől, és az ellenőrzésnek megvannak a maga korlátai. Az alkalmazott nem adja fel a magánéletét az iroda ajtaján: az Emberi Jogok Európai Bírósága a Barbulescu kontra Románia ügyben kimondta, hogy az alkalmazott kommunikációjának ellenőrzése magában foglalja az Egyezmény 8. cikke szerinti magánélet és levelezés tiszteletben tartásához való jogot, és hogy a munkáltatónak előzetesen tájékoztatnia kell az alkalmazottat az ellenőrzés jellegéről és mértékéről, jogos célt kell követnie, és a legkevésbé tolakodó eszközt kell választania annak eléréséhez. A munkaerő titkos ellenőrzése kivételes, és konkrét gyanút, korlátozott időtartamot és dokumentált értékelést igényel, amelyet semmilyen enyhébb intézkedés nem tenne meg.

Egy algoritmikus menedzsment projektre lefordítva ez azt jelenti, hogy a munkáltatónak minden adatfolyammal kapcsolatban három kérdésre kell tudnia válaszolni: miért van szükség ezekre az adatokra a megadott célra, miért nem érné el ezt egy kevésbé tolakodó mérés, és hogy előre tájékoztatták-e a munkavállalókat. A folyamatos képernyőrögzítés, a billentyűleütések naplózása és a munkaidőn kívüli helymeghatározás a legtöbb szokásos foglalkoztatási környezetben nem ad választ ezekre a kérdésekre.

Hiányzás, betegség és különleges kategóriájú adatok

Egy kategória különös óvatosságot érdemel. Az egészségügyi adatokat feltáró adatok a GDPR értelmében különleges kategóriájú adatoknak minősülnek, és elvileg egyáltalán nem dolgozhatók fel, szűk kivételektől eltekintve. A betegszabadságra vonatkozó holland szabályok szigorúak: a munkáltató regisztrálhatja, hogy egy alkalmazott távol van, és hogy mennyi ideig, de a betegség jellege, a diagnózis és a korlátozások a bedrijfsarts (céges orvos) hatáskörébe tartoznak, nem pedig a munkáltatóhoz. Egy olyan teljesítményértékelési rendszer, amely a hiányzási mintákból, a gépelési sebességből, a szünetekből vagy a hangnemből következtet az egészségügyi állapotra, következtetés útján dolgozza fel az egészségügyi adatokat, és az a tény, hogy senki sem gépelt bele diagnózist, nem számít.

Ugyanez a figyelmeztetés vonatkozik azokra a rendszerekre is, amelyek pontszámait a védett távollétek, például a terhesség, a szülői szabadság vagy a gondozási szabadság befolyásolják. Ha a modell ezeket az időszakokat alulteljesítésként kezeli, a munkáltató nemcsak érzékeny adatokat dolgoz fel, hanem egy törvényben biztosított jogot hátránnyá alakít.

A végrehajtás felső szintje

Az alapelvek, az adatkezelés jogszerűségének és az érintettek jogainak megsértése a GDPR 83. cikkének felsőbb pontjába tartozik, amely a rendelet legsúlyosabb kategóriája. A mindennapi gyakorlat szempontjából ugyanilyen fontos, hogy egy olyan értékelésre, amelyet e szabályok megsértésével készítettek, nehéz támaszkodni egy munkaügyi vitában: egy bíróság, amelyet a munkaszerződés alulteljesítés miatti megszüntetésére kérnek, látni szeretné, hogyan állapították meg az alulteljesítést.

Mit ad hozzá a mesterséges intelligencia törvény a munkáltatók és a munkavállalók számára?

Az EU mesterséges intelligencia törvénye hatályba lépett és szakaszosan alkalmazandó, így a kérdés már nem az, hogy egyáltalán sor kerül-e rá, hanem az, hogy mely kötelezettségei érvényesülnek már. Két rétege számít itt.

Az első a tiltott gyakorlatok listája, amely a törvény legkorábbi szakasza óta érvényben van. Tartalmaz egy közvetlenül a munkahelyre irányuló szabályt: tilosak a munkahelyen és oktatási intézményekben egy természetes személy érzelmeinek kikövetkeztetésére használt mesterséges intelligenciarendszerek, kivéve, ha a rendszert orvosi vagy biztonsági okokból szánják bevezetni vagy forgalomba hozni. Az olyan szoftverek, amelyek a munkavállalók hangulatát, stressz-szintjét, elkötelezettségét vagy őszinteségét a hangjuk, arcuk vagy írásuk alapján mérik, ezért nem minősülnek kezelni kívánt megfelelési problémának. Ez nem tartozik a hatókörbe, és a szűk körű orvosi és biztonsági kivétel nem terjed ki a termelékenységmenedzsmentre. Gondosan figyeljünk a határokra: az ügyfél szavainak hangulatelemzése más kérdés, mint a munkavállaló érzelmeinek kikövetkeztetése.

A második réteg a magas kockázatú rendszer. A mesterséges intelligenciatörvény III. melléklete magas kockázatúként jelöli meg többek között azokat a mesterséges intelligenciarendszereket, amelyeket a munkaviszony feltételeit befolyásoló döntések meghozatalára, az ilyen kapcsolatok előmozdítására vagy megszüntetésére, a feladatok egyéni viselkedés vagy személyes tulajdonságok alapján történő elosztására, valamint a munkavállalók teljesítményének és viselkedésének nyomon követésére és értékelésére használnak. Egy mesterséges intelligencia teljesítményértékelési eszköz pontosan ebbe a leírásba tartozik. A digitális omnibusz csomag keretében a III. mellékletben szereplő rendszerek magas kockázatú kötelezettségeinek alkalmazási határidejét elhalasztották, így a munkáltatóknak több idejük van a felkészülésre; a tilalmak, az általános célú mesterséges intelligenciamodellekre vonatkozó szabályok és az 50. cikk átláthatósági kötelezettségei már érvényesek.

Egy kötelezettség külön említést érdemel, mivel a munkáltatók rendszeresen figyelmen kívül hagyják. A munkáltatóként működő alkalmazóknak a tájékoztatásra és konzultációra vonatkozó szabályoknak megfelelően tájékoztatniuk kell a munkavállalók képviselőit és az érintett munkavállalókat, mielőtt egy magas kockázatú MI-rendszert üzembe helyeznének a munkahelyen. Ez egy olyan tájékoztatási kötelezettség, amely a GDPR átláthatósági kötelezettségeivel és az üzemi tanács holland jog szerinti jogaival párhuzamosan, de nem helyettesíti azokat. A törvény és annak ütemtervének részletesebb ismertetését lásd a mesterséges intelligencia jogi oldaláról és az uniós MI-törvényről szóló cikkünkben.

Ki a felelős: a beszállító vagy a munkáltató?

A munkaadók gyakran feltételezik, hogy mivel a szoftvert egy speciális beszállítótól vásárolták, a beszállító viseli a jogi kockázatot. A felelősségmegosztás egyik keretrendszere sem így működik.

A GDPR értelmében a munkáltató dönti el, hogy miért és hogyan kezeli a munkavállalói adatokat, és így ő az adatkezelő. A munkáltató utasításai alapján a rendszert futtató beszállító adatfeldolgozó, és a kapcsolatot adatfeldolgozási megállapodásban kell rögzíteni, de a munkáltató tartozik az átláthatóság, a jogszerűség és az emberi felügyelet kötelezettségeivel saját alkalmazottai felé, és a munkáltató felel az Autoriteit Persoonsgegevensnek és maguknak a munkavállalóknak.

A mesterséges intelligenciatörvény hasonló határvonalat húz a szolgáltató, aki kifejleszti és forgalomba hozza a mesterséges intelligenciarendszert, és a bevezető között, aki saját hatáskörben használja azt. A vásárolt eszközt használó munkáltató általában bevezetőnek minősül, és bevezetési kötelezettségeket visel, beleértve a rendszer utasításoknak megfelelő használatát, a szükséges szakértelemmel és hatáskörrel rendelkező személyek általi megfelelő szintű emberi felügyelet biztosítását, a működés ellenőrzését és a munkavállalók tájékoztatását. Az a munkáltató, amely saját nevét adja a rendszerhez, vagy jelentősen módosítja azt, illetve megváltoztatja a rendeltetését, szolgáltatóvá válhat, és vállalhatja az ezzel a szereppel járó sokkal súlyosabb kötelezettségeket.

A beszerzésre vonatkozó gyakorlati következmény az, hogy a szerződést e szerepkörök figyelembevételével kell értelmezni. A munkáltatónak szüksége van arra, hogy a beszállító biztosítsa a megfelelést lehetővé tevő információkat, és szkeptikusnak kell lennie minden olyan termékkel szemben, amely nem tudja megmagyarázni saját termelését, mivel a magyarázat kötelezettsége a munkáltatóra hárul, függetlenül attól, hogy mit mond az engedély.

Platformmunka: egy plusz szabályréteg

A digitális munkaerő-platformokon keresztül dolgozók számára egy további eszköz van úton. A platformmunkakörülmények javításáról szóló (EU) 2024/2831 irányelv egy teljes fejezetet szentel az algoritmikus menedzsmentnek. Kötelezi a platformokat, hogy tájékoztassák a munkavállalókat a munkakörülményeiket jelentősen befolyásoló automatizált felügyeleti és döntéshozatali rendszerekről, korlátozza bizonyos adatkategóriák, köztük az érzelmi és pszichológiai állapotra vonatkozó adatok, valamint a magánbeszélgetésekre vonatkozó adatok feldolgozását, előírja e rendszerek hatásainak emberi felügyeletét, és jogot biztosít a munkavállalóknak a jelentős döntések, például a fiók korlátozásának vagy felfüggesztésének magyarázatához és emberi felülvizsgálatához. Figyelemre méltó, hogy ezek közül a biztosítékok közül több a platformmunkát végző személyekre is vonatkozik, függetlenül attól, hogy munkavállalónak minősülnek-e vagy sem.

A tagállamoknak 2026. december 2-ig kell átültetniük az irányelvet. Amíg a nemzeti végrehajtási jogszabályok hatályba nem lépnek, a GDPR és a mesterséges intelligencia törvénye marad az irányadó, és követelményeik már most is nagyrészt ugyanazt a területet fedik le.

Holland munkajog: egy algoritmus nem szüntetheti meg a szerződést

Az európai adatvédelmi és mesterséges intelligencia szabályok szabályozzák a rendszer működését. A holland munkajog szabályozza, hogy egy munkáltató mit tehet a kimenetével, és ez a törvény jóval szigorúbb, mint amit a legtöbb algoritmikus menedzsment projekt feltételez.

Hollandiában egy munkáltató nem mondhat fel egyszerűen egy munkaszerződést. A felmondáshoz a Holland Polgári Törvénykönyv 7:669. cikkében felsorolt ​​​​észszerű ok szükséges, és az októl függően az UWV előzetes engedélye vagy a kantonrechter (alkerületi bíróság) határozata szükséges. Az alulteljesítés az egyik ilyen ok, és ez egy követelő ok. A munkáltatónak bizonyítania kell, hogy az alkalmazott nem alkalmas a szerepkörre, hogy az alkalmazottat erről kellő időben tájékoztatták, és hogy valódi lehetőséget kínáltak a fejlődésre, adott esetben támogatással. A munkaügyi helyzetfelmérés nem minősül fejlődési folyamatnak, és a bíróság megkérdezi, hogy miről, mikor és milyen segítséget kaptak. A holland munkajogról szóló útmutatónk részletesebben ismerteti az elbocsátás keretrendszerét.

A diszkriminációs törvény az eredményre vonatkozik, nem a szándékra. Ha egy rendszer a munkavállalókat olyan okokból hátrányos megkülönböztetésbe hozza, mint a nem, a faj, az életkor, a vallás, a fogyatékosság vagy a krónikus betegség, az jogellenes az Algemene wet gelijke behandeling (Általános Egyenlő Bánásmód Törvénye), valamint az életkorra és a fogyatékosságra vonatkozó konkrét egyenlő bánásmódról szóló törvények értelmében, függetlenül attól, hogy bárki szándékosan is ezt az eredményt hozta-e létre. A korábbi képzési adatok a szokásos bűnösök: egy olyan modell, amelyet a múltban előléptetett személyek alapján képeztek ki, a múltbeli preferenciákat reprodukálja. Azok a rendszerek, amelyek a nyers rendelkezésre állást vagy a teljesítményt mérik az idő múlásával, hajlamosak büntetni azokat a munkavállalókat is, akik szülői szabadságot vettek igénybe, csökkentett munkaidőben dolgoztak, vagy betegség miatt hiányoztak, és pontosan az egyenlő bánásmódról szóló törvény tiltja, hogy egy munkavállalót azért büntetnek, mert gyakorolja a törvényes jogát.

Az üzemi tanácsnak bele kell egyeznie

Egy olyan vállalatnál, ahol üzemi tanács működik, a munkáltatónak többre van szüksége, mint pusztán jó szándékra. Az üzemi tanácsokról szóló törvény (Wet op de ondernemingsraden) 27. cikke előírja az ondernemingsraad (üzemi tanács) hozzájárulását a megállapodások elfogadásához, módosításához vagy visszavonásához, beleértve a személyzet értékelésére, a munkavállalók személyes adatainak kezelésére és védelmére, valamint a személyzet jelenlétének, magatartásának vagy teljesítményének megfigyelésére vagy ellenőrzésére szolgáló vagy arra alkalmas létesítményekre vonatkozó megállapodásokat is. Egy mesterséges intelligencia által vezérelt teljesítménymérő rendszer mindhármat egyszerre alkalmazza.

A beleegyezés itt nem formalitás. A szükséges beleegyezés nélkül hozott döntést az üzemi tanács semmisnek nyilváníthatja, és a munkáltatót megakadályozhatja annak alkalmazásában. Azoknak a munkavállalóknak, akik úgy érzik, hogy egy rendszert rájuk erőltettek, az üzemi tanács gyakran a leggyorsabb és leghatékonyabb módja a változásnak, jóval azelőtt, hogy bárki pereskedésen gondolkodna.

Amit a bíróságok eddig eldöntöttek

A joggyakorlat még fejlődésben van, de két holland ítélet már meghatározta az irányt, és mindkettőre Hollandián túl is hivatkoznak.

Az Uber és az Ola ítéletek

2023. április 4-én a Gerechtshof Amsterdam (Amsterdam A Fellebbviteli Bíróság) egy sor, sofőr által az Uber és az Ola ellen indított ügyben döntött. A sofőrök tudni akarták, hogy miért deaktiválták fiókjaikat, és hogyan osztják el hozzájuk a munkát és az árakat. A bíróság nagyrészt a javukra döntött az információs pontokon. Azokat a sofőröket, akik elvesztették a platformhoz való hozzáférésüket, és ezzel együtt a jövedelmüket is, jelentősen érintette az automatizált döntéshozatal, és a vállalatok nem tagadhatták meg a magyarázatot üzleti titkokra vagy a manipuláció kockázatára hivatkozva anélkül, hogy alátámasztották volna kifogásukat.

A bíróság konkrétumokat követelt: nem a technológia általános leírását, hanem a felhasznált tényezőkről és azok súlyozásáról szóló információkat, hogy az érintett személy megérthesse és vitathassa az eredményt. Ez az a szabvány, amelyet a munkáltatóknak a teljesítményalgoritmusokra is alkalmazniuk kellene. Ha a rossz pontszámok kérdésére az a válasz, hogy a modell határozta meg, akkor nem teljesítette a szabványt.

A SyRI ítélet

A második eset nem munkaügyi vita volt, de az érvelése a munkahelyekre is kiterjedt. A Rechtbank Den Haag (Hágai ​​Kerületi Bíróság) 2020. február 5-i ítéletében (ECLI:NL:RBDHA:2020:865) kimondta, hogy a SyRI, a juttatási és adócsalás felderítésére használt kormányzati kockázatjelző rendszer alapjául szolgáló jogszabály nem felelt meg az Emberi Jogok Európai Egyezménye 8. cikkének. A rendszer nem volt kellően átlátható és ellenőrizhető: kívülállók közül senki sem tudta megállapítani, hogyan került egy személy megjelölésére, ami lehetetlenné tette a védekezést ellene.

Az elv általános. Egy olyan rendszer, amelynek működését nem lehet megvizsgálni, nem vitatható, és egy olyan döntés, amelyet nem lehet vitatni, nem tisztességes döntés. Egy olyan munkáltató, amely egy olyan modellre kívánja alapozni az értékeléseket, amelyet sem az alkalmazott, sem a munkáltató nem tud megmagyarázni, ugyanarra az alapra épít, amely abban az esetben kudarcot vallott. Az automatizált magatartásért való felelősség kérdései túlmutatnak a munkajogon, amint azt a mesterséges intelligenciáról és a büntetőjogról szóló cikkünk is mutatja.

Az Ön jogai, ha egy algoritmus pontoz téged

Ha egy mesterséges intelligencia rendszer segítségével értékelnek, akkor konkrét és érvényesíthető jogokkal rendelkezel, és nem kell bizonyítanod, hogy a rendszer téves, mielőtt használhatnád azokat.

Megkérdezheti, hogy milyen adatokat tárolnak Önről, és kérhet másolatot azokról, beleértve az értékelés alapjául szolgáló méréseket és az azokból származó pontszámokat is. Érdemi információkat kérhet a rendszer logikájáról, a számító tényezőkről és azok súlyozásáról. Amennyiben jelentős hatású döntést automatizált eszközökkel hoztak, kérhet emberi beavatkozást, elmondhatja saját álláspontját, és vitathatja a döntést. Kijavíttathatja a pontatlan adatokat, ami fontosabb, mint amilyennek hangzik: a rendszerek által rögzített adatok nagy része egyszerűen hibás, a rosszul naplózott hiányzásoktól kezdve a rossz személynek tulajdonított munkákig.

Hogyan lehet a gyakorlatban megtámadni egy automatizált értékelést

Mielőtt felvetnéd a saját álláspontodat, kezdd azzal, hogy dokumentálod. Jegyezd fel, hogy az értékelés mely konkrét munkákat hagy figyelmen kívül, azokat az időszakokat, amikor a körülmények szokatlanok voltak, valamint minden olyan hiányzást, szabadságot vagy áthelyezést, amely olyan okokból csökkentené a számokat, amelyeknek semmi közük a teljesítményedhez. Az egykorú feljegyzések sokkal többet érnek, mint egy hat hónappal későbbi rekonstrukció.

Ezután írásban nyújtsd be a kérelmet a munkáltatódnak, amelyben kijelented, hogy gyakorolod a GDPR szerinti jogaidat, kérd az értékelésed során felhasznált adatokat és a logika magyarázatát, valamint kérj egy emberi felülvizsgálatot egy olyan személytől, aki jogosult eltérő következtetés levonására. Állíts be ésszerű határidőt; a GDPR előírja a munkáltató számára, hogy egy hónapon belül válaszoljon, ami összetett esetekben meghosszabbítható. A hangnem maradjon tényszerű, mert ez a levelezés általában bizonyítékként szolgál.

Ha a munkáltató nem reagál megfelelően, panaszt nyújthat be az Autoriteit Persoonsgegevenshez, és a vitát bíróság elé viheti. Amennyiben az értékelést elbocsátás vagy a munkaszerződés feltételeinek megváltoztatása alátámasztására használják, a foglalkoztatási út általában a hatékonyabb, és rövid határidőkkel jár, ezért érdemes időben konzultálnia. A GDPR szerinti adatvédelemről a mesterséges intelligencia és a big data korában szóló cikkünk ismerteti az alapul szolgáló keretrendszert.

Mit kell tennie a munkáltatónak a rendszer bekapcsolása előtt?

A munkáltatók számára a megfelelés ezen a területen többnyire sorrendiség kérdése. Szinte minden komoly probléma azért merül fel, mert először beszereztek és telepítettek egy rendszert, és csak utána tették fel a jogi kérdéseket.

Kezdjük a céllal. Írjuk le, hogy mit próbál valójában elérni a szervezet, és mely döntéseket fogja befolyásolni a rendszer, mert minden más ebből következik: az igazolható adatok, a jogalap, a kockázatértékelés és a szükséges emberi felügyelet szintje. Egy olyan rendszer, amelyet az ütemezés javítása érdekében vásároltak, majd csendben egy elbocsátási akt felépítésére használnak, a jogellenes adatfeldolgozási művelet klasszikus útja.

Az adatvédelmi hatásvizsgálatot a telepítés előtt kell elvégezni, ne pedig egy később elkészített dokumentumként, egy már meghozott döntés igazolására, és az eredményt rögzíteni kell. A jogalap megállapítása és dokumentálása, szem előtt tartva, hogy a munkavállalói hozzájárulás ritkán áll fenn. Határozza meg, hogy a rendszer a mesterséges intelligencia törvény magas kockázatú kategóriájába tartozik-e, és ha igen, térképezze fel a bevezetővel kapcsolatos kötelezettségeket, beleértve a munkavállalói képviselők és az érintett munkavállalók tájékoztatásának kötelezettségét. Az üzemi tanácsok hozzájárulásának megszerzése, amennyiben az üzemi tanácsokról szóló törvény 27. cikke alkalmazandó, és a vizsgálatot elég korán kell bevonni ahhoz, hogy a közreműködése alapján valami megváltozhasson.

Ezután tervezze meg a 22. cikk által előírt felügyeletet, és tesztelje, hogy az valós-e. Kérdezzétek meg, hogy ki vizsgálja felül a kimenetet, hogy az illető felül tudja-e bírálni azt anélkül, hogy meg kellene indokolnia az eltérést egy felettesnek, hogy rendelkezik-e a megítéléshez szükséges kontextussal, és hogy van-e ideje rá. Ha az őszinte válasz az, hogy a felülvizsgáló délutánonként száz esetet dolgoz fel, akkor a szervezetnél nincs emberi felügyelet; van egy aláírása.

Végül, a szándékok helyett az eredményeket tesztelje. A rendszer eredményeit védett jellemzők és munkarend szerint vizsgálja, és különösen azokat az alkalmazottakat vizsgálja meg, akik részmunkaidőben dolgoznak, szabadságon vannak vagy betegek. Biztosítson egyértelmű utat az alkalmazottaknak az értékeléssel kapcsolatos kérdések megválaszolására, és rögzítse, hogy mi történik ezekkel a kihívásokkal. Őrizze meg a dokumentációt, mert a megfelelés bizonyításának terhe a munkáltatót terheli, és vitás esetekben az irattár a védekezés.

Hol tart ez téged?

Az algoritmikus menedzsment nem tiltott, és nem is fog eltűnni. A törvény lényege, hogy határvonalat húz a mérés és az ítélkezés között. A rendszerek számolhatnak, összehasonlíthatnak és jelezhetnek; az embereknek dönteniük, magyarázniuk és felelősséget kell vállalniuk. A munkavállalóknak joguk van tudni, hogy egy ilyen rendszer értékeli őket, megérteni, hogy mit mér, és hogy egy ember újra megvizsgáljon minden olyan döntést, amely lényegesen érinti őket. Azok a munkaadók, akik elfogadják ezt a munkamegosztást, magabiztosan használhatják ezeket az eszközöket. Azok, akik a műszerfalra bízzák a döntést, azt fogják tapasztalni, hogy sem az Autoriteit Persoonsgegevens, sem a kantonrechter nem fogadja el a kimenetet a megfelelő értékelés helyettesítőjeként.

Law & More Tanácsot adunk a munkáltatóknak a mesterséges intelligencia teljesítménymenedzsmentben való alkalmazásáról, a hatásvizsgálattól és az üzemi tanács eljárásától kezdve az emberi felügyelet megtervezéséig, és tanácsot adunk azoknak az alkalmazottaknak, akik olyan automatizált értékeléssel szembesülnek, amelyet igazságtalannak tartanak. Ha algoritmust használnak az Ön vagy munkatársai munkájának megítélésére, örömmel áttekintjük Önnel a pozíciót.

Gyakori kérdések a mesterséges intelligencia teljesítményértékeléseivel kapcsolatban