Pamamahala ng algorithm: masusuri ba ng isang algorithm ang iyong pagganap?

Ang pamamahala ng algorithm, ang paggamit ng mga sistema ng AI upang subaybayan, bigyan ng marka, at gabayan ang mga empleyado, ay pinahihintulutan sa Netherlands ngunit sa loob lamang ng mga limitasyon ng kompanya. Maaaring suportahan ng isang algorithm ang isang pagtatasa ng pagganap; maaaring hindi ito ang tanging batayan para sa isang desisyon na may malaking epekto sa iyo, tulad ng pagtanggal sa trabaho, pagbaba ng posisyon, o pagtanggi sa isang bonus, dahil ang artikulo 22 ng GDPR ay nakalaan ang mga desisyong iyon para sa isang taong tunay na susuri sa mga ito. Bukod pa rito, inuuri ng EU AI Act ang mga sistemang ginagamit upang subaybayan at suriin ang mga manggagawa bilang mga high-risk, at tahasan nitong ipinagbabawal ang paggamit ng AI upang mahulaan ang mga emosyon ng mga empleyado sa lugar ng trabaho.

Ano nga ba ang pamamahala ng algoritmo

Ang pamamahala ng algorithm ay ang sitwasyon kung saan ang software, sa halip na isang superbisor, ang gumagawa ng pagmamasid, pagsukat at kadalasan ay paghatol. Lumilitaw ito sa mga bodega at mga sentro ng pamamahagi, sa mga sentro ng pakikipag-ugnayan sa customer, sa trabaho sa platform, at lalong dumarami sa mga ordinaryong tungkulin sa opisina kung saan ang mga kagamitan sa produktibidad ay nakapaloob sa mga sistemang ginagamit na ng mga tao. Hindi kailangang bumili ang employer ng isang produktong tinatawag na AI manager para lumitaw ang mga legal na katanungan; sapat na ang isang dashboard na awtomatikong nagbibigay ng marka sa mga tauhan batay sa datos na nakolekta.

Ang mahusay na nagagawa ng ganitong sistema ay ang pagbibilang. Itinatala nito ang mga natapos na gawain, oras ng paghawak, oras ng pagtugon, pagsunod sa isang script, at mga oras na naka-log in sa isang application. Ang hindi nito magagawa ay unawain kung bakit lumipat ang isang numero. Ang isang empleyado na bumaba ang output dahil gumugol siya ng tatlong linggo sa pagsasanay sa isang bagong kasamahan, dahil hinahawakan nito ang isang kliyente na walang ibang makakapamahala, o dahil ang trabaho sa panahong iyon ay hindi pangkaraniwang kumplikado, ay mukhang pareho sa datos ng isang empleyado na mas kaunti lang ang nagawa. Ang agwat sa pagitan ng pagsukat at kahulugan ang siyang pinagmumulan ng halos bawat legal na hindi pagkakaunawaan sa lugar na ito.

Ang punto ay hindi labag sa batas ang pagsukat ng pagganap. Ang mga employer ay may karapatang malaman kung paano tumatakbo ang trabaho, at ang makatwirang pagsubaybay ay isang normal na bahagi ng pagpapatakbo ng isang negosyo. Ang punto ay ang batas ng Dutch at Europeo ay naglalagay ng mga kondisyon sa paraan ng pagsasagawa ng pagsukat at, higit sa lahat, sa paraan ng paggamit ng output nito.

Paano sinusuri ng mga sistemang ito ang iyong pagganap

Mahalaga ang pag-unawa sa mekanismo, dahil ang iyong mga karapatan ay kalakip ng mga partikular na yugto ng proseso. Sa pangkalahatan, tatlong bagay ang nangyayari: kinokolekta ang datos, ginagawang isang paghatol ng isang modelo ang datos na iyon, at may isang tao o isang bagay na kumikilos batay dito.

Ang kinokolekta ng sistema

Karaniwang hindi nakikita at tuluy-tuloy ang pangongolekta. Sa isang kapaligiran ng pakikipag-ugnayan sa customer, maaaring irehistro ng sistema ang bilang ng mga kontak na hinawakan, average na oras ng paghawak, unang beses na paglutas, idle time sa pagitan ng mga tawag, at pagsunod sa itinakdang script. Maaari pa itong sumulong at suriin ang nilalaman: natural language processing na inilalapat sa email at mga transcript ng tawag, pagtukoy ng keyword, at pagmamarka ng sentimento sa panig ng customer sa pag-uusap. Sa logistik, ito ay ang mga scan rate at bilis ng pagpili; sa trabaho sa opisina, aktibidad sa mga tool sa pakikipagtulungan.

Ang bawat isa sa mga puntong ito ng datos ay personal na datos tungkol sa iyo, at ang bawat isa ay kailangang may katwiran. Sa ilalim ng GDPR, hindi maaaring kolektahin ng isang employer ang lahat ng bagay na kayang kolektahin ng isang sistema; ang pagproseso ay dapat na kinakailangan para sa isang tinukoy na layunin at proporsyonal dito. Ang isang sistemang nagtatala ng mga keystroke o kumukuha ng mga pana-panahong screenshot upang matukoy kung sino ang nagsusumikap ay napakahirap ipagtanggol bilang proporsyonal, at ang Autoriteit Persoonsgegevens (Dutch Data Protection Authority) ay palaging kritikal sa ganitong uri ng pangkalahatang pagsubaybay.

Mula sa mga patakaran hanggang sa mga modelo, at ang itim na kahon

Ang pinakasimpleng mga sistema ay nakabatay sa mga tuntunin. Kung ang average na oras ng paghawak ay lumampas sa itinakdang limitasyon nang higit sa itinakdang bilang ng beses sa isang linggo, ang empleyado ay minarkahan. Ang ganitong sistema ay mahigpit at bulag sa konteksto, ngunit mayroon itong isang mahalagang kabutihan: mababasa mo ang tuntunin at makikita nang eksakto kung bakit ka minarkahan, na nagbibigay-daan sa pagtatalo tungkol dito.

Iba-iba ang paggana ng mga modelo ng machine learning. Sinasanay ang mga ito batay sa mga datos na nauna tungkol sa kung sino ang mahusay na nagsagawa at kung sino ang hindi, at hinuhulaan nila ang mga pattern na nauugnay sa mga kinalabasang iyon. Mas makapangyarihan ito at hindi gaanong transparent. Maaaring nakatuon ang modelo sa isang bagay na walang maipagtatanggol na kaugnayan sa pagganap, at hindi masasabi ng employer o ng supplier kung bakit ganoon ang naging resulta ng isang partikular na iskor.

Ang opacity na iyan ang karaniwang tinatawag na black box problem, at sa isang legal na konteksto, ito ay nakamamatay sa halip na basta abala lamang. Ang isang employer na hindi makapagpaliwanag ng batayan ng isang pagtatasa ay hindi maaaring sumunod sa tungkulin na magbigay ng makabuluhang impormasyon tungkol sa lohikang kasangkot, hindi maaaring maayos na ipagtanggol ang pagtatasa kung ito ay hamunin, at hindi maaaring ipakita na ito ay walang diskriminasyon. Sa pagsasagawa, kung hindi mo ito maipaliwanag, hindi ka maaaring umasa dito.

Ang mga kinakailangan ng GDPR sa isang sistema ng pagganap ng AI

Ang GDPR ang una at nananatiling pinaka-praktikal na instrumento sa larangang ito, dahil naaangkop ito sa bawat employer na nagpoproseso ng datos ng empleyado at ipinapatupad na ito sa loob ng maraming taon. Apat sa mga patakaran nito ang gumagawa ng halos lahat ng gawain.

Artikulo 22: walang mahalagang desisyon na galing lamang sa makina

Ang Artikulo 22 ng GDPR ay nagbibigay sa bawat tao ng karapatang hindi sumailalim sa isang desisyon na batay lamang sa awtomatikong pagproseso, kabilang ang profiling, na nagdudulot ng mga legal na epekto patungkol sa kanila o katulad na makabuluhang nakakaapekto sa kanila. Ang pagtanggal sa trabaho, hindi pag-renew ng kontrata, pagbaba ng posisyon, ang pagpigil ng bonus at ang pagtanggi sa promosyon ay pawang napapaloob sa paglalarawang iyon.

Dalawang salita ang may bigat. Ang ibig sabihin lamang ay ang isang tao na nagpapatunay lamang sa iminumungkahi ng sistema ay hindi inaalis ang desisyon sa artikulo 22; nilinaw ng mga awtoridad na nangangasiwa sa loob ng maraming taon na ang rubber-stamping ay hindi pagkakasangkot ng tao. Ang makabuluhang pagkakasangkot ay nangangailangan ng isang tagasuri na may awtoridad na umabot sa ibang konklusyon, ang kakayahang suriin ang kaso, at ang oras upang gawin ito. Ang makabuluhang nakakaapekto ay malawakang binabasa, at hindi ito nangangailangan ng pormal na legal na kahihinatnan: ang isang sistema ng pagmamarka na tumutukoy kung aling mga shift o kung aling mga takdang-aralin ang inaalok sa iyo ay maaaring makaapekto sa iyo nang sapat na malaki upang makilahok sa artikulo.

Kung saan naaangkop ang artikulo 22, ang employer ay dapat sa anumang pagkakataon na magbigay ng mga pananggalang na itinakda nito: ang karapatang makakuha ng interbensyon ng tao, ipahayag ang iyong pananaw at tutulan ang desisyon.

Transparency, access at ang lohikang kasangkot

Dapat ipaalam sa mga empleyado, bago pa man ang katotohanan, na umiiral ang sistema at kung ano ang ginagawa nito. Kung saan nagaganap ang awtomatikong paggawa ng desisyon sa loob ng kahulugan ng artikulo 22, dapat ding magbigay ang employer ng makabuluhang impormasyon tungkol sa lohikang kasangkot at tungkol sa kahalagahan at inaasahang mga kahihinatnan ng pagproseso. Ang parehong impormasyon ay maaaring hilingin pagkatapos sa pamamagitan ng isang kahilingan sa pag-access sa paksa, na nagbibigay din sa iyo ng karapatan sa isang kopya ng personal na datos na pinoproseso tungkol sa iyo: ang mga marka, ang mga pinagbabatayan na sukat at ang mga kategoryang itinalaga sa iyo ng sistema.

Ang maituturing na makabuluhan ay natukoy na sa direksyon ng substansya sa halip na pormalidad. Hindi ito isang paglalarawan ng teknolohiya; ito ay isang paliwanag kung aling mga salik ang ginamit at kung paano ang mga ito tinimbang, inilagay sa mga terminong maaaring maunawaan at maaksyunan ng taong pinag-uusapan.

Batayang legal, pahintulot at ang DPIA

Ang bawat operasyon sa pagproseso ay nangangailangan ng legal na batayan. Sa konteksto ng trabaho, ang pahintulot ay bihirang magamit, dahil mismo sa pag-uugnayan sa pagitan ng employer at empleyado: ang pahintulot na hindi maaaring tanggihan nang walang kahihinatnan ay hindi malayang ibinibigay. Samakatuwid, ang mga employer ay karaniwang umaasa sa pangangailangan ng pagproseso para sa pagganap ng kontrata sa trabaho, sa isang legal na obligasyon, o sa isang lehitimong interes, at ang huli sa mga ito ay nangangailangan ng isang dokumentadong pagbabalanse ng interes na hinahangad laban sa privacy ng workforce.

Dahil ang pagsubaybay sa pagganap sa ganitong saklaw ay kinabibilangan ng sistematiko at malawakang pagsusuri ng mga tao batay sa awtomatikong pagproseso, ang pagtatasa ng epekto ng proteksyon ng datos ay hindi opsyonal. Kinakailangan ito bago pa man maging aktibo ang sistema, at dapat nitong ilarawan ang pagproseso, bigyang-katwiran ang pangangailangan at proporsyonalidad nito, tukuyin ang mga panganib sa mga empleyado, at itakda ang mga hakbang na tutugon sa mga ito. Ang mga employer na lumalaktaw sa pagtatasa ay karaniwang natutuklasan ang mga problema sa kalaunan, sa isang hindi pagkakaunawaan, kapag ang mga pagpipilian ay hindi na maaaring itama nang tahimik.

Gaano kalayo ang maaaring gawin ng isang employer sa pagsubaybay?

Ang pagmamarka ng pagganap ay hindi maaaring ihiwalay mula sa pagsubaybay na nagpapakain dito, at ang pagsubaybay ay may sariling mga limitasyon. Hindi isinusuko ng isang empleyado ang pribadong buhay sa pintuan ng opisina: ang European Court of Human Rights ay nagpasiya sa Barbulescu v Romania na ang pagsubaybay sa mga komunikasyon ng isang empleyado ay nagsasangkot ng karapatan sa paggalang sa pribadong buhay at mga sulat sa ilalim ng artikulo 8 ng Convention, at dapat na ipinaalam ng isang employer sa empleyado nang maaga ang uri at lawak ng pagsubaybay, dapat ituloy ang isang lehitimong layunin, at dapat pumili ng hindi gaanong nakakaabala na paraan na may kakayahang makamit ito. Ang palihim na pagsubaybay sa workforce ay pambihira at nangangailangan ng isang konkretong hinala, isang limitadong tagal at isang dokumentadong pagtatasa na hindi magagawa ng anumang mas magaan na hakbang.

Kung isasalin sa isang proyektong pamamahala ng algorithm, nangangahulugan ito na kailangang masagot ng employer ang tatlong tanong tungkol sa bawat daloy ng datos: kung bakit kailangan ang datos na ito para sa nakasaad na layunin, kung bakit hindi ito makakamit ng isang hindi gaanong mapanghimasok na pagsukat, at kung nasabihan na ba ang mga empleyado nang maaga. Ang patuloy na pag-record ng screen, pag-log ng keystroke, at pagsubaybay sa lokasyon sa labas ng oras ng pagtatrabaho ay nabibigo sa mga tanong na iyon sa karamihan ng mga ordinaryong setting ng trabaho.

Data ng pagliban, pagkakasakit at espesyal na kategorya

Isang kategorya ang nararapat sa partikular na pag-iingat. Ang datos na nagpapakita ng kalusugan ay mga espesyal na datos ng kategorya sa ilalim ng GDPR at sa prinsipyo ay maaaring hindi iproseso, maliban sa makikitid na eksepsiyon. Mahigpit ang mga tuntunin ng Dutch tungkol sa pagliban dahil sa pagkakasakit: maaaring irehistro ng isang employer ang pagliban ng isang empleyado at kung gaano katagal, ngunit ang uri ng sakit, ang diagnosis at ang mga limitasyon ay nakasalalay sa bedrijfsarts (doktor ng kumpanya), hindi sa employer. Ang isang sistema ng pagganap na hinuha ang isang kondisyon sa kalusugan mula sa mga pattern ng pagliban, bilis ng pagta-type, mga pahinga o tono ng boses ay nagpoproseso ng datos ng kalusugan sa pamamagitan ng paghihinuha, at ang katotohanan na walang nag-type ng diagnosis dito ay walang pagkakaiba.

Ang parehong pag-iingat ay naaangkop sa mga sistemang ang mga marka ay apektado ng protektadong pagliban tulad ng pagbubuntis, parental leave o care leave. Kung ituturing ng modelo ang mga panahong iyon bilang hindi magandang pagganap, hindi lamang pinoproseso ng employer ang sensitibong datos kundi ginagawang disbentaha rin ang isang karapatan ayon sa batas.

Ang pinakamataas na antas ng pagpapatupad

Ang mga paglabag sa mga pangunahing prinsipyo, sa pagiging legal ng pagproseso, at sa mga karapatan ng mga paksa ng datos ay nabibilang sa pinakamataas na antas ng multa ng artikulo 83 ng GDPR, ang pinakamabigat na kategoryang ibinibigay ng regulasyon. Gayundin kahalaga para sa pang-araw-araw na gawain, ang isang pagtatasa na ginawa nang lumabag sa mga patakarang ito ay mahirap umasa sa isang hindi pagkakaunawaan sa trabaho: ang isang korte na hinihiling na wakasan ang isang kontrata sa trabaho batay sa hindi magandang pagganap ay gugustuhing makita kung paano itinatag ang hindi magandang pagganap.

Ang mga idinaragdag ng AI Act para sa mga employer at manggagawa

Ang EU AI Act ay may bisa at unti-unting ipinapatupad, kaya ang tanong ay hindi na kung ito ay darating kundi alin sa mga obligasyon nito ang may kinalaman na. Dalawa sa mga patong nito ang mahalaga rito.

Ang una ay ang listahan ng mga ipinagbabawal na gawain, na ipinatupad simula pa noong pinakamaagang yugto ng Batas. Kabilang dito ang isang tuntunin na direktang nakatuon sa lugar ng trabaho: Ang mga sistemang AI na ginagamit upang mahulaan ang mga emosyon ng isang natural na tao sa mga lugar ng trabaho at mga institusyong pang-edukasyon ay ipinagbabawal, maliban kung ang sistema ay nilayong ilagay sa lugar o ibenta para sa mga kadahilanang medikal o kaligtasan. Samakatuwid, ang software na sumusukat sa mood, antas ng stress, pakikipag-ugnayan o katapatan ng mga empleyado mula sa kanilang boses, mukha o sulat ay hindi isang problema sa pagsunod na dapat pamahalaan. Ito ay hindi maituturing na angkop, at ang makitid na eksepsiyon sa medikal at kaligtasan ay hindi sumasaklaw sa pamamahala ng produktibidad. Maingat na tandaan ang hangganan: ang pagsusuri ng damdamin sa sinasabi ng isang customer ay isang ibang tanong sa paghihinuha sa mga emosyon ng empleyado.

Ang pangalawang patong ay ang rehimeng may mataas na panganib. Itinatalaga ng Annex III ng AI Act bilang mataas na panganib, bukod sa iba pang mga bagay, ang mga sistemang AI na nilalayong gamitin upang gumawa ng mga desisyon na nakakaapekto sa mga tuntunin ng mga relasyon na may kaugnayan sa trabaho, ang pagtataguyod o pagtatapos ng mga naturang relasyon, ang paglalaan ng mga gawain batay sa indibidwal na pag-uugali o mga personal na katangian, at ang pagsubaybay at pagsusuri ng pagganap at pag-uugali ng mga manggagawa. Ang isang tool sa pagsusuri ng pagganap ng AI ay nasa loob ng paglalarawang iyon. Sa ilalim ng digital omnibus package, ang mga petsa ng aplikasyon ng mga obligasyong may mataas na panganib para sa mga sistemang Annex III ay ipinagpaliban, upang ang mga employer ay may mas maraming oras upang maghanda; ang mga pagbabawal, ang mga patakaran para sa mga pangkalahatang layunin na modelo ng AI at ang mga tungkulin sa transparency ng artikulo 50 ay nalalapat na.

Isang obligasyon ang nararapat banggitin nang hiwalay dahil palagi itong nakakaligtaan ng mga employer. Ang mga deployer na mga employer ay dapat ipaalam sa mga kinatawan ng mga manggagawa at sa mga apektadong manggagawa bago maglagay ng high-risk AI system sa lugar ng trabaho, alinsunod sa mga naaangkop na patakaran sa impormasyon at konsultasyon. Ito ay isang tungkulin sa impormasyon na kasabay, at hindi pinapalitan, ang mga obligasyon sa transparency ng GDPR at ang mga karapatan ng works council sa ilalim ng batas ng Dutch. Para sa mas kumpletong pagtalakay sa Batas at sa talaorasan nito, tingnan ang aming artikulo tungkol sa legal na panig ng artificial intelligence at ng EU AI Act.

Sino ang may pananagutan: ang supplier o ang employer?

Madalas na ipinapalagay ng mga employer na dahil ang software ay binili mula sa isang espesyalistang supplier, ang supplier ang may hawak ng legal na panganib. Hindi ganoon ang paraan ng pagtatalaga ng responsibilidad sa alinmang balangkas.

Sa ilalim ng GDPR, ang employer ang nagpapasya kung bakit at paano pinoproseso ang datos ng empleyado at samakatuwid ay siya ang tagakontrol. Ang supplier na nagpapatakbo ng sistema ayon sa mga tagubilin ng employer ay isang processor, at ang ugnayan ay kailangang itatag sa isang kasunduan sa pagproseso, ngunit ang employer ang may utang na loob sa mga tauhan nito ng mga tungkulin ng transparency, legalidad, at pangangasiwa ng tao, at ang employer ang may pananagutan sa Autoriteit Persoonsgegevens at sa mga empleyado mismo.

Ang AI Act ay naglalagay ng maihahambing na linya sa pagitan ng provider, na siyang bumubuo ng isang AI system at naglalagay nito sa merkado, at ng deployer, na gumagamit nito sa ilalim ng sarili nitong awtoridad. Ang isang employer na gumagamit ng biniling tool ay karaniwang isang deployer at may mga obligasyon bilang deployer, kabilang ang paggamit ng sistema alinsunod sa mga tagubilin, pagtiyak ng naaangkop na antas ng pangangasiwa ng tao ng mga taong may kinakailangang kakayahan at awtoridad, pagsubaybay sa operasyon nito, at pagpapaalam sa mga manggagawa. Ang isang employer na naglalagay ng sarili nitong pangalan sa sistema, o malaki ang pagbabago nito o nagbabago ng nilalayon nitong layunin, ay maaaring maging isang provider at akuin ang mas mabibigat na obligasyon na kaakibat ng tungkuling iyon.

Ang praktikal na kahihinatnan para sa pagkuha ay ang kontrata ay kailangang basahin nang isinasaalang-alang ang mga tungkuling ito. Kailangan ng isang employer na ihatid ng supplier ang impormasyong nagbibigay-daan sa pagsunod, at dapat itong maging may pag-aalinlangan sa anumang produkto na hindi kayang ipaliwanag ang sarili nitong output, dahil ang tungkuling magpaliwanag ay mapupunta sa employer anuman ang nakasaad sa lisensya.

Trabaho sa plataporma: isang karagdagang patong ng mga patakaran

Para sa mga taong nagtatrabaho sa pamamagitan ng mga digital na platform ng paggawa, may isa pang instrumento na paparating. Ang Direktiba (EU) 2024/2831 sa pagpapabuti ng mga kondisyon sa pagtatrabaho sa platform work ay naglalaan ng isang buong kabanata sa algorithmic management. Inoobliga nito ang mga platform na ipaalam sa mga manggagawa ang tungkol sa automated monitoring at mga sistema ng paggawa ng desisyon na makabuluhang nakakaapekto sa kanilang mga kondisyon sa pagtatrabaho, nililimitahan ang pagproseso ng ilang kategorya ng data, kabilang ang data sa emosyonal at sikolohikal na estado at data sa mga pribadong pag-uusap, hinihiling ang pangangasiwa ng tao sa mga epekto ng mga sistemang ito, at binibigyan ang mga manggagawa ng karapatan sa isang paliwanag, at pagsusuri ng tao sa, mga mahahalagang desisyon tulad ng paghihigpit o pagsuspinde ng isang account. Kapansin-pansin, ilan sa mga pananggalang na iyon ay nalalapat sa mga taong nagsasagawa ng platform work kwalipikado man sila o hindi bilang mga empleyado.

Dapat baguhin ng mga estadong miyembro ang direktiba bago ang ika-2 ng Disyembre 2026. Hangga't hindi ipinapatupad ang pambansang batas na nagpapatupad, ang GDPR at ang AI Act ay mananatiling mga patakarang umiiral, at ang mga kinakailangan ng mga ito ay sumasaklaw na sa halos parehong aspeto.

Batas sa pagtatrabaho sa Netherlands: hindi maaaring wakasan ng isang algorithm ang iyong kontrata

Ang mga patakaran sa proteksyon ng datos at AI sa Europa ang namamahala kung paano maaaring gumana ang sistema. Ang batas sa pagtatrabaho sa Netherlands ang namamahala sa kung ano ang maaaring gawin ng isang employer sa output nito, at ito ay mas mahigpit kaysa sa ipinapalagay ng karamihan sa mga proyekto sa pamamahala ng algorithm.

Hindi maaaring basta-basta wakasan ng isang employer sa Netherlands ang isang kontrata sa pagtatrabaho. Ang pagtanggal sa trabaho ay nangangailangan ng makatwirang batayan na nakalista sa artikulo 7:669 ng Dutch Civil Code, at nangangailangan ito ng paunang pahintulot ng UWV o desisyon ng kantonrechter (subdistrict court), depende sa batayan. Ang mahinang pagganap ay isa sa mga batayan na iyon, at ito ay isang mahigpit na batayan. Dapat ipakita ng employer na ang empleyado ay hindi angkop para sa tungkulin, na ang empleyado ay naabisuhan tungkol dito sa tamang oras, at na ang isang tunay na pagkakataon upang mapabuti ay inaalok, kasama ang suporta kung naaangkop. Ang pagbabasa ng dashboard ay hindi isang proseso ng pagpapabuti, at itatanong ng korte kung ano ang napag-usapan, kailan, at anong tulong ang ibinigay. Ang aming gabay sa batas sa pagtatrabaho sa Netherlands ay naglalahad ng balangkas ng pagtanggal sa trabaho nang mas detalyado.

Ang batas sa diskriminasyon ay nalalapat sa resulta, hindi sa intensyon. Kung ang isang sistema ay nagdudulot ng disbentaha sa mga empleyado dahil sa mga kadahilanang tulad ng kasarian, lahi, edad, relihiyon, kapansanan o malalang sakit, ito ay labag sa batas sa ilalim ng Algemene wet gelijke behandeling (Pangkalahatang Batas sa Pantay na Pagtrato) at ng mga partikular na batas para sa pantay na pagtrato sa edad at sa kapansanan, may sinuman man ang nagnanais ng resultang iyon. Ang datos ng mga nakaraang pagsasanay ang karaniwang salarin: ang isang modelong sinanay kung sino ang na-promote noon ay babalik sa mga kagustuhan ng nakaraan. Ang mga sistemang sumusukat sa raw availability o output sa paglipas ng panahon ay may posibilidad ding parusahan ang mga empleyadong kumuha ng parental leave, nagtrabaho nang may bawas na oras o lumiban dahil sa sakit, at ang pagpaparusa sa isang empleyado dahil sa paggamit ng isang karapatan ayon sa batas ay siyang ipinagbabawal ng batas para sa pantay na pagtrato.

Kailangang sumang-ayon ang konseho ng mga manggagawa

Sa isang kompanya kung saan mayroong works council, ang employer ay nangangailangan ng higit pa sa isang mabuting intensyon. Ang Artikulo 27 ng Wet op de ondernemingsraden (Works Councils Act) ay nangangailangan ng pahintulot ng ondernemingsraad (works council) para sa pagpapatibay, pag-amyenda o pagbawi ng mga kaayusan kabilang ang mga kaugnay sa pagtatasa ng kawani, sa pagproseso at proteksyon ng personal na datos ng mga empleyado, at sa mga pasilidad na naglalayong o angkop para sa pag-obserba o pagsubaybay sa presensya, pag-uugali o pagganap ng mga kawani. Ang isang AI performance system ay sabay-sabay na nagsasangkot sa lahat ng tatlo.

Ang pahintulot dito ay hindi isang pormalidad. Ang isang desisyong ginawa nang walang kinakailangang pahintulot ay maaaring ideklarang walang bisa ng works council, at maaaring pigilan ang employer sa paglalapat nito. Para sa mga empleyadong nakakaramdam na may ipinataw na sistema sa kanila, ang works council ang kadalasang pinakamabilis at pinakamabisang paraan upang magbago, bago pa man isipin ng sinuman ang tungkol sa litigasyon.

Ang mga napagpasyahan ng mga korte sa ngayon

Ang kaso ay patuloy pa ring binubuo, ngunit dalawang hatol ng Netherlands ang nagtakda na ng direksyon ng paglalakbay at pareho itong binanggit sa labas ng Netherlands.

Ang mga paghatol nina Uber at Ola

Noong 4 Abril 2023 ang Gerechtshof Amsterdam (Amsterdam (Court of Appeal) ay nagpasiya sa isang serye ng mga kasong isinampa ng mga drayber laban sa Uber at Ola. Nais malaman ng mga drayber kung bakit na-deactivate ang kanilang mga account at kung paano inilalaan sa kanila ang trabaho at mga presyo. Malaki ang naging pabor sa kanila ng korte sa mga impormasyong nakuha. Ang mga drayber na nawalan ng access sa platform, at kasama nito ang kanilang kita, ay lubhang naapektuhan ng automated decision-making, at hindi maaaring magpigil ng paliwanag ang mga kumpanya sa pamamagitan ng pagturo sa mga sikreto sa kalakalan o sa panganib ng manipulasyon nang hindi pinatutunayan ang pagtutol na iyon.

Ang hiniling ng korte ay konkreto: hindi isang pangkalahatang paglalarawan ng teknolohiya, kundi impormasyon tungkol sa mga salik na ginamit at ang bigat na ibinigay sa mga ito, upang maunawaan at tutulan ng taong kinauukulan ang resulta. Iyan ang pamantayang dapat ipagpalagay ng mga employer na naaangkop din sa isang performance algorithm. Kung ang sagot mo sa tanong kung bakit ako nakakuha ng mababang marka ay dahil ang modelo ang nagtakda nito, hindi mo natugunan ang pamantayan.

Ang hatol ng SyRI

Ang pangalawang kaso ay hindi isang pagtatalo sa trabaho, ngunit ang pangangatwiran nito ay umaabot sa lugar ng trabaho. Sa hatol nito noong ika-5 ng Pebrero 2020 (ECLI:NL:RBDHA:2020:865), ipinahayag ng Rechtbank Den Haag (Korte Distrito ng The Hague) na ang batas na pinagbabatayan ng SyRI, isang sistema ng indikasyon ng panganib ng gobyerno na ginagamit upang matukoy ang pandaraya sa benepisyo at buwis, ay bumagsak sa pagsubok ng artikulo 8 ng European Convention on Human Rights. Ang sistema ay hindi sapat na transparent at napapatunayan: walang sinuman sa labas ang makapagpapatunay kung paano namarkahan ang isang tao, na naging dahilan upang imposibleng ipagtanggol ito.

Ang prinsipyo ay pangkalahatan. Ang isang sistemang hindi maaaring suriin ang paggana ay hindi maaaring hamunin, at ang isang desisyong hindi maaaring hamunin ay hindi isang patas na desisyon. Ang isang employer na gustong ibase ang mga pagtatasa sa isang modelo na hindi maipaliwanag ng empleyado o ng employer ay nagtatayo sa parehong batayan na nabigo sa kasong iyon. Ang mga tanong na ito ng responsibilidad para sa awtomatikong pag-uugali ay higit pa sa batas sa pagtatrabaho lamang, gaya ng ipinapakita ng aming artikulo tungkol sa AI at batas kriminal.

Ang iyong mga karapatan kung ang isang algorithm ay nagbibigay sa iyo ng iskor

Kung ikaw ay sinusuri sa tulong ng isang sistema ng AI, mayroon kang mga konkreto at maipapatupad na karapatan, at hindi mo kailangang patunayan na mali ang sistema bago mo magamit ang mga ito.

Maaari mong itanong kung anong datos ang nakaimbak tungkol sa iyo at kumuha ng kopya nito, kasama na ang mga sukat na nagbibigay ng impormasyon sa pagtatasa at ang mga markang nakuha mula sa mga ito. Maaari kang humingi ng makabuluhang impormasyon tungkol sa lohika ng sistema, ang mga salik na mahalaga at ang kanilang bigat. Kung ang isang desisyon na may malaking epekto ay ginawa sa pamamagitan ng awtomatikong paraan, maaari kang humingi ng interbensyon ng tao, magbigay ng sarili mong pananaw, at tutulan ang desisyon. Maaari kang magpatama ng maling datos, na mas mahalaga kaysa sa inaakala: karamihan sa mga naitala ng mga sistemang ito ay sadyang mali, mula sa mga maling pagliban hanggang sa trabahong iniuugnay sa maling tao.

Paano hamunin ang isang awtomatikong pagtatasa sa pagsasagawa

Magsimula sa pamamagitan ng pagdodokumento ng sarili mong posisyon bago mo ito itaas. Tandaan ang mga partikular na gawaing tinatalakay ng pagtatasa, ang mga panahon kung kailan hindi pangkaraniwan ang mga pangyayari, at anumang pagliban, bakasyon, o muling pagtatalaga na magpapababa sa mga bilang para sa mga kadahilanang walang kinalaman sa iyong pagganap. Ang mga napapanahong tala ay mas mahalaga kaysa sa isang muling pagbubuo pagkalipas ng anim na buwan.

Pagkatapos, isulat ang kahilingan sa iyong employer, na nagsasaad na ginagamit mo ang iyong mga karapatan sa ilalim ng GDPR, hinihingi ang datos na ginamit sa iyong pagtatasa at ang paliwanag ng lohika, at humiling ng pagsusuri ng tao ng isang taong may awtoridad na makabuo ng ibang konklusyon. Magtakda ng makatwirang deadline; hinihiling ng GDPR na tumugon ang employer sa loob ng isang buwan, na maaaring pahabain sa mga kumplikadong kaso. Panatilihing makatotohanan ang tono, dahil ang mga sulat na ito ay kadalasang nauuwi lamang sa ebidensya.

Kung ang employer ay hindi sapat na tumugon, maaari kang maghain ng reklamo sa Autoriteit Persoonsgegevens, at maaari mong dalhin ang hindi pagkakaunawaan sa korte. Kung ang pagtatasa ay ginagamit upang suportahan ang pagtanggal sa trabaho o isang pagbabago sa iyong mga termino, ang ruta ng trabaho ay karaniwang mas epektibo at ito ay umaabot sa maiikling mga deadline, kaya humingi ng payo nang maaga. Ang aming artikulo tungkol sa privacy ng data sa ilalim ng GDPR sa panahon ng AI at big data ay nagpapaliwanag sa pinagbabatayan na balangkas.

Ano ang dapat gawin ng isang employer bago i-on ang sistema

Para sa mga employer, ang pagsunod sa larangang ito ay kadalasang isang bagay ng pagkakasunod-sunod. Halos lahat ng seryosong problema ay lumilitaw dahil ang isang sistema ay unang nakuha at naipatupad, at ang mga legal na tanong ay tinatanong pagkatapos.

Magsimula sa layunin. Isulat kung ano talaga ang sinusubukang makamit ng organisasyon at kung aling mga desisyon ang maiimpluwensyahan ng sistema, dahil ang lahat ng iba pa ay sumusunod mula roon: ang datos na maaaring bigyang-katwiran, ang legal na batayan, ang pagtatasa ng panganib at ang antas ng pangangasiwa ng tao na kinakailangan. Ang isang sistemang binili upang mapabuti ang pag-iiskedyul at pagkatapos ay tahimik na ginagamit upang bumuo ng isang dismissal file ay ang klasikong ruta patungo sa isang ilegal na operasyon sa pagproseso.

Isagawa ang pagtatasa ng epekto ng proteksyon ng datos bago ang pag-deploy, hindi bilang isang dokumentong ginawa kalaunan upang bigyang-katwiran ang isang desisyong nagawa na, at itala ang resulta. Magtatag at idokumento ang legal na batayan, tandaan na ang pahintulot ng empleyado ay bihirang magkaroon. Tukuyin kung ang sistema ay nabibilang sa kategoryang may mataas na panganib ng AI Act at, kung mayroon man, ilarawan ang mga obligasyong kalakip ng isang deployer, kabilang ang tungkulin na ipaalam sa mga kinatawan ng mga manggagawa at mga apektadong manggagawa. Kunin ang pahintulot ng works council kung saan naaangkop ang artikulo 27 ng Works Councils Act, at isali ito nang maaga para sa input nito na magbago ng isang bagay.

Pagkatapos ay idisenyo ang pangangasiwa na hinihingi ng artikulo 22, at subukan kung ito ay totoo. Tanungin kung sino ang sumusuri sa output, kung ang taong iyon ay maaaring magpawalang-bisa dito nang hindi kinakailangang bigyang-katwiran ang paglihis sa isang nakatataas, kung mayroon silang konteksto upang humusga, at kung mayroon silang oras. Kung ang tapat na sagot ay ang tagasuri ay nagpoproseso ng isang daang kaso sa isang hapon, ang organisasyon ay walang pangangasiwa ng tao; mayroon itong lagda.

Panghuli, subukan ang mga resulta sa halip na mga intensyon. Suriin ang mga resulta ng sistema ayon sa protektadong katangian at ayon sa pattern ng pagtatrabaho, at tingnan partikular ang mga empleyadong nagtatrabaho ng part-time, nagbakasyon o nagkasakit. Bigyan ang mga empleyado ng malinaw na ruta upang tanungin ang isang pagtatasa at itala kung ano ang mangyayari sa mga hamong iyon. Itago ang dokumentasyon, dahil ang pasanin ng pagpapakita ng pagsunod ay nakasalalay sa employer, at sa isang hindi pagkakaunawaan, ang file ang depensa.

Kung saan ka nito iiwan

Hindi ipinagbabawal ang pamamahala ng algorithm, at hindi ito mawawala. Ang ginagawa ng batas ay gumuhit ng linya sa pagitan ng pagsukat at paghatol. Ang mga sistema ay maaaring magbilang, maghambing at magbigay ng senyales; ang mga tao ay dapat magpasya, magpaliwanag at umako ng responsibilidad. Ang mga empleyado ay may karapatang malaman na sila ay sinusuri ng naturang sistema, upang maunawaan kung ano ang sinusukat nito, at magkaroon ng isang tao na muling tumingin sa anumang desisyon na may malaking epekto sa kanila. Ang mga employer na tumatanggap sa paghahati ng paggawa ay maaaring gumamit ng mga tool na ito nang may kumpiyansa. Ang mga taong hinahayaang magdesisyon ang dashboard ay matutuklasan na hindi tinatanggap ng Autoriteit Persoonsgegevens o ng kantonrechter ang output bilang kapalit ng isang wastong pagtatasa.

Law & More nagpapayo sa mga employer sa paggamit ng AI sa pamamahala ng pagganap, mula sa pagtatasa ng epekto at pamamaraan ng works council hanggang sa disenyo ng pangangasiwa ng tao, at nagpapayo sa mga empleyadong nahaharap sa isang awtomatikong pagtatasa na itinuturing nilang hindi patas. Kung may ginagamit na algorithm upang husgahan ang iyong trabaho o ang trabaho ng iyong mga tauhan, ikalulugod naming repasuhin ang posisyon kasama ka.

Mga karaniwang tanong tungkol sa mga pagsusuri sa pagganap ng AI