Ang pananagutan para sa mga sistema ng AI sa Netherlands ay laging napupunta sa isang tao o isang kumpanya, hindi kailanman sa software. Dalawang posisyon ang mahalaga sa pagsasagawa: ang gumagamit, ibig sabihin ang indibidwal o organisasyon na nagde-deploy ng sistema at gumagawa ng mga desisyon kasama nito, at ang producer, ibig sabihin ang partido na bumuo ng sistema, naglagay nito sa merkado o nagtustos nito. Alin sa dalawa ang may taglay ng pagkalugi ay depende sa kung saan naganap ang pagkabigo, kung ano ang alam ng bawat isa sa kanila, at kung ano ang nakasaad sa kontrata sa pagitan nila. Ang artikulong ito ay gumagana sa parehong posisyon; ang balangkas ng batas kriminal mismo, mula sa functional perpetration hanggang sa corporate liability sa ilalim ng artikulo 51 ng Criminal Code, ay nakasaad sa aming kasamang artikulo kung ang isang algorithm ay maaaring maging bahagyang responsable.
Bakit ang sistema ay hindi kailanman naging akusado
Kinikilala ng batas ng Olandes ang dalawang uri ng tao: mga natural na tao at mga legal na tao. Ang isang sistema ng AI ay hindi alinman sa mga ito. Hindi ito maaaring humawak ng mga karapatan, hindi maaaring ipatawag, hindi maaaring pagmultahin at hindi maaaring utusan na magbayad ng mga danyos, dahil wala itong pagmamay-ari at walang legal na pag-iral na hiwalay sa kumpanyang nagpapatakbo nito. Ang mga panukala na lumikha ng ikatlong kategorya, na minsan ay tinatawag na electronic personhood, ay napag-usapan na sa antas ng Europa at walang narating, sa isang dahilan na mas praktikal kaysa sa pilosopikal: ang isang sasakyan ng pananagutan na walang mga asset at walang kakayahang baguhin ang pag-uugali nito ay maglilipat ng panganib palayo sa mga partido na talagang makakapigil sa pinsala.
Kaya ang tanong ay hindi kailanman kung ang makina ay may pananagutan. Ito ay kung aling tao o korporasyong aktor sa kadena ang nabigo sa isang tungkulin, at ang kadenang iyon ay may nahuhulaang hugis: ang partido na bumuo ng modelo, ang partido na ginawa itong produkto, ang partido na nagtustos o nagsama nito, ang organisasyon na nagpatupad nito, at ang indibidwal na pumindot sa buton. Ang pananagutan para sa mga sistema ng AI ay ang pagsasagawa ng paghahanap ng pagkabigo sa kadenang iyon at pagtutugma nito sa isang legal na batayan.
Dalawa sa mga legal na batayan na iyon ang nangingibabaw. Para sa gumagamit, ang pangkalahatang batas sa tort at ang tungkulin ng pag-iingat na kaakibat ng paggamit ng isang makapangyarihang kasangkapan sa direksyon ng iba. Para sa prodyuser, ang pananagutan ng produkto, na hindi nangangailangan ng anumang kasalanan. Ang lahat ng iba pa, kabilang ang kriminal na pagkakalantad, ay nakapatong sa mga ito.
Posisyon ng gumagamit
Minamaliit ng mga gumagamit ang kanilang pagkakalantad dahil iniisip nila ang sistema bilang isang black box na ginawa ng ibang tao. Sa batas, ang taong pumipiling mag-deploy ng isang tool, nag-configure nito, nagpapakain dito ng data at kumikilos batay sa output nito ay gumagawa ng isang bagay, at ang paggawa na iyon ay sinusuri batay sa sarili nitong merito.
Kapag ang sistema ay instrumento lamang ng isang pagkakasala
Ang pinakamadaling mga kaso ay ang mga kung saan sadyang ginagamit ang isang sistema ng AI. Ang pagbuo ng isang nakakakumbinsing invoice upang mandaya sa isang kumpanya ay pandaraya sa ilalim ng artikulo 326 ng Kodigo Kriminal, isinulat man ng isang tao o ng isang modelo ang sulat, at ang pamemeke ng isang dokumento ay nananatiling pamemeke sa ilalim ng artikulo 225 anuman ang kagamitan. Ang paggamit ng isang modelo upang magsulat ng code na pumapasok sa isang sistema ay pa rin panghihimasok sa computer sa ilalim ng artikulo 138ab. Ang pagbuo at pamamahagi ng mga minanipulang larawan ng isang totoong tao ay maaaring maituring na paninirang-puri, at kung ang materyal ay sekswal, ito ay nasa ilalim ng mga pagkakasala sa Sexual Offences Act na ipinatupad simula noong Hulyo 1, 2024. Ang patuloy na panliligalig na tinutulungan ng AI sa isang indibidwal ay maaaring maituring na stalking sa ilalim ng artikulo 285b, na isinasampa lamang kapag nagreklamo ang biktima.
Hindi ito bagong batas. Binabago ng teknolohiya ang laki at ang posibilidad ng panlilinlang, hindi ang mga elemento ng pagkakasala. Ang binabago nito ay ang ebidensya: ang mga prompt, account log, model output, at ang tiyempo ng paglikha ng file ang siyang materyal na nag-uugnay sa pagkakasala sa isang tao, at ang mga user na nag-aakalang ang nilalamang binuo ng AI ay hindi masusubaybayan ay kadalasang nagkakamali.
Pabaya na paggamit: ang mas karaniwang panganib
Mas maraming organisasyon ang napapahamak dahil sa kapabayaan kaysa sa layunin. Pamilyar na ang padron. Ang isang sistema ay binibili para sa isang layunin at ginagamit para sa iba. Ang output nito ay itinuturing na isang desisyon sa halip na isang senyales. Walang sinuman ang sumusuri sa mga pagkakataon kung saan ito mali, dahil ang mga taong nagpapatakbo nito ay hindi kailanman sinabihan kung ano ang hitsura ng error rate nito o kung saan ito nabigo. Kapag nangyari ang pinsala, natuklasan ng organisasyon na wala itong rekord kung paano naabot ang desisyon.
Sa sibil na termino, ito ay isang direktang tort: ang artikulo 6:162 ng Kodigo Sibil ay nagpapanagot sa isang tao para sa isang labag sa batas na gawa na maiuugnay sa kanila na nagdudulot ng pinsala. Ang paglabag sa tungkulin ng pangangalaga sa lipunan ay isa sa mga kategorya ng pagiging labag sa batas, at ang nilalaman ng tungkuling iyon ay itinatakda ng kung ano ang gagawin ng isang maingat na operator sa posisyong iyon. Ang isang employer ay mananagot din para sa mga pagkakamali ng mga empleyado nito sa ilalim ng artikulo 6:170, at ang isang partido na gumagamit ng isang auxiliary upang gampanan ang isang kontratadong obligasyon ay mananagot para sa auxiliary na iyon sa ilalim ng artikulo 6:76, na siyang probisyon na sumasaklaw sa isang organisasyon na gumagamit ng modelo ng isang supplier upang maghatid ng sarili nitong serbisyo.
Ang tungkulin ng pangangalaga ay hindi na lubusang iniiwan sa mga korte upang mag-imbento. Ang EU AI Act ay nagbibigay sa mga nag-deploy ng mga high-risk system ng mga konkretong obligasyon: gamitin ang sistema alinsunod sa mga tagubilin, magtalaga ng pangangasiwa ng tao sa mga taong may kakayahan at awtoridad na gamitin ito, tiyakin na ang input data sa ilalim ng kanilang kontrol ay may kaugnayan, subaybayan ang operasyon at suspindihin ang paggamit kung saan lumilitaw ang isang panganib, itago ang mga log, at ipaalam sa mga manggagawa at sa kanilang mga kinatawan bago i-deploy ang naturang sistema sa trabaho. Ang mga obligasyong iyon ay regulatoryo, ngunit ang isang korte na sumusuri sa kapabayaan ay babasahin ang mga ito bilang isang paglalarawan kung ano ang hitsura ng maingat na pag-uugali. Ang isang organisasyon na hindi pinansin ang mga tagubilin para sa paggamit ay hindi lamang hindi sumusunod; ipinasa na nito sa naghahabol ang kanyang kaso.
Ang bias sa automation ay nararapat na banggitin nang hiwalay dahil dito tahimik na nabibigo ang pangangasiwa. Ang isang tagasuri na umaapruba sa halos lahat ng iminumungkahi ng sistema ay hindi nagsasagawa ng pangangasiwa, at ang isang organisasyon na sumusukat sa mga tauhan nito sa throughput ay epektibong nagdisenyo ng kinalabasang iyon. Ang legal na tanong ay kung ang desisyon ng tao ay tunay na ginawa, at hindi ito kwalipikado kung ang isang desisyon ay ginawa lamang ng isang tao.
Kung saan hindi maaaring ipasa ng gumagamit ang panganib
Tatlong punto ang regular na ikinagugulat ng mga organisasyong nag-aakalang ang supplier ang may kagagawan ng panganib.
Una, para sa napinsalang ikatlong partido, ang gumagamit ang nakikitang partido. Isang kostumer ang tumanggi sa kredito, isang empleyado ang tinanggihan ng isang screening tool, isang pasyenteng binigyan ng maling triage: sila ay nakakontrata, o inaasikaso ng, deployer, at kakasuhan nila ang deployer. Kung ang deployer ay makakabawi mula sa supplier nito ay isang hiwalay na tanong na nagpapatibay sa kontrata at hindi nagpapaliban sa paghahabol laban dito.
Pangalawa, ang mga pangkalahatang tuntunin sa proteksyon ng datos ay nalalapat nang hiwalay sa lahat ng iba pa. Kung pinoproseso ng sistema ang personal na datos, ang deployer ay karaniwang ang controller, na responsable para sa legal na batayan, transparency, impact assessment, at seguridad. Ang isang desisyon na ginawa lamang sa pamamagitan ng awtomatikong paraan na nagbubunga ng mga legal na epekto o katulad na makabuluhang nakakaapekto sa isang tao ay hiwalay na kinokontrol at nagbibigay sa taong iyon ng karapatan sa interbensyon ng tao at tutulan ang resulta. Ang aming pangkalahatang-ideya ng General Data Protection Regulation ay naglalahad ng rehimeng iyon.
Pangatlo, binabago ng pagbabago ang iyong tungkulin. Ang isang deployer na naglalagay ng sarili nitong pangalan sa isang sistema, binabago ang nilalayon nitong layunin, o binabago ito nang malaki ay nagiging isang provider sa ilalim ng AI Act at minana ang mga obligasyon ng provider. Ang pagpino ng isang pangkalahatang-layunin na modelo upang maging isang screening tool para sa isang regulated na desisyon ay eksaktong uri ng hakbang na lumalagpas sa linyang iyon. Ang mga organisasyong gumagamit ng modelo ng ibang tao ay dapat magtatag kung saang panig sila nito kinaroroonan bago sila ilunsad, hindi pagkatapos ng isang insidente.
Ang posisyon ng prodyuser
Ang pagkakalantad ng prodyuser ay tumatakbo sa ibang landas, at ito ay mas mahigpit. Ang pananagutan ng produkto sa ilalim ng artikulo 6:185 at pagsunod sa Kodigo Sibil ay nagpapanagot sa prodyuser para sa pinsalang dulot ng depekto sa produkto nito nang hindi kinakailangang patunayan ng napinsalang partido ang pagkakamali. Ang isang produkto ay may depekto kapag hindi ito nag-aalok ng kaligtasan na nararapat asahan ng isang tao, isinasaalang-alang ang presentasyon nito, ang makatuwirang paggamit na maaaring asahan dito at ang oras na ito ay inilagay sa sirkulasyon. Dapat patunayan ng naghahabol ang pinsala, ang depekto at ang sanhi ng pagkakaugnay sa pagitan ng mga ito, na sa isang kaso ng AI ay kung saan nakasalalay ang tunay na laban.
May mga takdang limitasyon ang rehimen. Ang mga paghahabol ay dapat isampa sa loob ng tatlong taon mula sa araw na nalaman, o dapat sana ay nalaman, ng napinsalang partido ang pinsala, ang depekto at ang pagkakakilanlan ng prodyuser, at ang karapatan ay mawawalan ng bisa sampung taon pagkatapos mailagay sa sirkulasyon ang partikular na produkto. Ang pananagutan sa ilalim ng rehimeng ito ay hindi maaaring ibukod o limitahan ng kontrata, at sakop nito ang kamatayan, personal na pinsala at pinsala sa iba pang ari-arian na ginamit nang pribado, na napapailalim sa isang mas mababang limitasyon. Ang prodyuser ay may limitadong hanay ng mga depensa, kabilang ang depensa sa panganib ng pag-unlad, na naaangkop kung saan ang estado ng kaalamang siyentipiko at teknikal sa oras ng sirkulasyon ay hindi maaaring magbunyag ng depekto.
Ang repormang nagpapabago sa posisyon para sa software
Sa ilalim ng kasalukuyang rehimeng Dutch, ang isang produkto ay isang bagay na naililipat, at kung kwalipikado ba ang stand-alone na software ay pinagtatalunan sa loob ng maraming taon. Ang argumentong iyan ay malapit nang isara. Ang binagong Product Liability Directive, Directive (EU) 2024/2853, ay nagkabisa noong ika-8 ng Disyembre 2024 at dapat na maging pambansang batas pagsapit ng ika-9 ng Disyembre 2026; naaangkop ito sa mga produktong inilalagay sa merkado o inilagay sa serbisyo pagkatapos ng petsang iyon, kaya ang kasalukuyang mga probisyon ng Civil Code ay patuloy na namamahala sa mga produktong naipamahagi bago nito. Apat na pagbabago ang mahalaga para sa pananagutan para sa mga sistema ng AI.
Ang software, kabilang ang mga AI system at mga digital manufacturing file, ay malinaw na isang produkto. Lumalawak ang bilog ng mga mananagot na partido na hindi lamang sa tagagawa, kasama na ang partidong malaki ang pagbabago sa isang produkto na wala sa kontrol ng tagagawa, ang awtorisadong kinatawan, ang importer at, sa mga tinukoy na pagkakataon, ang tagapagbigay ng serbisyo sa katuparan at ang online platform. Ang maaaring mabawing pinsala ay umaabot sa pagkasira o katiwalian ng data na hindi ginagamit nang propesyonal, na isang tunay na kategorya ng pagkawala sa mga pagkabigo ng software. At ang isang produkto ay maaaring may depekto dahil sa kung ano ang mangyayari pagkatapos itong ilagay sa merkado: isang depekto sa isang kinakailangang pag-update ng software, isang pagkabigong magbigay ng mga update sa seguridad, o ang mga epekto ng patuloy na pag-aaral kung saan pinanatili ng producer ang kontrol dito.
Direktang inaatake rin ng reporma ang problema sa ebidensya. Maaaring utusan ng korte ang nasasakdal na ibunyag ang mga kaugnay na ebidensya sa kahilingan ng nagsasakdal, at kung hindi sumunod ang nasasakdal, ipinapalagay ang depekto. Ang mga mapabubulaanang pagpapalagay ng depekto at ng sanhi ay nalalapat kung saan ang nagsasakdal ay nahaharap sa labis na kahirapan sa pagpapatunay ng mga ito dahil sa teknikal o siyentipikong kasalimuotan, basta't ginagawang posible ng nagsasakdal ang posibilidad. Para sa isang nagsasakdal na nahaharap sa isang modelo na walang sinuman ang lubos na makapagpapaliwanag, iyon ang pagkakaiba sa pagitan ng isang maaaring pagtalunan na kaso at isang imposibleng kaso.
Kontrata, pagsunod at ang mga limitasyon ng mga sugnay ng pagbubukod
Sa pagitan ng mga negosyo, ang unang larangan ng labanan ay karaniwang ang kontrata sa halip na ang batas. Ang isang supplier ng isang AI system ay may utang na loob sa napagkasunduan nitong bayaran: ang sistemang inihatid ay dapat na tumutugma sa kontrata at nagtataglay ng mga katangiang nararapat asahan ng mamimili. Kung saan nangako ang isang supplier ng antas ng katumpakan, antas ng availability o pagsunod sa AI Act, ang hindi paghahatid nito ay paglabag sa kontrata, at ang mga karaniwang remedyo ng pagganap, mga danyos at pagpapawalang-bisa ay sumusunod pagkatapos ng isang wastong abiso ng hindi pagtupad.
Tumutugon ang mga supplier gamit ang mga sugnay na may limitasyon at pagbubukod, at ang mga sugnay na iyon ay karaniwang epektibo sa pagitan ng mga komersyal na partido. Hindi sila walang limitasyon. Maaaring isantabi ang isang sugnay kung saan ang pag-asa dito ay hindi katanggap-tanggap ayon sa mga pamantayan ng pagkamakatuwiran at pagiging patas, na siyang ruta na ginagamit ng mga korte sa mga kaso ng sinasadyang kawalang-ingat o malubhang pagkakamali sa panig ng supplier, at kung saan ang sugnay ay sa pangkalahatang termino, maaari itong mabigo kung ang kabilang partido ay hindi kailanman nabigyan ng tunay na pagkakataon na pansinin ang mga ito. Ang pananagutan sa ilalim ng rehimen ng pananagutan ng produkto ay hindi maaaring alisin laban sa napinsalang partido. Sa pagsasagawa, ang negosasyon ay tungkol sa mga limitasyon, mga paghihiwalay para sa mga paglabag sa datos at paglabag sa IP, mga indemnidad para sa mga multa sa regulasyon, at obligasyon ng supplier na magbigay ng dokumentasyon at mga log na kailangan ng customer upang ipagtanggol ang sarili nito. Inilalahad ng aming pahina tungkol sa mga paghahabol para sa mga danyos kung paano binubuo ang mga paghahabol na iyon.
Ano ang ginagawa at hindi ginagawa ng AI Act
Ang AI Act ay isang instrumentong pangregulasyon. Sinasabi nito sa mga provider at deployer kung ano ang gagawin at binibigyan ang mga superbisor ng kapangyarihang ipatupad ito; hindi ito lumilikha ng karapatan sa kabayaran para sa isang taong napinsala ng isang sistema ng AI. Ang iminungkahing AI Liability Directive, na sana ay mag-aayon sa mga sibil na paghahabol at magpakilala ng pagsisiwalat at mga pagpapalagay sa lahat ng aspeto, ay binawi na. Ang natitira ay ang kombinasyon na inilarawan sa itaas: pambansang batas sa tort at kontrata, kasama ang repormang rehimen ng pananagutan ng produkto.
Hindi naman ibig sabihin na ang AI Act ay walang kaugnayan sa pananagutan. Mahalaga ito sa tatlong paraan. Itinatakda nito ang pamantayan ng pangangalaga, upang ang hindi pagsunod ay maging ebidensya ng kapabayaan. Bumubuo ito ng mga dokumento, dahil ang teknikal na dokumentasyon, ang mga tagubilin para sa paggamit, ang mga log at ang post-market monitoring file ay pawang umiiral ayon sa batas at maaaring hingin sa mga paglilitis. At naglalaan ito ng mga tungkulin, upang ang tanong kung sino ang provider at kung sino ang deployer, na dating pinagtatalunan, ay mayroon na ngayong legal na sagot. Ang aming IT law practice ay humaharap sa mga tanong sa klasipikasyon bago pa man maging hindi pagkakaunawaan ang mga ito.
Kung saan nagtatagpo ang gumagamit at prodyuser
Karamihan sa mga totoong insidente ay hindi sanhi ng iisang pagkabigo sa isang dulo ng kadena. Ang mga ito ay sanhi ng isang modelo na sinanay sa datos na hindi kumakatawan sa populasyon kung saan ito inilapat, isinama ng isang supplier na hindi ito sinubukan sa kontekstong iyon, ipinatupad ng isang organisasyon na gumamit nito para sa isang layunin na hindi sakop ng mga tagubilin, at pinapatakbo ng mga kawani na hindi kailanman sinabihan kung ano ang mga limitasyon nito. Walang problema sa batas ng Dutch dito: maraming partido ang maaaring managot para sa parehong pinsala, bawat isa ay mananagot para sa kabuuan nito patungo sa napinsalang partido, at inaayos nila ang panloob na paghahati sa pagitan nila pagkatapos ayon sa kani-kanilang mga kontribusyon.
Itinatakda ng talahanayan sa ibaba kung saan karaniwang nakapuwesto ang responsibilidad at kung ano ang batayan nito.
| Kasiyahan | Karaniwang batayan ng pananagutan | Ano ang magpapasya sa resulta |
|---|---|---|
| Tagapagbigay o tagagawa | Pananagutan sa produkto nang walang pagkakamali; pananagutan sa kontrata laban sa kostumer. | Kung ang sistema ay nag-aalok ng kaligtasan na maaaring inaasahan, at kung ano talaga ang nakasaad sa dokumentasyon at mga tagubilin. |
| Partido na malaki ang pagbabago | Pumapasok sa posisyon ng prodyuser para sa binagong produkto. | Kung ang pagbabago ay lumampas sa nilalayong layunin o ginawa sa labas ng kontrol ng orihinal na prodyuser. |
| Pag-deploy ng organisasyon | Tort, paglabag sa sarili nitong tungkulin ng pangangalaga, pananagutan para sa mga empleyado at mga katulong. | Gamitin sa loob ng mga tagubilin, kalidad ng pangangasiwa ng tao, input data, pag-log at pagsubaybay. |
| Indibidwal na operator | Bihira ang personal na pananagutan; may kriminal na pagkakalantad kung saan sadyang ginagamit ang sistema. | Intensyon, o malubhang pagkakamali, at kung ang employer ba ang mananagot sa halip. |
Ang usapin ng mga benepisyo sa pangangalaga ng bata sa Netherlands ang siyang sangguniang punto na binabalikan ng bawat talakayan sa Netherlands, at inilalarawan nito ang padron sa halip na isang tuntunin ng batas: isang malabong sistema ng pag-uuri ng panganib, mga desisyong ginawa batay sa resulta nito nang walang tunay na indibidwal na pagtatasa, at mga kahihinatnan na ganap na napupunta sa mga taong tatanggap nito. Ang legal na resulta nito ay administratibo at politikal sa halip na kriminal, at tinatalakay namin kung ano ang ipinapakita at hindi ipinapakita nito tungkol sa kriminal na responsibilidad sa aming artikulo tungkol sa AI at batas kriminal.
Ang problema sa ebidensya, at kung paano ito nagbabago
Sinumang maghain ng reklamo ay kailangang patunayan ito, at sa mga kaso ng AI, ang patunay ang mahirap na bahagi. Kailangang ipakita ng naghahabol kung ano ang ginawa ng sistema, kung bakit iyon mali, at kung bakit ang pagkakamali ang naging sanhi ng pagkalugi. Ang impormasyong kailangan para magawa iyon ay nasa nasasakdal, at sa isang masalimuot na modelo, maaaring talagang mahirap itong muling buuin kahit sa loob ng sistema.
Tatlong pag-unlad ang nagbabago sa balanseng iyan. Ang pag-log ngayon ay isang legal na kinakailangan para sa mga sistemang may mataas na panganib, kaya ang rekord na dating opsyonal ay kailangang umiral. Ang pagsisiwalat ng ebidensya sa mga paghahabol sa pananagutan ng produkto ay magiging magagamit sa ilalim ng repormang rehimen, na sinusuportahan ng isang pagpapalagay ng depekto kung saan ang nasasakdal ay hindi sumunod. At ang pamamaraang sibil ng Dutch ay nagpapahintulot na sa isang partido na humingi ng pagpapakita ng mga partikular na natukoy na dokumento kung saan ito ay may lehitimong interes, na regular na ginagamit upang makakuha ng mga ulat ng pagsubok, mga talaan ng insidente at mga panloob na pagtatasa ng panganib.
Para sa isang nasasakdal, ang praktikal na konklusyon ay hindi komportable ngunit malinaw: ang dokumentasyong itinago mo ay ang dokumentasyong babasahin laban sa iyo, at ang dokumentasyong hindi mo natago ay itatago rin laban sa iyo. Ang kumpleto, may petsa, at tapat na mga talaan ng pagsusuri, mga kilalang limitasyon, mga insidente at ang kanilang paghawak ang pinakamalakas na magagamit na depensa, dahil ipinapakita nito na ang organisasyon ay gumamit ng paghatol sa halip na umasa para sa pinakamahusay. Kung saan ang insidente ay mayroon ding kriminal na dimensyon, halimbawa ang hindi awtorisadong pag-access sa mga sistema o manipulasyon ng data, ang balangkas kriminal para sa krimen sa computer at cyber crime sa Netherlands ay nalalapat kasabay ng sibil na paghahabol, at ang isang kriminal na imbestigasyon ay kukuha ng eksaktong parehong materyal.
Mga autonomous na sistema sa pisikal na mundo
Kapag ang isang AI system ay nagmamaneho ng sasakyan, nagpapalipad ng drone, o nagpapagalaw ng robot arm, may karagdagang pananagutan na nalalapat, at sa pangkalahatan ay mas mahigpit ito kaysa sa anumang napag-usapan sa ngayon. Ang pisikal na pinsala ay nagdudulot ng pananagutan sa panganib, na hindi nagtatanong kung may sinuman ang naging pabaya.
Para sa mga sasakyang de-motor, ang artikulo 185 ng Road Traffic Act 1994 ay nagsasaad na ang may-ari o may-ari ng isang sasakyang de-motor ay mananagot para sa pinsalang dulot sa mga naglalakad at siklista maliban kung mayroong force majeure, isang pamantayan na napakahirap matugunan. Ang panuntunang iyon ay walang pakialam kung ang isang tao o isang driver assistance system ang nagmamaneho: ang may-ari ang unang sasagot, at anumang pagsampa ng kaso laban sa tagagawa ng software ay susunod pagkatapos. Ang pagsubok sa mga tunay na self-driving na sasakyan sa mga pampublikong kalsada ay nangangailangan ng permit sa ilalim ng nakalaang batas sa eksperimento ng Dutch, at ang mga kundisyong kalakip ng permit na iyon, kabilang ang presensya at papel ng isang superbisor, ay nagiging bahagi ng pamantayan ng pangangalaga.
Ang mga unmanned aircraft ay pinamamahalaan ng mga regulasyon ng European drone, kung saan ang rehistrasyon ng operator at mga kinakailangan na nakadepende sa kategorya ay pinangangasiwaan sa Netherlands ng Rijksinspectie Digitale Infrastructuur. Ang isang operator na lumilipad sa labas ng kategorya nito, o walang kinakailangang kakayahan, ay hindi lamang lumalabag sa mga patakaran sa abyasyon; lumabag din ito sa pag-uugaling tatawagin ng korte na maingat, na lumulutas sa tanong ng kapabayaan bago pa man magsimula ang teknikal na debate tungkol sa autopilot.
Kasabay ng mga rehimeng ito ay ang pangkalahatang tuntunin sa mga bagay na may depekto. Ang may-ari ng isang bagay na naililipat na hindi nakakatugon sa mga pamantayang maaaring itakda para dito, at sa gayon ay lumilikha ng isang partikular na panganib, ay mananagot sa pinsalang dulot ng panganib. Ang tuntuning iyon ay umaabot sa pisikal na makina kahit na ang pinagbabatayang depekto ay nasa software nito, na isang dahilan kung bakit ang may-ari ng isang industrial robot o isang automated warehouse system ay hindi maaaring basta-basta ituro ang nagtitinda. Kung saan naaangkop ang product liability regime, ang dalawang sistema ay nag-uugnay, at ang napinsalang partido ay karaniwang tatahakin ang alinmang ruta na pinakamadaling patunayan.
Ang praktikal na kahihinatnan para sa mga organisasyong nagpapatakbo ng mga makinarya na may mga autonomous na tungkulin ay ang seguro at kontrata ay kailangang isaayos batay sa mahigpit na pananagutan, hindi sa pagsusuri batay sa pagkakamali. Sulit ang paghingi ng tulong laban sa isang supplier, ngunit hindi nito pinipigilan ang pag-angkin na makarating muna sa iyong pintuan.
Pagbabawas ng pagkakalantad sa magkabilang panig
Ang mga hakbang na nagbabawas ng pananagutan para sa mga sistema ng AI ay ang mga parehong hakbang na nagpapagana nang maayos sa mga sistema, kaya naman sulit na gawin ang mga ito anuman ang kalendaryo ng mga regulasyon.
Para sa isang organisasyong nagde-deploy, magsimula sa imbentaryo: kung aling mga sistema ang ginagamit, sino ang nagsusuplay sa mga ito, ano ang kanilang pinagpapasyahan o naiimpluwensyahan, at sino ang nagpapatakbo sa mga ito. Itakda ang iyong tungkulin para sa bawat isa, dahil magkakaiba ang mga tungkulin ng provider at deployer. Pagkatapos, isulat ang nilalayong layunin at manatili sa loob nito; ang pinakakaraniwang sanhi ng maiiwasang pananagutan ay ang paggamit ng isang tool para sa isang bagay na hindi ito napatunayan. Bigyan ang mga taong nagpapatakbo ng sistema ng totoong awtoridad na i-override ito, at sukatin ang mga ito sa pamamagitan ng paghatol sa halip na sa dami. Itago ang mga log, at itago ang mga ito nang sapat na katagalan upang maging kapaki-pakinabang sa isang hindi pagkakaunawaan. Itala ang mga insidente, kabilang ang mga muntik nang aksidente, at itala kung ano ang ginawa tungkol sa mga ito.
Para sa isang prodyuser o supplier, ang katumbas na listahan ay sumasaklaw sa buong lifecycle: dokumentadong pamamahala ng peligro, pamamahala ng datos na maaaring ipaliwanag sa isang regulator, pagsubok laban sa populasyon kung saan aktwal na gagamitin ang sistema, mga tagubilin para sa paggamit na tapat tungkol sa mga limitasyon at mga rate ng error sa halip na magbigay-katiyakan, isang channel para sa mga customer upang mag-ulat ng mga problema, at isang patakaran sa pag-update na nagsasabi kung sino ang responsable para sa mga security patch at kung gaano katagal. Ang binagong rehimen ng pananagutan sa produkto ay ginagawang mas matalas ang huling puntong iyon kaysa dati: ang hindi pagbibigay ng mga update na iyong sinubukang ibigay ay maaaring maging sanhi ng depekto ng produkto mismo.
Dapat ituring ng magkabilang panig ang kontrata bilang isang pagsasanay sa paglalaan ng panganib sa halip na isang pormalidad. Ang mga sugnay na mahalaga ay ang paglalarawan ng nilalayong layunin, ang mga garantiya tungkol sa pagsunod at pagganap, ang obligasyon na ibigay ang dokumentasyon at mga talaan, ang mga tungkulin sa pag-abiso ng insidente sa magkabilang direksyon, ang limitasyon sa pananagutan at ang mga pagkakahati nito, ang mga bayad-pinsala para sa mga paghahabol ng ikatlong partido at mga multa sa regulasyon, at ang mga kaayusan sa paglabas na tumutukoy kung ano ang mangyayari sa modelo at sa datos kung magwakas ang relasyon. Ang isang limitasyon na napagkasunduan nang buod, nang walang pagsangguni sa kung ano talaga ang pinagpapasyahan ng sistema, ay walang pinoprotektahan.
Panghuli, panatilihing nasa isip ang kriminal na pagkakalantad kahit na ang agarang panganib ay sibil. Ang pag-uusig sa isang kumpanya dahil sa isang pagkabigo ng AI ay hindi pa rin pangkaraniwan, ngunit ang mga elemento ay mga pangkaraniwan: isang tungkulin, isang paglabag, isang nakikinita na pinsala at isang organisasyon na maaaring maipakitang tinanggap ang panganib. Kung saan ang isang sistema ay ginagamit para sa isang bagay na malinaw na labag sa batas, o kung saan ang isang kumpanya ay patuloy na nagpapatakbo ng isang sistema na alam nitong nagdudulot ng pinsala, bukas ang kriminal na ruta, at ang pagsusuri ay inilalahad nang buo sa aming artikulo tungkol sa batas kriminal ng Dutch at ang kasamang artikulo tungkol sa mga algorithm at responsibilidad kriminal.
Mga madalas itanong
Maaari bang magsilbing saksi sa Korte ang isang AI?
Ang maikling sagot ay hindi, hindi bababa sa hindi sa kasalukuyang legal na tanawin. Ang konsepto ng isang saksi ay pangunahing tao. Upang maging saksi, ang isang tao ay dapat na manunumpa, na nangangakong magsasabi ng totoo. Kailangan din nilang magkaroon ng personal na kaalaman sa mga pangyayaring pinag-uusapan at makayanan ang cross-examination, kung saan sinusuri ang kanilang memorya, perception, at kredibilidad.
Hindi talaga natutugunan ng isang AI ang mga pamantayang ito. Wala itong malay, hindi kayang manumpa, at walang personal na alaala sa diwa ng tao. Sa pinakamabuti, kaya nitong ipakita ang datos na naproseso na nito. Ginagawa nitong mas parang ebidensya ito, tulad ng isang recording ng CCTV, kaysa sa isang aktwal na saksi. Ang output ng AI ay tiyak na maaaring iharap sa korte, ngunit isang ekspertong tao na nagpapaliwanag ng datos na iyon ang siyang tunay na nagsisilbing saksi.
Ano ang pagkakaiba sa pagitan ng Sibil at Kriminal na Pananagutan para sa AI?
Ang pagkakaibang ito ay mahalaga sa tuwing nagdudulot ng pinsala ang isang AI. Habang ang parehong sibil at kriminal na mga kaso ay nagsasangkot ng legal na pananagutan, ang kanilang layunin, ang pasanin ng patunay, at ang mga parusa ay magkahiwalay.
Narito ang isang direktang paraan upang pag-isipan ito:
- Pananagutan ng Sibil: Ito ay tungkol sa muling pagbubuo ng isang biktima. Ang pokus ay sa kabayaran para sa mga pinsala, tulad ng mga pagkalugi sa pananalapi mula sa isang sirang algorithm o mga pinsala mula sa isang autonomous na sasakyan. Mas mababa ang pamantayan ng patunay—kadalasan ay isang "balanse ng mga probabilidad."
- Pananagutan sa Kriminal: Ito ay tungkol sa pagpaparusa sa isang pagkakamali laban sa lipunan mismo. Nangangailangan ito ng patunay ng pagkakasala "nang lampas sa makatwirang pagdududa"—isang mas mataas na balakid—at maaaring humantong sa mabibigat na parusa tulad ng pagkabilanggo o malalaking multa.
Kapag sangkot ang isang AI, maaaring maharap ang isang kumpanya sa isang kasong sibil upang mabayaran ang mga danyos na dulot ng produkto nito. Ngunit para manatili ang mga kasong kriminal, dapat patunayan ng isang tagausig na ang isang taong aktor ay may "nagkasala na pag-iisip" ( mens rea ). Ito mismo ang dahilan kung bakit ang pananagutan ay sinusubaybayan pabalik sa isang tao, hindi sa makina.
Paano makapaghahanda ang aking organisasyon para sa batas ng EU AI?
Dahil ang mga regulasyon tulad ng EU AI Act ay ipinapatupad na at unti-unting ipinapatupad, ang paghihintay hanggang sa magkabisa ang mga huling obligasyon ay isang mapanganib na estratehiya. Ang maagap na pagsunod ang tanging paraan upang epektibong mabawasan ang iyong mga legal na panganib.
Narito ang ilang mahahalagang hakbang upang makapagsimula ka:
- I-classify ang Iyong AI Systems: Una, kailangan mong tukuyin kung aling kategorya ng panganib ang nabibilang sa iyong mga AI application—hindi katanggap-tanggap, mataas, limitado, o minimal. Ang klasipikasyong ito ay magdidikta sa iyong partikular na mga obligasyon sa pagsunod.
- Magsagawa ng Mga Pagtatasa sa Panganib: Para sa anumang sistemang may mataas na panganib, dapat kang magsagawa ng masusing pagtatasa upang matukoy at matugunan ang mga potensyal na pinsala sa mga pangunahing karapatan. Hindi lamang ito isang pagsusuri sa kahon; ito ay isang malalim na pagsusuri sa epekto ng iyong sistema.
- Tiyaking Transparency at Dokumentasyon: Panatilihin ang masusing talaan ng disenyo ng iyong AI, ang mga set ng data na ginagamit para sa pagsasanay, at ang mga proseso ng paggawa ng desisyon nito. Ang dokumentasyong ito ay mahalaga para sa pagpapakita ng pagsunod at pananagutan kung may nangyaring insidente.
Law & More nagpapayo sa mga organisasyong bumubuo ng mga sistema ng AI at mga organisasyong gumagamit ng mga ito, sa paglalaan ng panganib sa mga kontrata, sa klasipikasyon at mga tungkulin sa ilalim ng AI Act, at sa pagtatanggol o pagsasampa ng mga paghahabol kapag ang isang sistema ay nagdulot ng pagkalugi. Kung ang isang sistema ng AI sa iyong organisasyon ay nakagawa ng isang desisyon na ngayon ay hinahamon, makipag-ugnayan sa amin upang mabilis naming masuri ang posisyon.
