Kuka on vastuussa, kun tekoälyjärjestelmä aiheuttaa vahinkoa?

Alankomaissa tekoälyjärjestelmien vastuu on aina henkilöllä tai yrityksellä, ei koskaan ohjelmistolla. Käytännössä kahdella näkökulmalla on merkitystä: käyttäjällä, joka tarkoittaa henkilöä tai organisaatiota, joka ottaa järjestelmän käyttöön ja tekee sen kanssa päätöksiä, ja tuottajalla, joka tarkoittaa osapuolta, joka on kehittänyt järjestelmän, saattanut sen markkinoille tai toimittanut sen. Se, kumpi näistä kahdesta kantaa vahingon, riippuu siitä, missä vika sijaitsi, mitä kumpikin tiesi ja mitä heidän välinen sopimus sanoo. Tässä artikkelissa käsitellään molempia näkökulmia; itse rikosoikeudellinen kehys, toiminnallisesta teosta yritysvastuuseen rikoslain 51 §:n nojalla, esitetään rinnakkaisartikkelissamme, joka käsittelee sitä, voiko algoritmi olla osittain vastuussa.

Miksi järjestelmä ei ole koskaan vastaaja

Alankomaiden laki tunnustaa kahdenlaiset henkilöt: luonnolliset henkilöt ja oikeushenkilöt. Tekoälyjärjestelmä ei ole kumpaakaan. Sillä ei voi olla oikeuksia, sitä ei voida haastaa oikeuteen, sitä ei voida sakottaa eikä sitä voida määrätä maksamaan vahingonkorvauksia, koska se ei omista mitään eikä sillä ole oikeudellista olemassaoloa erillään sitä ylläpitävästä yrityksestä. Ehdotuksista kolmannen luokan, jota joskus kutsutaan sähköiseksi henkilöllisyydeksi, luomiseksi on keskusteltu Euroopan tasolla, mutta ne eivät ole johtaneet mihinkään syystä, joka on enemmän käytännöllinen kuin filosofinen: vastuuvakuutusyhtiö, jolla ei ole varoja eikä kykyä muuttaa käyttäytymistään, siirtäisi riskin pois osapuolilta, jotka voivat tosiasiallisesti estää vahingot.

Joten kysymys ei ole koskaan siitä, onko kone vastuussa. Kysymys on siitä, mikä ketjun ihminen tai yritystoimija laiminlöi velvollisuutensa, ja tällä ketjulla on ennustettava muoto: osapuoli, joka rakensi mallin, osapuoli, joka muutti sen tuotteeksi, osapuoli, joka toimitti tai integroi sen, organisaatio, joka otti sen käyttöön, ja henkilö, joka painoi nappia. Tekoälyjärjestelmien vastuu on ketjun laiminlyönnin paikantamista ja sen yhdistämistä oikeusperustaan.

Kaksi näistä oikeusperustoista on hallitsevia. Käyttäjän kannalta yleinen vahingonkorvausoikeus ja huolellisuusvelvollisuus, joka liittyy tehokkaan työkalun käyttämiseen jonkun toisen suuntaan. Tuottajan kannalta tuotevastuu, joka ei edellytä lainkaan syytä. Kaikki muu, mukaan lukien rikosoikeudellinen vastuu, kerrostuu näiden päälle.

Käyttäjän sijainti

Käyttäjät aliarvioivat altistumistaan, koska he ajattelevat järjestelmää jonkun muun rakentamana mustana laatikkona. Lain mukaan henkilö, joka päättää ottaa työkalun käyttöön, konfiguroi sen, syöttää siihen tietoja ja toimii sen tulosten perusteella, tekee jotain, ja tätä tekemistä arvioidaan sen omien ansioiden perusteella.

Kun järjestelmä on vain rikoksen väline

Helpoimmat tapaukset ovat ne, joissa tekoälyjärjestelmää käytetään tahallaan. Vakuuttavan laskun luominen yrityksen huijaamiseksi on petos rikoslain 326 §:n nojalla riippumatta siitä, laatiko kirjeen henkilö vai malli, ja asiakirjan väärentäminen on edelleen väärennös 225 §:n nojalla työkalusta riippumatta. Mallin käyttäminen järjestelmään murtautuvan koodin kirjoittamiseen on edelleen tietomurtoa 138ab §:n nojalla. Oikean henkilön manipuloitujen kuvien luominen ja levittäminen voi olla kunnianloukkaus, ja jos materiaali on luonteeltaan seksuaalista, se kuuluu 1. heinäkuuta 2024 alkaen voimassa olleen seksuaalirikoslain piiriin. Jatkuva tekoälyavusteinen yksilön häirintä voi olla 285b §:n mukaista vainoamista, josta nostetaan syyte vain uhrin ilmoituksesta.

Mikään tässä ei ole uusi laki. Teknologia muuttaa petoksen laajuutta ja uskottavuutta, ei rikoksen elementtejä. Se muuttaa kuitenkin todisteita: kehotteet, tililokit, mallien tuotokset ja tiedostojen luomisen ajoitus ovat aineistoa, joka yhdistää rikoksen henkilöön, ja käyttäjät, jotka olettavat, että tekoälyn luomaa sisältöä ei voida jäljittää, ovat yleensä väärässä.

Huolimaton käyttö: yleisempi riski

Paljon useammat organisaatiot joutuvat vaikeuksiin huolimattomuuden kuin tahallisuuden vuoksi. Kaava on tuttu. Järjestelmä ostetaan yhteen tarkoitukseen ja sitä käytetään toiseen. Sen tuotosta pidetään päätöksenä pikemminkin kuin signaalina. Kukaan ei tarkista tapauksia, joissa se on virheellinen, koska sitä käyttäville ihmisille ei koskaan kerrottu, miltä sen virheprosentti näyttää tai missä se epäonnistuu. Kun vahinko toteutuu, organisaatio huomaa, ettei sillä ole mitään tietoja siitä, miten päätökseen on päädytty.

Siviilioikeudellisesti tämä on suoraviivaista vahingonkorvausta: siviililain 6:162 §:n mukaan henkilö on vastuussa hänen syykseen kuuluvasta laittomasta teosta, joka aiheuttaa vahinkoa. Huolenpitovelvollisuuden rikkominen yhteiskunnassa on yksi laittomuuden luokista, ja tämän velvollisuuden sisältö määräytyy sen mukaan, mitä huolellinen toimija olisi tehnyt samassa asemassa. Työnantaja on lisäksi vastuussa työntekijöidensä virheistä 6:170 §:n nojalla, ja osapuoli, joka käyttää apuhenkilöä sopimusvelvoitteen täyttämiseen, vastaa kyseisestä apuhenkilöstä 6:76 §:n nojalla, joka on säännös, jonka mukaan organisaatio käyttää toimittajan mallia oman palvelunsa toimittamiseen.

Huolenpitovelvollisuus ei ole enää kokonaan tuomioistuinten keksittävissä. EU:n tekoälylaki antaa riskialttiiden järjestelmien käyttöönottajille konkreettisia velvoitteita: käyttää järjestelmää ohjeiden mukaisesti, antaa ihmisen valvontaan päteviä ja valtuutettuja henkilöitä, varmistaa, että heidän hallinnassaan olevat syöttötiedot ovat relevantteja, valvoa toimintaa ja keskeyttää käyttö, jos riski ilmenee, pitää lokeja ja ilmoittaa työntekijöille ja heidän edustajilleen ennen tällaisen järjestelmän käyttöönottoa työpaikalla. Nämä velvoitteet ovat sääntelyyn perustuvia, mutta huolimattomuutta arvioiva tuomioistuin tulkitsee ne kuvaukseksi siitä, miltä huolellinen toiminta näyttää. Organisaatio, joka on jättänyt käyttöohjeet huomiotta, ei ole pelkästään vaatimustenvastainen; se on antanut kantajalle asiansa.

Automaatiovinouma ansaitsee erillisen maininnan, koska juuri siinä valvonta epäonnistuu hiljaisesti. Arvioija, joka hyväksyy lähes kaiken, mitä järjestelmän ehdotukset, ei harjoita valvontaa, ja organisaatio, joka mittaa henkilöstönsä läpimenoaikaa, on käytännössä suunnitellut lopputuloksen. Oikeudellinen kysymys on, tehtiinkö päätös todella ihmisen toimesta, eikä kumileimasin kelpaa tähän tarkoitukseen.

Kun käyttäjä ei voi siirtää riskiä eteenpäin

Kolme kohtaa yllättää säännöllisesti organisaatioita, jotka olettivat toimittajan kantavan riskin.

Ensinnäkin, vahinkoa kärsineeseen kolmanteen osapuoleen nähden käyttäjä on näkyvä osapuoli. Asiakas, jolta evätään luotto, seulontatyökalu hylkää työntekijän, väärän luokittelun saanut potilas: he tekevät sopimuksen käyttöönottajan kanssa tai heitä hoitaa käyttöönottaja, ja he haastavat käyttöönottajan oikeuteen. Se, voiko käyttöönottaja saada korvauksia toimittajaltaan, on erillinen kysymys, joka riippuu sopimuksesta eikä viivytä sitä vastaan ​​nostettua vaatimusta.

Toiseksi yleisiä tietosuojasääntöjä sovelletaan kaikesta muusta riippumatta. Jos järjestelmä käsittelee henkilötietoja, käyttöönottaja on yleensä rekisterinpitäjä, joka on vastuussa oikeusperustasta, läpinäkyvyydestä, vaikutustenarvioinnista ja turvallisuudesta. Yksinomaan automatisoidusti tehty päätös, jolla on oikeusvaikutuksia tai joka vaikuttaa henkilöön vastaavalla merkittävällä tavalla, on erikseen säännelty ja antaa kyseiselle henkilölle oikeuden ihmisen puuttumiseen asiaan ja oikeuden riitauttaa päätöksen tulos. Yleisen tietosuoja-asetuksen katsauksessamme esitetään tämä järjestelmä.

Kolmanneksi, muokkaaminen muuttaa rooliasi. Käyttöönottajasta, joka lisää järjestelmään oman nimensä, muuttaa sen käyttötarkoitusta tai muokkaa sitä olennaisesti, tulee tekoälylain mukainen palveluntarjoaja ja perii palveluntarjoajan velvoitteet. Yleiskäyttöisen mallin hienosäätö säännellyn päätöksen seulontatyökaluksi on juuri sellainen askel, joka ylittää tämän rajan. Organisaatioiden, jotka rakentavat jonkun toisen mallin varaan, tulisi selvittää, kummalla puolella mallia ne ovat, ennen julkaisua, ei vasta tapahtuman jälkeen.

Tuottajan asema

Valmistajan vastuu kulkee eri rataa pitkin ja se on ankarampi. Tuotevastuu siviililain 6:185 artiklan ja sitä seuraavien pykälien nojalla tekee valmistajasta vastuussa tuotteensa virheen aiheuttamasta vahingosta ilman, että vahinkoa kärsineen tarvitsee todistaa virhettä. Tuote on virheellinen, kun se ei tarjoa sitä turvallisuutta, jota henkilöllä on oikeus odottaa, ottaen huomioon sen esittelyn, kohtuudella odotettavan käytön ja liikkeellelaskun ajankohtan. Vahingonkorvauksen hakijan on näytettävä toteen vahinko, virhe ja niiden välinen syy-yhteys, mikä tekoälytapauksessa on todellinen kiistanaihe.

Järjestelmällä on kiinteät rajat. Korvausvaatimukset on esitettävä kolmen vuoden kuluessa siitä päivästä, jona vahinkoa kärsinyt osapuoli sai tietää tai hänen olisi pitänyt saada tietää vahingosta, puutteellisesta turvallisuudesta ja valmistajan henkilöllisyydestä, ja oikeus vanhenee kymmenen vuoden kuluttua siitä, kun kyseinen tuote laskettiin liikkeelle. Tämän järjestelmän mukaista vastuuta ei voida sulkea pois tai rajoittaa sopimuksella, ja se kattaa kuoleman, henkilövahingon ja muun yksityiskäytössä olevan omaisuuden vahingot alempaan kynnysarvoon asti. Valmistajalla on rajallinen joukko puolustuksen perusteita, mukaan lukien kehitysriskin puolustus, jota sovelletaan, jos tieteellisen ja teknisen tietämyksen taso ei olisi voinut paljastaa puutetta tuotteen liikkeellelaskuhetkellä.

Uudistus, joka muuttaa ohjelmistojen asemaa

Alankomaiden nykyisen järjestelmän mukaan tuote on irtain esine, ja siitä, täyttääkö itsenäinen ohjelmisto tämän säännöksen, on kiistelty vuosia. Tämä väittely on nyt päättymässä. Tarkistettu tuotevastuudirektiivi, direktiivi (EU) 2024/2853, tuli voimaan 8. joulukuuta 2024, ja se on saatettava osaksi kansallista lainsäädäntöä viimeistään 9. joulukuuta 2026. Sitä sovelletaan kyseisen päivämäärän jälkeen markkinoille saatettuihin tai käyttöön otettuihin tuotteisiin, joten nykyiset siviililain säännökset koskevat edelleen ennen sitä liikkuneita tuotteita. Neljä muutosta on merkityksellisiä tekoälyjärjestelmien vastuun kannalta.

Ohjelmisto, mukaan lukien tekoälyjärjestelmät ja digitaaliset valmistustiedostot, on nimenomaisesti tuote. Vastuullisten osapuolten piiri laajenee valmistajan lisäksi kattamaan osapuolen, joka olennaisesti muuttaa tuotetta valmistajan hallinnan ulkopuolella, valtuutetun edustajan, maahantuojan ja tietyissä olosuhteissa toimituspalvelun tarjoajan ja verkkoalustan. Korvattavaan vahinkoon kuuluvat myös sellaisten tietojen tuhoutuminen tai vioittuminen, joita ei käytetä ammattimaisesti, mikä on todellinen tappioluokka ohjelmistovirheiden yhteydessä. Ja tuote voi olla viallinen sen vuoksi, mitä tapahtuu sen markkinoille saattamisen jälkeen: vaaditun ohjelmistopäivityksen vika, tietoturvapäivitysten toimittamatta jättäminen tai jatkuvan oppimisen vaikutukset, kun valmistaja säilytti hallinnan tuotteesta.

Uudistus puuttuu myös suoraan näyttöongelmaan. Tuomioistuin voi määrätä vastaajan esittämään asiaankuuluvat todisteet kantajan pyynnöstä, ja jos vastaaja ei noudata määräystä, oletetaan, että todisteet ovat virheellisiä. Kumottavissa olevia virheellisyyttä ja syy-yhteyttä koskevia olettamia sovelletaan, kun kantajalla on kohtuuttoman vaikeuksia todistaa ne teknisen tai tieteellisen monimutkaisuuden vuoksi, edellyttäen, että kantaja esittää todennäköisyyden uskottavaksi. Kantajalle, joka joutuu kohtaamaan mallin, jota kukaan ei voi täysin selittää, tämä on ero kiistanalaisen ja mahdottoman tapauksen välillä.

Sopimus, vaatimustenmukaisuus ja poissulkemislausekkeiden rajat

Yritysten välinen ensimmäinen taistelukenttä on yleensä sopimus eikä laki. Tekoälyjärjestelmän toimittaja on velkaa sen, minkä se on sopinut olevansa velkaa: toimitetun järjestelmän on vastattava sopimusta ja oltava ominaisuuksiltaan sellainen, että ostajalla oli oikeus odottaa. Jos toimittaja lupasi tarkkuustason, saatavuustason tai tekoälylain noudattamisen, sen toimittamatta jättäminen on sopimusrikkomus, ja tavanomaiset suoritus-, vahingonkorvaus- ja sopimuksen purkamisoikeudelliset keinot seuraavat asianmukaisen laiminlyöntiilmoituksen jälkeen.

Toimittajat vastaavat rajoitus- ja poissulkemislausekkeilla, ja nämä lausekkeet ovat yleensä tehokkaita kaupallisten osapuolten välillä. Ne eivät ole rajattomia. Lauseke voidaan kumota, jos siihen vetoaminen olisi kohtuullisuuden ja oikeudenmukaisuuden standardien mukaisesti mahdotonta hyväksyä, mikä on tuomioistuinten käyttämä tapa toimittajan tahallisen piittaamattomuuden tai vakavan virheen tapauksissa. Jos lauseke on yleisluontoinen, se voi hylätä, jos toiselle osapuolelle ei ole koskaan annettu aitoa mahdollisuutta ottaa siitä huomioon. Tuotevastuujärjestelmän mukaista vastuuta ei voida lainkaan poistaa vahinkoa kärsinyttä osapuolta vastaan. Käytännössä neuvotteluissa on kyse enimmäismääristä, tietoturvaloukkausten ja immateriaalioikeusloukkausten poikkeuksista, korvauksista sääntelyyn liittyvistä sakoista sekä toimittajan velvollisuudesta toimittaa asiakirjat ja lokit, joita asiakas tarvitsee puolustautuakseen. Vahingonkorvausvaatimuksia käsittelevällä sivullamme esitetään, miten nämä vaatimukset rakentuvat.

Mitä tekoälylaki tekee ja ei tee

Tekoälylaki on sääntelyväline. Se kertoo palveluntarjoajille ja käyttöönottajille, mitä tehdä, ja antaa valvojille valtuudet sen täytäntöönpanoon; se ei luo oikeutta korvaukseen tekoälyjärjestelmän vahingoittamalle henkilölle. Ehdotettu tekoälyvastuudirektiivi, joka olisi yhdenmukaistanut siviilioikeudelliset vaatimukset ja ottanut käyttöön tiedonantovelvollisuuden ja olettamat kaikilla osa-alueilla, on vedetty pois. Jäljelle jää edellä kuvattu yhdistelmä: kansallinen vahingonkorvaus- ja sopimusoikeus sekä uudistettu tuotevastuujärjestelmä.

Tämä ei tee tekoälylaista merkityksetöntä vastuun kannalta. Sillä on kolme merkitystä. Se vahvistaa huolellisuusstandardin, joten vaatimustenvastaisuus on osoitus huolimattomuudesta. Se tuottaa asiakirjoja, koska tekninen dokumentaatio, käyttöohjeet, lokit ja markkinoille saattamisen jälkeinen valvontatiedosto ovat kaikki lain mukaan olemassa ja niitä voidaan vaatia oikeudenkäynneissä. Ja se jakaa roolit, joten kysymys siitä, kuka on palveluntarjoaja ja kuka on käyttöönottaja, joka aiemmin oli kiistanaihe, on nyt saanut oikeudellisen vastauksen. IT-oikeuden toimistomme käsittelee näitä luokittelukysymyksiä ennen kuin niistä tulee kiistoja.

Missä käyttäjä ja tuottaja kohtaavat

Useimmat todelliset vaaratilanteet eivät johdu yhdestä ketjun päässä olevasta viasta. Ne johtuvat mallista, joka on koulutettu datalla, joka ei edustanut sitä populaatiota, johon sitä sovellettiin, jonka on integroinut toimittaja, joka ei ole testannut sitä kyseisessä kontekstissa, jonka on ottanut käyttöön organisaatio, joka on käyttänyt sitä tarkoitukseen, jota ohjeet eivät kata, ja jonka operoi henkilöstö, jolle ei ole koskaan kerrottu sen rajoituksia. Alankomaiden laissa tämä ei ole ongelma: useat osapuolet voivat olla vastuussa samasta vahingosta, kukin on vastuussa koko vahingosta vahinkoa kärsineelle osapuolelle, ja he sopivat sisäisen vastuunjaon keskenään jälkikäteen omien osuuksiensa mukaisesti.

Alla oleva taulukko esittää, kenen vastuu tyypillisesti jakautuu ja millä perusteella.

Alankomaiden lastenhoitoetuuksien tapaus on viitekehys, johon jokainen hollantilainen keskustelu palaa, ja se kuvaa pikemminkin kaavaa kuin oikeusvaltioperiaatetta: läpinäkymätöntä riskiluokitusjärjestelmää, sen tulosten perusteella tehtyjä päätöksiä ilman todellista yksilöllistä arviointia ja seurauksia, jotka lankesivat kokonaan kohderyhmien kannettavaksi. Sen oikeudelliset seuraukset olivat pikemminkin hallinnollisia ja poliittisia kuin rikosoikeudellisia, ja käsittelemme tekoälyä ja rikosoikeutta käsittelevässä artikkelissamme, mitä se osoittaa ja ei näytä rikosoikeudellisesta vastuusta.

Todisteongelma ja miten se muuttuu

Vaatimuksen esittäjän on näytettävä se toteen, ja tekoälytapauksissa todistaminen on vaikein osa. Kantajan on osoitettava, mitä järjestelmä teki, miksi se oli väärin ja että väärinteko aiheutti tappion. Tähän tarvittavat tiedot ovat vastaajan hallussa, ja monimutkaisessa mallissa sen rekonstruointi voi olla todella vaikeaa jopa sisäisesti.

Kolme kehitystä muuttaa tätä tasapainoa. Kirjaaminen on nyt lakisääteinen vaatimus korkean riskin järjestelmille, joten aiemmin valinnainen kirjaus on oltava olemassa. Uudistetun järjestelmän myötä todisteiden esittäminen tuotevastuuvaatimuksissa tulee mahdolliseksi, ja sitä tukee virheellisyysolettama, jos vastaaja ei noudata vaatimuksia. Alankomaiden siviiliprosessi sallii jo nyt osapuolen vaatia tiettyjen, yksilöityjen asiakirjojen toimittamista, joihin sillä on oikeutettu intressi, ja tätä käytetään säännöllisesti testiraporttien, tapahtumalokien ja sisäisten riskinarviointien hankkimiseen.

Vastaajan kannalta käytännön johtopäätös on epämukava mutta selvä: säilyttämäsi asiakirjat luetaan sinua vastaan, ja säilyttämättä jäänyt asiakirjat luetaan myös sinua vastaan. Täydelliset, päivätyt ja rehelliset tiedot testauksesta, tunnetuista rajoituksista, tapahtumista ja niiden käsittelystä ovat vahvin käytettävissä oleva puolustus, koska ne osoittavat, että organisaatio on käyttänyt harkintaansa sen sijaan, että olisi toivonut parasta. Jos tapahtumalla on myös rikollinen ulottuvuus, esimerkiksi luvaton pääsy järjestelmiin tai tietojen manipulointi, Alankomaiden tietokone- ja kyberrikollisuutta koskeva rikosoikeudellinen kehys sovelletaan siviilioikeudellisen vaatimuksen rinnalla, ja rikostutkinnassa takavarikoidaan täsmälleen sama materiaali.

Autonomiset järjestelmät fyysisessä maailmassa

Kun tekoälyjärjestelmä ohjaa ajoneuvoa, lentää dronea tai liikuttaa robottikäsivartta, sovelletaan lisävastuukerrosta, joka on yleensä tiukempi kuin mikään tähän mennessä käsitelty. Fyysinen vahinko tuo mukanaan riskivastuun, jossa ei kysytä, onko kukaan toiminut huolimattomasti.

Moottoriajoneuvojen osalta vuoden 1994 tieliikennelain 185 artikla tekee moottoriajoneuvon omistajasta tai haltijasta vastuussa jalankulkijoille ja pyöräilijöille aiheutuneista vahingoista, ellei kyseessä ole ylivoimainen este, mikä on erittäin vaikea täyttää. Tämä sääntö ei ole riippumaton siitä, ohjasiko ajoneuvoa ihminen vai kuljettajaa avustava järjestelmä: haltija on vastuussa ensin, ja mahdolliset korvausvaatimukset ohjelmiston valmistajaa vastaan ​​tapahtuvat vasta sen jälkeen. Aidosti itseohjautuvien ajoneuvojen testaaminen julkisilla teillä edellyttää lupaa Alankomaiden kokeilulainsäädännön mukaisesti, ja lupaan liittyvät ehdot, mukaan lukien valvojan läsnäolo ja rooli, tulevat osaksi huolellisuusstandardia.

Miehittämättömiin ilma-aluksiin sovelletaan eurooppalaisia ​​drone-määräyksiä, ja Alankomaissa käyttäjien rekisteröintiä ja luokkiin liittyviä vaatimuksia hallinnoi Rijksinspectie Digitale Infrastructuur. Luokkansa ulkopuolella tai ilman vaadittua pätevyyttä lentävä käyttäjä ei ainoastaan ​​riko ilmailusääntöjä, vaan se on myös astunut tuomioistuimen varovaisiksi määrittelemän menettelytavan ulkopuolelle, mikä ratkaisee huolimattomuuskysymyksen jo ennen kuin autopilottia koskeva tekninen keskustelu edes alkaa.

Näiden järjestelmien rinnalla on yleinen sääntö viallisista esineistä. Irtaimen esineen haltija, joka ei täytä sille asetettuja standardeja ja siten aiheuttaa erityisen vaaran, on vastuussa vaaran aiheuttamasta vahingosta. Tämä sääntö ulottuu fyysiseen koneeseen, vaikka taustalla oleva vika olisi sen ohjelmistossa, mikä on yksi syy siihen, miksi teollisuusrobotin tai automatisoidun varastojärjestelmän omistaja ei voi yksinkertaisesti osoittaa myyjää. Tuotevastuujärjestelmän soveltuessa nämä kaksi järjestelmää ovat vuorovaikutuksessa, ja vahinkoa kärsinyt osapuoli yleensä valitsee sen, mikä on helpoin todistaa.

Käytännön seuraus autonomisia toimintoja omaavien koneiden käyttäjille on, että vakuutukset ja sopimukset on järjestettävä ankaran vastuun, ei syyllisyyteen perustuvan analyysin, perusteella. Toimittajaa vastaan ​​​​käytettävä takautumisvaatimus on kannattava, mutta se ei estä korvausvaatimuksen saapumista ensin kotiovellesi.

Altistuksen vähentäminen molemmilta puolilta

Tekoälyjärjestelmien vastuuta vähentävät toimenpiteet ovat samoja toimenpiteitä, jotka saavat järjestelmät toimimaan oikein, minkä vuoksi ne kannattaa toteuttaa sääntelyaikataulusta riippumatta.

Käyttöönottavan organisaation kannattaa aloittaa inventaariolla: mitä järjestelmiä käytetään, kuka ne on toimittanut, mitä ne päättävät tai mihin ne vaikuttavat ja kuka niitä käyttää. Määrittele roolisi kullekin järjestelmälle, koska toimittajan ja käyttöönottajan tehtävät eroavat toisistaan. Kirjoita sitten ylös käyttötarkoitus ja pysy siinä; yleisin vältettävissä olevan vastuun syy on työkalun käyttö johonkin, mihin sitä ei ole validoitu. Anna järjestelmän käyttäjille todellinen valtuudet ohittaa se ja arvioi heitä harkinnan, ei määrän, perusteella. Säilytä lokit ja säilytä niitä riittävän kauan, jotta niistä on hyötyä riitatilanteessa. Kirjaa ylös tapaukset, mukaan lukien läheltä piti -tilanteet, ja kirjaa, mitä niille tehtiin.

Tuottajan tai toimittajan osalta vastaava luettelo kulkee läpi koko elinkaaren: dokumentoitu riskienhallinta, sääntelyviranomaiselle selitettävissä oleva tiedonhallinta, testaus järjestelmää tosiasiallisesti käytettävää populaatiota vasten, käyttöohjeet, jotka ovat rehellisiä rajoitusten ja virhemäärien suhteen rauhoittelun sijaan, kanava asiakkaille ongelmien ilmoittamiseen sekä päivityskäytäntö, jossa kerrotaan, kuka on vastuussa tietoturvakorjauksista ja kuinka kauan. Uudistettu tuotevastuujärjestelmä tekee tästä viimeisestä asiasta entistä terävämmän: päivitysten toimittamatta jättäminen, jotka olet luvannut toimittaa, voi itsessään tehdä tuotteesta viallisen.

Molempien osapuolten tulisi käsitellä sopimusta riskinjakona pikemminkin kuin muodollisuutena. Tärkeimmät lausekkeet ovat kuvaus käyttötarkoituksesta, takuut vaatimustenmukaisuudesta ja suorituskyvystä, velvollisuus luovuttaa dokumentaatio ja lokit, molempiin suuntiin sovellettavat ilmoitusvelvollisuudet, vastuun yläraja ja sen poikkeukset, korvaukset kolmansien osapuolten vaatimuksista ja sakoista sekä irtautumisjärjestelyt, jotka määrittävät, mitä mallille ja tiedoille tapahtuu, jos suhde päättyy. Vastuunkanto, josta neuvotellaan abstraktisti ottamatta huomioon järjestelmän todellisia päätöksiä, ei suojaa ketään.

Lopuksi, pidä rikosoikeudellinen vastuu mielessä, vaikka välitön riski olisi siviilioikeudellinen. Yrityksen syytteeseenpano tekoälyn toimintahäiriöstä on edelleen epätavallista, mutta elementit ovat tavanomaisia: velvollisuus, rikkomus, ennakoitavissa oleva vahinko ja organisaatio, jonka voidaan osoittaa hyväksyneen riskin. Kun järjestelmää käytetään johonkin selvästi laittomaan tai kun yritys jatkaa järjestelmän käyttöä, jonka se tietää aiheuttavan vahinkoa, rikosoikeudellinen tie on avoin, ja analyysi esitetään kokonaisuudessaan artikkelissamme Alankomaiden rikoslaista ja siihen liittyvässä algoritmeja ja rikosoikeudellista vastuuta käsittelevässä artikkelissamme.

Usein kysyttyjä kysymyksiä

Law & More neuvoo tekoälyjärjestelmiä rakentavia ja niitä käyttäviä organisaatioita sopimusten riskien jakamisessa, tekoälylain mukaisessa luokittelussa ja velvollisuuksissa sekä korvausvaatimusten puolustamisessa tai esittämisessä, kun järjestelmä on aiheuttanut tappioita. Jos organisaatiosi tekoälyjärjestelmä on tuottanut päätöksen, jota nyt haastetaan, ota meihin yhteyttä, jotta voimme arvioida tilanteen nopeasti.