Week 8 Flashcards
(15 cards)
Wat zijn de grootste uitdagingen van AI in het verbintenissenrecht?
- bewijsbaarheid van AI –> hoe is het te bewijzen dat iets is gemaakt door aI
- toerekenbaarheid van AI-handelingen ex art 6:162 lid 3 BW
- AI en rechtspersoonlijkheid
- het verkrijgen van informatie over de gebruikte AI
Zou een groot bedrijf voorstander zijn van het geven van rechtspersoonlijkheid aan AI?
Ja, hiermee verschuiven zij de aansprakelijkheid naar deze AI-producten in plaats van dat het bedrijf zelf aansprakelijk is. Zij vinden dus dat de EU een specifieke juridische status voor robots moet creëren, zodat autonome robots de status krijgen van elektronische personen die verantwoordelijk zijn voor het vergoeden van evtuele schade die zij veroorzaken.
Wat gebeurt er als we AI rechtspersoonlijkheid zouden geven?
Dan zouden we AI aansprakelijk kunnen stellen voor het vergoeden van schade. Echter het probleem dat dan ontstaat is, wie betaald er die schade? Oplossing hiervoor zou kunnen zijn dat de producenten een fonds oprichten waaruit de schade betaald kan worden als AI schade heeft veroorzaakt.
Wat houdt het Human in de loop principe in?
Dit houdt in dat de mens AI gebruikt, en dat er ook nog menselijk toezicht op het gebruik en de output van AI is.
Human out of the loop
Dit betekent dat AI alles doet en dat er geen menselijke controle meer is.
Mercedes bestelt 100.000 computerchips bij een fabrikant voor de productie van haar
voertuigen. Mercedes benadrukt bij het plaatsen van de bestelling dat de chips cruciaal zijn
voor de hele productie en dat de chips binnen de komende 48 uur geleverd moeten worden
- anders wordt de productie stilgelegd om het verlies te beperken. De fabrikant heeft
voldoende chips in voorraad en aanvaardt het aanbod.
Scenario A
De fabrikant vraagt zijn altijd betrouwbare werknemer om de chips de volgende dag per
auto bij Mercedes af te leveren. Helaas veroorzaakt zijn werknemer door nalatigheid een
ongeluk en worden alle chips vernietigd. De fabrikant heeft niet voldoende chips om een
nieuwe levering te doen. Mercedes is dus gedwongen de productie stil te leggen en eist
van de fabrikant schadevergoeding.
Heeft Mercedes een recht op schadevergoeding?
Kijken naar art 6:74 6:75 en 6:76 BW, dus ja, mercedes heeft recht op schadevergoeding. Er is namelijk een tekortkoming in de nakoming, maar de aangesprokenen moet wel nalatig zijn. In casu is dat het geval, want door het nalatig handelen van de werknemer treedt er schade op wat kan worden toegerekend aan de fabrikant.
In plaats van zijn werknemer besluit de fabrikant zijn AI-gestuurde vrachtdrone te gebruiken om de
chips bij Mercedes af te leveren. De fabrikant heeft de vrachtdrone eerder zonder problemen
gebruikt en volgt alle verstrekte instructies. Maar na de laatste aanbevolen software-update is de
drone onderhevig aan een reward hack. De vrachtdrone vliegt dus de chips naar Mercedes, maar
brengt ze dan terug naar de fabrikant en dan begint precies dezelfde procedure opnieuw. De AI van
de vrachtdrone “denkt” dat het beter is om de taak (hier: de chips naar Mercedes brengen)
meerdere keren uit te voeren in plaats van één keer. Het AI-systeem “beloont” zichzelf voor het
meermaals uitvoeren van dezelfde taak. Deze “bug” staat bekend als “reward hacking“. Tijdens de
(nutteloze) vijfde poging om de chips af te leveren raakt de batterij van de vrachtdrone leeg en stort
neer, waardoor alle chips worden vernietigd. Net als in scenario A heeft de fabrikant niet voldoende
chips om een nieuwe levering te doen.
Opnieuw moet Mercedes de productie stilleggen en eist schadevergoeding. Is het allemaal zo
“eenvoudig” als in scenario A? En is het resultaat hetzelfde?
Kijken naar art 6:74 6:75 en 6:77 BW. in dit geval wordt er gebruik gemaakt van een hulpzaak, namelijk een AI drone. Er moet gekeken worden of er sprake is van een ongeschikte hulpzaak –> HR PIP Borstimplantaten. de zaak moet ten tijde van het gebruik daarvan geschikt zijn. In dit geval kon de fabrikant ervan uitgaan dat er niks mis was me de drone ten tijde van het gebruik van die drone, waardoor de fabrikant dus niet aansprakelijk gesteld kan worden voor de geleden schade van Mercedes.
Kan louter virtuele AI (dus zonder fysieke zaak eraan) dienen als een hulpzaak?
Nee, want AI is software, en dit is geen stoffelijk object als bedoeld in art 3:2 BW.
Gaat het Nederlandse recht uit van schuld- of risicoaansprakelijkheid?
Nederland gaat uit van schuldaansprakleijkheid. het moet dus aan de aangesprokenen te wijten zijn dat er schade is ontstaan. risicoaansprakelijkheid is de uitzondering en dan in het bijzonder productaansprakelijkheid.
Waar staat productaansprakelijkheid?
art 6:185 BW
Wat is productaansprakelijkheid?
Dit is aansprakelijkheid van de producent van een gebrekkig product dat schade veroorzaakt art 6:185 BW
Als er een AI drone op een werknemer van Mercedes valt en die raakt zwaar gewond. Kan de producent dan aansprakelijk gesteld worden? Wat is je advies als advocaat van de werknemer?
- Een beroep op schuldaansprakelijkheid ex art 6:162 BW zal niet zo snel slagen omdat het moeilijk is om te bewijzen dat de AI drone gebreken had.
- Een beroep op productaansprakelijkheid van artikel 6:185 BW. Er moet dan sprake zijn van een gebrekkig product die schade heeft veroorzaakt. De werknemer hoeft hier niet te bewijzen dat er sprake is van schuld van de producent, want er geldt hier risicoaansprakelijheikheid. hij moet wel kunnen bewijzen dat de drone gebrekkig was en dit zal lastig worden want de producent zal geen informatie willen verstrekken.
Oplossing van de Europese Commissie hiervoor was (want is weer ingetrokken) dat er in de richtlijn inzake aansprakelijheid voor producten met gebreken werd vastgelegd dat er een plicht tot openbaarmaking van het bewijsmateriaal geldt. er is dan een weerlegbaar vermoeden van een causaal verband tussen Schuld en het gedag van AI.
Indien er een robot wordt gebruikt met AI voor een operatie, en deze werkt in het begin goed, maar later door een update maakt deze een fout en ontstaat er schade. kan er een beroep worden gedaan op productaansprakelijkheid ex art 6:185?
Hierbij is het tijdstip waarop het product in het verkeer is gebracht. en hier ontstaat het probleem. want ten tijde dat de robot in het verkeer is gebracht, was er niks mis mee. dus naar actueel NL recht is de producent niet aansprakelijk want op het tijdstip van het in het verkeer brengen van de AI-robot was hij niet gebrekkig. hij is ten slotte pas later na de update gebrekkig geworden. hier schiet de wetgever dus tekort.
Als er alleen een virtuele AI wordt gebruikt, en deze richt schade aan, valt deze dan onder artikel 6:185 en geldt er dus productaansprakelijheid?
Nee wat virtuele AI is geen stoffelijk object en dus geen zaak in de zin van art 3:2 BW. Er zou dan dus geen productaansprakelijkheid gelden.
Stel de nieuwe richtlijn productaansprakelijkheid is al in werking getreden. Zou een AI-producent van een virtuele AI, of van een AI die aan software onderhevig is aansprakelijk gesteld kunnen owrden?
Ja, want AI en software gaan gezien worden als een product. ook het tijdstip waarop het product in eht verkeer is gekomen is niet meer belsissen. Wel beslissend is of de producent nog controle over het product heeft dmv updates. als dit het geval is is de producent aansprakelijk.
