Blog Michelle Vrolijk
Op wie verhaal je de schade die is aangericht door een robot?
Robots en systemen nemen steeds meer taken over in het warehouse. Maar wie is aansprakelijk als een robot letsel veroorzaakt bij een medewerker? Zeker als het om een zelflerend systeem gaat, kan dat best ingewikkelde kwesties opleveren. Michelle Vrolijk, advocaat en partner bij ITL Attorneys Netherlands, denkt dat er de komende jaren vaker met juridische blik naar robotisering gekeken wordt. ‘Zorg er nu al voor dat de zorgplicht voldoende wordt nageleefd’, schrijft ze in haar blog.
Cobots, AGV’s en AI-gestuurde systemen nemen steeds meer taken over die voorheen alleen door mensen werden uitgevoerd. Op de werkvloer verandert er dus veel, maar juridisch gezien blijft het vooralsnog redelijk stil hierover. Vragen over aansprakelijkheid bij incidenten of de rechtspositie van mens versus machine worden in de praktijk nog nauwelijks gesteld. Toch denk ik dat dit de komende jaren flink zal veranderen.
In het arbeidsrecht is de situatie wat mij betreft nog redelijk overzichtelijk op dit moment. Wanneer een werknemer schade lijdt tijdens het werk, is de werkgever aansprakelijk, tenzij die laatste aan kan tonen dat hij zijn zorgplicht volledig is nagekomen. Oftewel: wanneer hij er alles aan gedaan heeft om schade te voorkomen. De inzet van een robot op de werkvloer verandert daar in beginsel niets aan. De werkgever is ook dan nog verantwoordelijk voor wat er op de werkvloer gebeurt. Maar wat die zorgplicht precies inhoudt in bijvoorbeeld een warehouse waar robots of AI-gestuurde systemen opereren, dát is wel een nieuwe vraag.
Want in hoeverre moet een werkgever weten wat een zelflerende robot precies gaat doen? Hoe beoordeel je of de maatregelen voldoende zijn als het gedrag van de machine deels onvoorspelbaar en zelfsturend is? En hoe verhoudt die zorgplicht zich tot wat we al kennen bij andere elektrische of mechanische apparaten die niet zelfstandig kunnen ‘nadenken’? Welke verantwoordelijkheid wordt aan wie toegekend en wie draait er voor op als er schade wordt veroorzaakt?
Periodes van onduidelijkheid
We zien dit soort periodes van onduidelijkheid natuurlijk wel vaker in het (arbeids)recht waarbij de technieken sneller veranderen dan de wet. Denk aan de vele discussies over platformarbeid: jarenlang was het onduidelijk hoe bestaande regels op partijen als Uber of Deliveroo van toepassing waren. Uiteindelijk is in Europa besloten dat er specifieke wetgeving voor platformmedewerkers nodig was, maar daar hebben wel jarenlange en talloze juridische procedures aan vooraf moeten gaan voordat er meer duidelijkheid kwam.
Voor robotisering op de werkvloer voel ik dezelfde ontwikkelingen aankomen. De huidige wetgeving sluit onvoldoende aan op de technologische realiteit en zal dus moeten gaan meebewegen. Daarbij ontstaat dan een interessante dynamiek: robots zijn geen werknemers in de zin van de wet, maar gedragen zich soms wel als collega’s. Zeker bij zogenoemde cobots, robots die met mensen samenwerken, kan die grens een beetje vervagen. Hoe autonomer een systeem functioneert, hoe complexer de juridische beoordeling dan ook kan worden. En dat maakt het lastig zodra er iets fout gaat. Want wat gebeurt er als een robot onverwacht uitwijkt en letsel veroorzaakt aan een collega? Was dit te voorzien? Had dit voorkomen kunnen worden? Had de werkgever kunnen ingrijpen? Is er sprake van een fout in de software? Waren er onduidelijke instructies gegeven?
Wie waarborgt de werking van de robot?
De gedachte dat een robot ooit als ‘werknemer’ zou moeten worden beschouwd, lijkt mij wat vergezocht, maar is vanuit juridisch oogpunt niet helemaal ondenkbaar. De vraag is alleen of dat echt een realistische benadering is. Een robot heeft immers geen (rechts)persoonlijkheid en kan dus geen partij zijn bij een arbeidsovereenkomst. Veel interessanter is daarom de praktische kant: hoe wordt gewaarborgd dat een robot op een betrouwbare, veilige en consistente manier blijft functioneren? Wat gebeurt er bijvoorbeeld met de prestaties van een systeem als de batterij afneemt? Of wanneer AI-algoritmes zich anders ontwikkelen dan voorzien? Moet er dan ook worden nagedacht over ‘digitale vermoeidheid’ van de robot of onderhoudsintervallen, vergelijkbaar met bijvoorbeeld de maximale arbeidstijden en rij- en rusttijden voor mensen? Niet omdat robots rechten zouden moeten krijgen, maar wel omdat werkgevers moeten kunnen garanderen dat het systeem op ieder moment veilig en zorgvuldig werkt.
Contractueel risico's afdekken
Ook in contractuele zin is er werk aan de winkel. De verwachting is dat leveranciers van robots of software hun aansprakelijkheid zo veel mogelijk zullen uitsluiten of beperken. In de praktijk betekent dit dat het gros van de risico’s (zoals letsel, datalekken of systeemuitval) uiteindelijk terechtkomt bij de gebruiker. En in het geval van schade aan werknemers dus bij de werkgever. Het is dan ook opmerkelijk dat er bij de implementatie van geautomatiseerde systemen nog weinig aandacht is voor contractuele afdekking van deze risico’s.
