Algemene ledenvergadering van de Nederlandse vereniging voor Artificial

Algemene ledenvergadering van de Nederlandse vereniging voor Artificial Intelligence en Robotrecht 20 november 2021 online Huishoudelijk deel

HUISHOUDELIJK DEEL 15. 30 -45 • Opening door de voorzitter • Ledenaantal: 100 • Voorstel nieuw bestuur: Anne, Jos, Monique en Nine stellen zich voor • Financiën: toelichting penningmeester • Statutenwijziging: toelichting secretaris/ Willem Korthals of penningmeester • Ter vaststelling: het jaarverslag, bestaande uit de balans en de staat van baten en lasten (winst- en verliesrekening) met een toelichting penningmeester • Benoeming twee leden voor de kascommissie • Verslag 2019, Toelichting door het bestuur • WVTTK • Sluiting

Algemene ledenvergadering van de Nederlandse vereniging voor Artificial Intelligence en Robotrecht 20 oktober online AANSPRAKELIJKHEID AI

Agenda • • • 16. 00 - 16. 20 Inleiding thema: voorzitter 16. 20 - 16. 25 vragen discussie 16. 25 - 16. 45 inleiding Nine Bennink 16. 45 - 16. 50 vragen discussie 16. 50 - 17. 00 inleiding Hub Dohmen • Algemene discussie : moet aansprakelijkheidsrecht aan AI worden aangepast of lukt het ook zo wel?

EUROPA Witboek AI Brussel, 19. 2. 2020 COM(2020) 65 final • A. PROBLEEMSTELLING KI kan veel goed doen, onder meer door producten en processen veiliger te maken, maar kan ook schade berokkenen. Het kan dan zowel om materiële (veiligheid en gezondheid van personen, met inbegrip van verlies van mensenlevens, schade aan eigendom) als om immateriële (schending van privacy, beperkingen van het recht op vrijheid van meningsuiting, schendingen van de menselijke waardigheid, discriminatie, bijvoorbeeld bij de toegang tot werk) schade gaan, en kan betrekking hebben op een grote verscheidenheid aan risico’s. Het regelgevingskader moet aandacht besteden aan de wijze waarop de verschillende risico’s op mogelijke schade tot een minimum kunnen worden beperkt,

Rechtspersoonlijkheid en aansprakelijkheid • Rechtssubject of rechtsobject ? : ondergeschikt (6: 170 BW), nietondergeschikt (6: 171 BW), bewegend object (6: 173 BW), als dier, kind, slaaf, machine of instrument. • Productaansprakelijkheid: (6: 185 BW) • Werkgeversaansprakelijkheid en zorg (7: 128 BW) • Natuurlijk persoon of rechtspersoon als onderneming? • Humanoid v. s. industriële robot (zoekmachine), • zwerm als onderneming • Rechtshandelingen? : handelen met rechtsgevolgen: - overeenkomst koop en verkoop; aansprakelijkheid? Falen in taak / service; illegale handelingen?

Aansprakelijkheid ai • Report from the Commission to the European Parliament, the Council and the European Economic and Social Committee Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics, Brussels, 19. 2. 2020 COM(2020) 64 final: “The self-learning feature of the AI products and systems may enable the machine to take decisions that deviate from what was initially intended by the producers and consequently what is expected by the users”. , (. . . ) and: ” There may be also situations in the future where the outcomes of the AI systems cannot be fully determined in advance. In such a situation, the risk assessment performed before placing the product on the market may no longer reflect the use, functioning or behaviour of the product.

Naar een nieuwe richtlijn? • Civielrechtelijk aansprakelijkheidsstelsel voor artificiële intelligentie Resolutie van het Europees Parlement van 20 oktober 2020 met aanbevelingen aan de Commissie betreffende het civielrechtelijk aansprakelijkheidsstelsel voor kunstmatige intelligentie (2020/2014(INL))

Risico aansprakelijkheid • risicoaansprakelijkheid betekent dat een partij aansprakelijk kan zijn zonder dat er sprake is van schuld • Dat gebrek aan transparantie van een dergelijk systeem het uiterst kostbaar of zelfs onmogelijk kan maken om te bepalen wie de controle heeft over het risico dat aan het AI-systeem verbonden is, of welke code, input of data uiteindelijk de schadelijke werking heeft veroorzaakt

Aanpassing RL produktaansprakelijkheid • “producent” houdt ook in fabrikanten, ontwikkelaars, programmeurs, dienstverleners, alsmede backend operators, • de aansprakelijkheid van de operator wordt gerechtvaardigd door het feit dat hij de controle heeft over een risico dat aan het AI-systeem verbonden is, en… • Ziet aansprakelijkheidsdekking als een van de sleutelfactoren is die het succes van nieuwe technologieën, producten en diensten bepalen

Ethische normen? • dat degelijke ethische normen voor AIsystemen in combinatie met solide en billijke schadevergoedingsprocedures kunnen helpen deze juridische problemen aan te pakken en het risico weg te nemen dat gebruikers minder bereid zijn om opkomende technologieën te omarmen

De Verordening • Deze verordening is van toepassing op het grondgebied van de Unie wanneer door een AIsysteem aangestuurde fysieke of virtuele activiteiten, apparaten of processen schade hebben toegebracht aan het leven, de gezondheid of de lichamelijke integriteit van een natuurlijk persoon of aan het eigendom van een natuurlijke of rechtspersoon, of significante immateriële schade hebben veroorzaakt die tot een verifieerbaar economisch verlies heeft geleid.

Hoog risico • 1. De operator van een AI-systeem met een hoog risico is aansprakelijk voor alle schade die wordt veroorzaakt door fysieke of virtuele activiteiten, apparaten of processen die door dat AI-systeem worden aangestuurd. • Verplichte risico verzekering • Schuldaansprakelijkheid voor andere AIsystemen