Module 2D - Overzicht van regulering van AI

Question 1

Wanneer riep EP en EC op om te onderzoeken of er nood is aan Europees geharmoniseerde civielrechtelijke regels voor robotica?

Answer 1

• Reeds in 2017 met vooral aandacht voor aansprakelijkheidskwesties.

Question 2

Ambitie Commissie regelgeving AI en resultaat?

Answer 2

• Ambitie binnen haar eerste 100 dagen een alomvattende Europese AI-strategie aan te nemen.
• Resultaat: 2020 gepubliceerde Europese Witboek over AI.

Question 3

Strategie EC Artificial Intelligence for Europe

Answer 3

• 2018: EC publiceerde haar strategie waarbij wordt benadrukt dat de mens centraal moet staan bij de ontwikkeling van AI.
• 3 ledige aanpak

Question 4

3ledige aanpak EC Artificial Intelligence for Europe

Answer 4

1. Publieke en particulieren investeringen in AI verhogen: doelstelling van 20 miljard euro tegen eind 200.
2. Maatregelen voor door AI veroorzaakte socio-economische veranderingen → onderwijs- en opleidingsstelsels moderniseren.
3. Passend ethisch en juridisch kader ontwikkelen.

Question 5

AI HLEG bijdrage debat regulering

Answer 5

• 2019 gepubliceerd: ‘Ethische Principes voor betrouwbare AI’

1. Definitie van een betrouwbaar AI systeem
2. Aanbevelingen ontwikkelaars -> AI systemen betrouwbaarder maken
3. Burgers controle over hun data
4. Impact op milieu
5. Mechanismen verantwoorelijkheid & verantwoordingsplicht

Question 6

Definitie van een betrouwbaar AI systeem volgens AI HLEG?

Answer 6

• Leeft alle toepasselijke regelgeving na, handelt in overeenstemming met ethische waarden en principes en is robuust op zowel sociaal als technisch vlak.

Question 7

Aanbevelingen ontwikkelaars → AI systemen betrouwbaarder te maken?

Answer 7

• AI systemen moeten mensen helpen om betere en beter geïnformeerde keuzes te maken die passen bij hun doelstellingen.

Question 8

Burgers controle bij ethische AI?

Answer 8

• Burgers volledige controle over eigen gegevens → die gegevens mogen ook niet gebruikt worden om hen te schaden of te discrimineren.

Question 9

Impact op milieu bij ethische AI?

Answer 9

Duurzame en ecologisch verantwoorde AI-systemen moeten worden aangemoedigd.

Question 10

Mechanismen verantwoordelijkheid verantwoordingsplicht bij ethische AI?

Answer 10

Mechanismen om deze resultaten te publiceren en waarborgen.

Question 11

ALTAI

Answer 11

• Na een publieke consultatie heeft AI HLEG de ALATAI gepubliceerd = Assessment List for Trustworthy Artificial Intelligence:
  
  • Vertaalt de ethische principes naar een toegankelijke en dynamische checklist → zo praktisch bruikbaar maken voor AI-ontwikkelaars.

Question 12

Wat is het Witboek over AI?

Answer 12

• Gepubliceerd op 19 februari 2020: benadrukt dat de EU een goede uitgangspositie heeft om het potentieel van AI te benutten, niet alleen als gebruiker of afnemer, maar ook als producent.

Question 13

Welke benadering stelt de EC voor in haar Witboek?

Answer 13

• Een benadering gericht op investeringen en regulering:
  
  1. Gebruik AI bevorderen
  2. Samenhangende risico’s vermijden en minimaliseren
• Beleidsopties → deze doelen te bereiken met respect voor de fundamentele waarden en rechten van alle EU-burgers.

Question 14

Belangrijkste bouwstenen in het Witboek?

Answer 14

1. Ecosysteem van excellentie
2. Ecosysteem van vertrouwen

Question 15

Wat stelt de EU voor om de ontwikkeling van AI te bevorderen?

Answer 15

• Een aantal concrete acties om de inspanningen op Europees, nationaal en regionaal niveau op elkaar af te stemmen → efficiënter en nauwer samenwerken in een aantal cruciale sectoren.

Question 16

Plan investering EU onderzoekscentra

Answer 16

• EC wil investeren in het versterken en ondersteunen van de samenwerking tussen bestaande onderzoekscentra. Zo kan de EU een voortrekkersrol nemen in domeinen zoals gezondheidszorg en mobiliteit.

Question 17

Hoe wil de EC de beste wetenschappers aantrekken?

Answer 17

• EC wil de beste onderzoekers & wetenschappers aantrekken → toonaangevende programma’s in hoger onderwijs.
• Per lidstaat zou minstens 1 digitale innovation hub moeten bestaan die in AI gespecialiseerd is. Verder moet de toegang tot data worden vereenvoudigd en verzekerd om accurate en betrouwbare AI-systemen te ontwikkelen.

Question 18

Gebruik AI door publieke sector gestimuleerd in het Witboek?

Answer 18

• EC wil dat ook de publieke sector gebruik maakt van AI voor haar diensten en producten.
• Sectorale dialoog opgestart met bijzondere aandacht voor gezondheidszorg en mobiliteit.
• → actieplan te komen rond het gebruik van AI in de publieke sector.

Question 19

Wat is er nodig volgens de EC om het vertrouwen van burgers, ondernemingen etc. in AI te versterken en zo het gebruik te bevorderen? Hoe wil ze dit verwezenlijken?

Answer 19

• Nood aan een regelgevend kader → uniek ecosysteem van vertrouwen.

Question 20

Wat zijn de 2 factoren die vertrouwen in AI kunnen aantasten volgens EC?

Answer 20

1. AI toepassingen die de fundamentele rechten niet respecteren
2. Veiligheidsrisico’s verbonden aan AI systemen en allocatie van aansprakelijkheid voor schade

→ risico’s rechtvaardigen een aangepast regelgevend kader.

Question 21

Wat is het probleem bij bestaande regulering toe te passen op AI?

Answer 21

• Er bestaat al een uitgebreid wettelijk kader, maar door het gebrek aan transparantie en de autonomie van AI → problemen bij toepassing van de regelgeving.
• De EC vindt het daarom belangrijk om na te gaan of het toepasselijk regelgevend kader al dan niet aangepast moet worden om de potentiële risico’s van AI op te vangen.

Question 22

Wat is er van belang bij nieuwe regelgeving rond AI?

Answer 22

Evenwichtsoefening: doelstellingen van vertrouwen & voortreffelijkheid zonder innovatie af te remmen en zonder ondernemingen té zwaar te belasten.

Question 23

Wat is een risico-gebaseerde benadering?

Answer 23

• Sleutelrol voor deze benadering → risicovolle AI-systemen worden aan strengere bepalingen onderworpen.

Question 24

Wat is een risicovol AI-systeem?

Answer 24

• 2 cumulatieve voorwaarden:

1. Specifieke sector: gezondheidszorg, mobiliteit en bepaalde delen van de openbare sector.
2. Impact op de betrokken partijen

• → wel rechtsonzekere criteria.

Question 25

Wat zullen bedrijven proberen aan te tonen bij AI?

Answer 25

Dat een bepaalde AI-applicatie geen hoog risico inhoudt, om zo aan bijkomende verplichtingen te ontsnappen.

Question 26

Is het mogelijk om een AI-applicatie ongeacht de sector als risicovol te kwalificeren?

Answer 26

* Ja, in uitzonderlijke omstandigheden: * bv. rekruteringsdoeleinden en voor biometrische identificatie.

Question 27

Voorwaarden waaraan een risicovol AI-systeem moet voldoen

Answer 27

* Robuustheid, nauwkeurigheid, het bijhouden van registers en data en de nood aan menselijk toezicht.

Question 28

Ex post vs. ex ante

Answer 28

* Vele juridische risico’s gecreëerd door AI-systemen die ex post resulteren in problemen kunnen immers in belangrijke mate opgevangen worden door ex ante de juiste voorzorgsmaatregelen bij het ontwerpen van AI-systemen te voorzien.

Question 29

Wat is CAHAI?

Answer 29

* = Ad hoc Committee on Artificial Intelligence binnen de Raad van Europa in september 2019, waarvan KU Leuven professor Peggy Valcke vicevoorzitter is.

Question 30

Doel CAHAI

Answer 30

* Haalbaarheid onderzoeken van een wettelijk kader voor ontwikkeling, ontwerp en toepassen van AI. * → brede raadpleging van meerdere belanghebbenden. * Wettelijk kader moet rusten op normen van Raad van Europa mbt mensenrechten, democratie en rechtsstaat.

Question 31

Wat doet het WIPO?

Answer 31

* = World Intellectuel Property Organization (WIPO) * Andere internationale organisatie die zich bezighoudt met de impact van AI op het geldend (intellectueel eigendoms)recht.

Question 32

Wat heeft het WIPO georganiseerd en wat was het resultaat?

Answer 32

* Eerste sessie: Conversation on IP and Artificial Intelligence. * Resultaat: Draft Issues Paper on Intellectual Property Policy and Artificial Intelligence waar belanghebbenden commentaar op mochten geven. * → Na 250 inzendingen: Revised Issues Paper.

Question 33

Over wat gaat het Revised Issues Paper

Answer 33

* Dit document spitst zich toe op het intellectueel eigendomsbeleid en bevat per onderwerp een lijst van pertinente vragen of pijnpunten die rijzen als gevolg van de impact van AI op de creatie, productie en verspreiding van economische en culturele goederen en diensten.

Question 34

Thema's besproken in deze papers van WIPO?

Answer 34

1. AI systeem zelf auteur of uitvinder van volledig autonoom gegenereerde resultaten indien zonder significante menselijke interventie? 2. Eigendomsrechten wanneer er geen menselijke interventie is? 3. Meer algemeen: vereist "artificiële" creativiteit dezelfde bescherming als menselijke creativities en is het vatbaar voor dezelfde incentives?

Question 35

AI systeem zelf auteur of uitvinder van volledig autonoom gegenereerde resultaten indien zonder significante menselijke interventie?

Answer 35

* Onder het Belgisch/Europees auteursrecht wordt evenwel algemeen aanvaard dat een AI-systeem geen auteur kan zijn, terwijl het Europees Octrooibureau (EOB) reeds heeft beslist dat een AI-systeem ook niet in aanmerking kan komen om beschouwd te worden als uitvinder.

Question 36

Wie heeft eigendomsrechten op creaties zonder menselijke interventies?

Answer 36

* In de rechtsleer worden reeds allerlei pistes voorgesteld, maar tot een definitief antwoord is men nog niet gekomen.

Question 37

Meer algemeen: vereist "artificiële" creativiteit dezelfde bescherming als menselijke creativities en is het vatbaar voor dezelfde incentives?

Answer 37

* Vraag is of die creaties bescherming verdienen onder intellectuele eigendomsrechten of moeten we een sui generis regime uitwerken?

Question 38

Waarom delicate discussies in het thema WIPO?

Answer 38

* Goed nagaan of er werkelijk nood is aan wetgevende interventie en goed de bestaansreden van verschillende regimes niet uit het oog verliezen.

Question 39

Wat heeft OESO aangenomen ivm AI?

Answer 39

* Eerste intergouvernementele standaard met betrekking tot AI aan: The Recommendation on Artificial Intelligence. * → **geen juridisch bindende kracht.**

Question 40

5 principes OESO ivm AI?

Answer 40

Deze 5 principes dienen ondertekende landen na te streven: 1. Inclusieve groei, duurzame ontwikkeling en welzijn 2. Mensgerichte waarden en billijkheid 3. Transparantie en verklaarbaarheid 4. Robuustheid, beveiliging en veiligheid 5. Verantwoording

Question 41

AI Policy Observatory?

Answer 41

* Dit online observatorium heeft als doel om informatie en multidisciplinaire analyses van de impact van AI op verschillende sectoren te verzamelen en verspreiden. * bv. sectie met nationale beleidsinitiatieven en strategieën * Bv. statistische gegevens omtrent AI ontwikkelingen

Question 42

Global Partnership on AI

Answer 42

* Internationaal inititief met als doel om een verantwoord AI-gebruik te bevorderen waarbij de mensenrechten en democratische waarden worden gerespecteerd. * Nog geen verdere stappen maar het is wel een interessante internationale samenwerking omdat zowel de EU, VS en India meedoen (Rusland en China niet). * Sommigen beschouwen dit dan ook als een bewuste geopolitieke zet om de dreigende overmacht van China op AI-vlak te beperken en te vermijden dat China de globale regels zou bepalen.

Question 43

Aan wat werkt UNESCO over AI en voordeel?

Answer 43

* UNESCO werkt aan een aanbeveling omtrent de ethische vereisten van AI. * Dit document is nog volop in de onderhandelingsfase en verschilt inhoudelijk slechts in beperkte mate van de gelijkaardige documenten binnen de EU of OESO. * Bij goedkeuring zal deze aanbeveling echter een grotere geografische reikwijdte hebben dan voornoemde initiatieven als gevolg van de ruimere groep deelnemende landen.

Question 44

Wat is AI4Belgium?

Answer 44

* AI4Belgium is een community-gedreven initiatief waarbij het doel is om mensen en organisaties in België in staat stellen om de door AI gecreëerde kansen te grijpen en de transities die AI veroorzaakt verantwoord te laten verlopen.

Question 45

Ambitie AI4Belgium

Answer 45

* België in het Europese AI-landschap te positioneren: AI4Belgium stelt alvast een aantal zeer concrete maatregelen voor (bv. een ‘new learning deal’ en een verantwoorde data strategie).

Question 46

Vlaanderen regulering AI?

Answer 46

* Ook in Vlaanderen wordt ingezet op de regulering van AI. Op 22 maart 2019 keurde de Vlaamse Regering het Vlaams Beleidsplan Artificiële Intelligentie goed.

Question 47

Wat zijn de drie luiken in de regulering in Vlaanderen?

Answer 47

1. Het versterken van top AI-strategisch basisonderzoek in Vlaanderen. 2. Implementatie AI in het Vlaamse bedrijfsleven 3. Ontwikkeling van een beleid gericht op bewustmaking, opleiding en ethische omkadering van AI.

Question 48

Oprichting KDM?

Answer 48

* Een van de acties is de oprichting van een Kenniscentrum Data & Maatschappij (KDM) dat gevormd wordt door drie Vlaamse onderzoeksgroepen: imec-VUB-SMIT, KU Leuven CiTiP en imec-UGent-MICT. * Het Kenniscentrum verstrekt op grond van toonaangevende onderzoeken advies en richtlijnen over AI aan beleidsmakers, bedrijven en het bredere publiek.

Question 49

Doel KDM

Answer 49

* Toonaangevende stem te worden te worden in de maatschappelijk verantwoorde ontwikkeling van AI in Vlaanderen. Het Kenniscentrum richt zich dus op juridische en ethische aspecten van AI. * → onderzoek of andere of bestaande regelgeving aan de realiteit van AI is aangepast en of hervormingen nodig zijn.

Question 50

Wat heeft het KDM al gedaan?

Answer 50

* Het KDM publiceerde ondertussen al een gids over AI en de Algemene Verordening Gegevensbescherming (AVG) en over de ‘vertaling’ van de AI HLEG ethische richtsnoeren naar Belgisch recht.