Ethics deel 2: AI Flashcards
(13 cards)
Je situeert AI in de vernieuwende technologische samenleving.
Second machine age
Technologie verlicht en vervangt niet alleen fysische processen maar ook cognitieve processen. AI staat midden deze evolutie
Drie tendenzen die de context van de secon machine age in kaart brengen
1) Digitalisering
Betere hardware software belangrijker
Verspreiding smartphones verbeterde internetverbindingen meer mensen met internet geconnecteerd
IoT meer toepassingen verbonden met internetIoE toegenomen internetactiviteit groot voluma data beschikbaar
Data science > analyse data > vaak gebruikt in functie marketing > analyses maken, trends voorspellen
AI en machine learning
Ruime ontwikkeling intelligente systemen die bijleren in interactie met hun omgeving
Ontwikkeling die na de komst van het internet een van de grootste revoluties in de samenleving zou kunnen teweegbrengen
Automatiseren van afgelijnde opdrachten die intelligentie vereisen
Sommige zelfsturend en kunnen bijleren
Je legt aan de hand van een aantal voorbeelden uit wat AI is
.
Je past de structuur van de bespreking van de deugd van de deugd van de voorzichtigheid in het hoofdstuk rond AI uit
- Concrete realiteit
o Zoeken naar wat de concrete realiteit ons biedt
o Eerste element deugd voorzichtigheid
o Wat de concrete technische realiteit zal brengen nog niet helemaal duidelijk
o Bv. combinaties AI en # andere technische toepassingen (Internet of things, big data)
o Specialisten verschillen van mening over de mogelijkheid van de singulariteit en over hoe AI in de toekomst verder zal ontwikkelen.
Discussie ontwikkelen van een vorm van artificiële intelligentie die de mens evenaart ontslaat ons niet van de verplichting om pro actief na te denken over de verantwoordelijkheid die deze nabijheid met zich meebrengt - Maatschappelijke evolutie
o AI brengt als exponent van de techniek een maatschappelijke evolutie met zich mee.
o Proces van vervreemding, dat samengaat met een overheersing van de techniek.
o Verandering in samenleving die we schetsten stemt tot nadenken
o Wat is menselijk in de evolutie en op welke manier kunnen we sommige aspecten afremmen en andere aspecten versterken?
o Enkele negatieve aspecten mag niet leiden tot het weggooien van het kind met het badwater.
o Europese Commissie > ziet positieve invloed van AI
Betrouwbare AI mensen sterker tot bloei en collectieve welzijn verbeterd, welvaart, waardecreatie en vermogensmaximalisatie
o EU wil ethische en robuuste AI verder ontwikkelen, op een betrouwbare manier. - Betrouwbare AI
o Drie componenten
(1) De AI moet wettig zijn
(2) de AI moet ethisch zijn
(3) de AI moet robuust zijn
o Bouwen AI > verschillende motivaties
Gestuurd door militaire of economische ambities
Europese commissie wil concurrentiepositie van de EU in rekening brengen en de economische gevolgen verder afwegen, maar maakt geen analyse van de pro’s en contra’s
Situatie warin dergelijke technologie wordt ontwikkeld vaak tijdsafhankelijk - Rol van tijdsdruk
o Niet altijd de tijd om alle mogelijke omstandigheden en toepassingen van een systeem te testen en uitgebreid te bekijken hoe een systeem reageert.
o Bv. vandaag komen fouten vaak voor bij systemen die bedoeld waren om voorgeprogrammeerd te zijn, maar waarvan programmeurs bepaalde werkingsomstandigheden buiten beschouwing hebben gelatene.
orzichtigheid
Praktische wijsheid
- optimistisch geloof
- doemscenario’s
Vertrekken van de realiteit
- empirische data
onderzoek
- kennis mens en samenleving
publiek debat
- discussie
- onderzoekers
Leg uit wat computerethiek is aan de hand van de film I, Robot.
1) Een robot mag een mens geen letsel toebrengen door te handelen of door niet te handelen.
2) Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de eerste wet
3) Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de eerste of tweede wet
Later kwam er een wet bij
4) Een robot mag de mensheid geen schade berokkenen, of, door inactiviteit, toelaten dat de mensheid schade wordt berokkend.
Je duidt het verschil tussen ethisch denken en probleemoplossend denken.
Verschillen ethisch en probleemoplossende denken
1) Ethisch denken draagt een normatieve component in zich
Ethisch component: driedubbele moeilijkheid
- Normen te concreet om een systeem te programmeren die in alle situaties geldig is
- Controverse over inhoud van dergelijke normen
o Normen cultureel bepaald
Welke ethische normen kunnen we bijgevolg kiezen
o Niet duidelijk wat er moet gebeuren als een conflict optreedt tussen verschillende normen
2) Discussie en controverse over waar ethisch denken uit bestaat
Bijkomende moeilijkheid
- Ethiek in eerste plaats: reflectie op de waarden, normen en opvattingen die leven in een samenleving
o Hedendaagse auteurs hebben aangetoond dat er ook altijd een emotionele component in het ethisch denken meespeelt
Ethisch denken mogelijk als deze emotionele component helemaal buiten spel gezet wordt?
3) Eén van de moeilijkste vormen van denken om te bestuderen.
- Verschillende ethische denkpatronen mogelijk
o Toont de complexiteit van het ethisch denken en tegelijk de moeilijkheid om een eenduidige algoritme op te stellen dat aan deze complexiteit tegemoet komt
o Programmeren ethisch denkende AI een veel moeilijkere drempel dan op het eerste gezicht lijkt.
o Botst op de diversiteit en de complexiteit van de materie, op de moeilijkheid om het gevolg van een bepaalde handeling adequaat te kunnen inschatten en te beoordelen. De complexiteit van de reële samenleving brengt daarbij in de meeste gevallen de nood aan het maken van een afweging met zich mee.
Criteria niet altijd even duidelijk
Beschrijf beknopt op welke manier de evolutie van techniek van de oudheid tot vandaag uitgemond is in het apparatenparadigma.
Evolutie van mens, techniek en samenleving
- Evolutie van verhouding tussen mens, techniek en samenleving laatste jaren in stroomversnelling gekomen
- Daarvoor veranderde visie op techniek zeer langzaam
o Soms eeuwen voor bepaalde technologieën zich verder ontwikkelden
o Gebruik techniek beperkt
De oudheid
Oudheid en groot deel in middeleeuwen:
In het spoor van Aristoteles
Men ging er vanuit dat techniek niets ‘nieuws kon creëren
Deed niet veel meer dan ontsluieren wat in de natuur vervat zat
Schema: zowel mens als techniek binnen natuur
De middeleeuwen
Grondlegging > wat mogelijk is op vlak van technologieontwikkeling
Komst christendom + scheppingsidee (bijbel) > omslag visie verhouding mens, natuur en visie techniek
God = schepper, buiten natuur
Mens naar zijn beeld en gelijkenis, ook buiten natuur
Opdracht om aarde te bewerken, rentmeester
Ontwikkeling van techniek in functie bepaald doel
Soms eeuwen voor nieuwe technologie werd ontwikkeld
Vroege middeleeuwen
- Doel techniek meestal zeer praktisch, gerelateerd aan interesses van kloosters en abdijen
- In wetenschappen bloeiden technologie en filosofie sterk op
Late middeleeuwen
- Veel technische kennis opgedaan bij bouw van kathedralen en steden
Hele middeleeuwen
- Gebruik van techniek beperkt door bepaalde religieuze voorschriften als belangrijker ervaren dan technische hulpmiddelen zelf.
De moderne tijd
Tijdens de overgang naar de moderne tijd
Regels, tradities, opvatting over mens, werk, natuur en techniek in vraag gesteld.
Religieuze beperkingen stap voor stap opgegeven.
Andere opvatting over techniek:
Plaatste onder invloed van het christendom en van de nieuwe filosofische ideeën de mens centraal als degene die de wereld naar zijn hand kan zetten.
Godsgeloof bij heel wat filosofen aanwezig, minder invloed op visie techniek.
Descartes
- Ontwikkelde een mechanisch wereldbeeld
- Een filosofie gebaseerd op de wiskunde en maakte komaf met alle grote theorieën
Francis Bacon
- Ontwikkelde de experimentele methode zoals we die in de hedendaagse wetenschap kennen.
- Werkelijkheid op een zodanige manier na bootsen dat men de te bestuderen factoren kan laten variëren terwijl alle andere factoren constant blijven.
- Verzamelen van de relevante info > conclusies trekken > verdere kennis opbouwen
Naar vandaag toe
Lijkt geen grenzen meer te hebben, lijkt gekenmerkt te worden door iets excessief, iets buitenmatig.
In die zin kan men vandaag de visie op techniek niet beperken door over techniek te spreken als een instrument om een bepaald doel te bereiken.
Groot deel van ons leven wordt mee vorm gegeven door technologische toepassingen
Techniek is bepalend geworden voor de manier waarop mensen vandaag naar zichzelf, naar anderen en naar de samenleving als geheel kijken
Evolutionaire/revolutionaire factor in de samenleving. Ze brengt zowel maatschappelijk, politiek als cultureel veranderingen met zich mee.
Albert Borgmann: patroon dat eigen is aan de typische manier (paradigma) waarmee mensen in de hedendaagse samenleving beïnvloed worden door technologie (concrete apparaten).
Technologie lijkt zich boven de mens te plaatsen en in zekere zin te bepalen hoe we als mens moeten leven.
Omschrijf de invloed van techniek in het algemeen en AI in het bijzonder op de mens en de samenleving aan de hand van de begrippen apparatenparadigma, automatisering, vervreemding en technologische dreiging.
Ons bestaan is gekenmerkt door permanente aanwezigheid van technologie die in het verborgene haar werk doet.
Dergelijke manier van omgaan met techniek zorgt ervoor dat mensen vandaag een eerder afstandelijke houding hebben ten opzichte van mechaniek.
Het apparatenparadigma en de mens
Dit omgaan met de realiteit stopt niet bij het omgaan met de techniek:
Appratenparadigma heeft ook een invloed op de manier warop mensen met elkaar omgaan. Ook de mens lijkt hierbij soms ‘geconsumeerd’, dat wil zeggen vooral als middel benaderd te worden. Mensen worden als het ware verdingelijkt.
De manier waarop artificiële intelligentie wordt bekeken en de invloed daarvan op de mens.
Eén van de grote onderzoeksgebieden in AI is gericht op het ontwikkelen van een device dat de menselijke intelligentie evenaart.
Daartoe probeert technologie men via reverse engineering de werking van de hersenen na te bootsen. Men zou kunnen zeggen dat hier ook de focus op het product ligt.
Men probeert technologie te ontwikkelen die de menselijke intelligentie als product, als output heeft.
Mens in het vizier in discussies AI: verliest zijn bijzondere status. Wordt als het ware een machine tussen de machines. Emoties zijn te herleiden tot chesmische processen, intelligentie is het product van elektrische impulsen in de hersenen. Het is enkel een kwestie van tijd vooraleer we een soort mens 2.0 kunnen bouwen. Verschillende vragen komen hier naar boven.
Wat maakt het onderscheid tussen mens en machine
Als het hele menselijke handelen gekopieerd kan worden in een machine (en in tweede instantie overstegen kan worden) hebben we dan het ultieme bewijs van een materialistisch mensbeeld, waar vrije wil geen rol meer speelt
De mens in inferieur aan de machine
De vergelijking tussen mens en machine, toont dat mens slechts een tweederangsmachine is
Een inferieur apparaat.
Lijkt niet efficiënt ontworpen, toont talrijke gebreken.
Te midden van onze technische hoogstandjes zijn wij de zwakste schakels en worden we geacht ons als dingen te gedragen.
Niet de computer die rekenfout maakt, maar de blunderende programmeur of boekhouden.
Doemscenario’s voor de menselijke waardigheid
Bij komst van AI op niveau van de mens wordt de evolutie van de menselijke soort doorbroken
Mens verliest evolutionaire race aan een nieuw soort
Post-humaan tijdperk samensmelting van mense en machine
Afstandelijke houding kenmerkend voor apparatenparadigma lijkt mens naar de achtergrond te duwen ten voordele van een ander en beter product
Apparatenparadigma:
Door automatisering is er minder menselijke tussenkomst voorondersteld, mens noodzakelijke schakel producttie controleren en gaande houden
Posities mens en techniek dreigen omgewisseld te worden
Mens overheersen en controle over nemen
Zekere angst te weeg
Processen: automatisering en vervreemding als technologische dreigen die van de ontwikkeling van nieuwe autonome wapens uitgaat werken deze angst in de hand.
Vervreemding: Keert op bepaalde momenten de sturing om: mens onderworpen aan de techniek
Uit zich op twee verschillende manieren:
Door automatisering > werk gefragmentariseerd > lopende band > mens slechts een onderdeel van machinaal gestuurde productieproces
Zwakste schakel, de minst efficiente schakel van de ketting
Bekeken vanuit functie en wordt bemeesterd
Onderwerpeng en de fragmentering samen komen voor de mens bevreemdend over.
Op bepaalde momenten versterkt als mens zich geleefd weet in plaats van zijn eigen leven in handen te kunnen nemen
Leg de drie principes voor designers uit die als filter dienen voor de verdere ontwikkeling van AI en illustreer deze met een voorbeeld
.
Beschrijf op welke manier het publieke debat een rol speelt in het opnemen van pro-actieve verantwoordelijkheid
Visie op het goede leven/vraag waar het met onze samenleving naartoe moet niet eenvoudig te beantwoorden
Binnen AI dient er ook rekening mee gehouden te worden dat elke specifieke context waar AI wordt geïmplementeerd nog bijkomende ethische uitdagingen met zich meebrengt
Angst in verband met het ontwikkelen van AI, niet zozeer angst voor technologie op zich, maar een angst om overheerst te worden door technologie.
EC: nood aan menselijke controle en menselij toezicht
Als tech mens gaat sturen > men komt bij een aantal doemscenarios
Visie op het goede leven bevat ook altijd een visie op de manier waarop de samenleving vorm moet krijgen
Rawls
- Aandacht voor de vraag naar het goede leven
o Specialisten verschillen van mening over de mogelijkheid van de singulariteit en over hoe AI in de toekomst verder zal ontwikkelen.
Discussie ontwikkelen van een vorm van artificiële intelligentie die de mens evenaart ontslaat ons niet van de verplichting om pro actief na te denken over de verantwoordelijkheid die deze nabijheid met zich meebrengt
- Op welke manier kijkt maatschappij naar mens en samenleving
Leg de twee grote uitdagingen uit die de verdere ontwikkeling van AI aan de mens zelf biedt
Pas de idee van een rechtvaardige samenleving zoals die door Rawls verder is ontwikkeld toe op de analyse van AI en automatisering
Een visie op de samenleving
Visie op het goede leven bevat altijd visie op de manier waarop de samenleving moet vorm krijgen.
Rawls visie op de samenleving
Deze visie op een rechtvaardige samenleving is een toetsteen om ook naar de verhouding tussen ontwikkeling van AI en de werkgelegenheid te kijken.
In de woorden van de EC: Overeenkomstig de beginselen van rechtvaardigheid en preventie van schade moeten de samenleving in bredere zin, andere wezens met gevoel en het milieu gedurende de KIlevenscyclus ook als belanghebbenden worden beschouwd.
Aan wie komt deze ontwikkeling ten goede?
Een eerste belangrijk element dat hier speelt is de rechtvaardigheid van de ontwikkelde systemen zelf.
AI-systemen kunnen soms gebaseerd zijn op een vertekende dataset of kunnen door de onvolledigheid of omwille van andere redenen een duidelijke bias hebben die ten koste gaat van een groep mensen of van individuele belanghebbenden.
Op welke manier kan AI bijdragen aan de ontwikkeling van AI bijdragen aan de verandering van de samenleving zodat dit de situatie van diegene die in de zwakste positie zitten in onze samenleving ten goede komt?
Rawls maximin-principe kan hier als uitgangspunt dienen
- Hoe ervoor zorgen dat ontwikkelingen niet alleen investeerders en grootindustirëlen ten goede komen, maar ook werknemers die dreigen hun job te verliezen?
- Analoog aan de digitale kloof, dient vermeden te worden dat er ook zoiets ontstaat als een AI-kloof, waarbij AI-systemen slechts voor een beperkte groep toegankelijk zijn.
- Discussie rond herverdeling van de voordelen van de geschetste evolutie een noodzakelijke debat dat zelfs de nationale grenzen overstijgt.
- Mondt automatisering in een verdere kapitaalsconcentratie?
- Wie heeft voldoende financiële middelen om als consument te kunnen delen in de voordelen van de AI-revolutie?
Beschrijf in welke mate de verdere ontwikkeling van AI een invloed heeft op de ecologische kwestie en waarom
Potentie om een aantal van de meest urgente maatschappelijke zorgen te verhelpen, maar er moet wel worden gezorgd dat dit zo milieuvriendelijk mogelijk gebeurt.
Verdere automatisering > niet alleen financiële uitkomst > Reduceren van de arbeidskost in productie zou normaal gezien een daling van de prijs met zich moeten meebrengen en een grotere consumptie.
Deze toenemende consumptie gaat op verschillende vlakken in tegen de ecologische uitdaging waar we vandaag voor staan.
Omvat drie elementen:
(1) de zorg voor de beschikbaarheid van grondstoffen en
(2) het energieprobleem dat met de beschikbaarheid van fossiele brandstoffen samengaat en
(3) de opwarming van de aarde. Dit ecologische vraagstuk sluit aan bij wat wij de visie op de samenleving hebben genoemd.
Leg uit op welke manier de komst van AI een invloed kan hebben op de arbeidsmarkt en welke uitdagingen dit met zich meebrengt
schrik > machines onze arbeid zouden overnemen oud > het begin van de ICT-evolutie in de jaren zeventig doen er meer en meer onrustwekkende verhalen over de gevolgen van de informatisering de ronde.
invloed technologie > geen eenduidig verhaal.
vaak andere jobs in de plaats gekomen zijn die meestal slechter betaald en onzeker zijn.
België > cijfers van de Nationale Bank > “het aantal hooggekwalificeerde banen in België met 4% is toegenomen in de periode 2000-2013,
middengekwalificeerde jobs is afgenomen met 3,3%.
Objectief staan in Europa en België het aandeel van de middenklassejobs onder druk. Als we die trend doorzetten zal het aandeel van middengekwalificeerde jobs tegen 2050 verder dalen tot 30%
En aandeel hooggekwalificeerde jobs stijgen tot 58%
Laaggekwalificeerde jobs lijkt procentueel te verminderen
Combinatie van steeds onzekere jobs/variebele inkomens met vaste kosten zou leiden tot een soort systeemcrisis en recent zelfs voor de idee dat het systeem zelf zich tegen de onderste klasse en de middenklasse keert
Deze evolutie die leidt tot de opkomst van populisme
AI lijkt voor een verdere automatisering en dus een verandering in jobs te zullen zorgen.
Jobverlies tot nu to gecompenseerd door een grotere productie en een grotere vraag voort te brengen. “In de ‘Race tegen de machine’ kon de mens op die manier telkens een stap voor blijven. Die redenering komt steeds meer onder druk te staan met diepgaande ontwikkelingen zoals spraaktechnologie en machine-to-machine communication.
Lijkt van belang voor beleidsmakers en ondernemingen om de complementariteit tussen mens en machine te waarborgen en tegelijk in te zetten op het maximaal ontwikkelen van de digitale vaardigheden en de leercurve van de arbeidsbevolking.”
Beschrijf hoe nieuwe vormen van economische ontwikkeling gestimuleerd worden door de komst van AI
Er zijn naast ecologische uitdagingen ook wel wat kansen.
Heel wat nieuwe vormen van economie o.a. door de invloed van de ecologische problematiek, maar ook onder invloed van nieuwe technologische ontwikkelingen.
De opkomst van nieuwe technologieën zorgt voor nieuwe economische modellen die ook kansel met zich meebrengen
- Sharing economy:
o Algemene verspreiding van zelfrijdende auto’s wel eens tot een ander economisch model zal leiden, waarbij het auto’s meer en meer gedeeld zouden worden, in plaats van het bezit van één of meerdere wagens per huisgezin.
o Voorloper
Uber
* Promoot soort deeleconomie
Air BnB
* Biedt huiseigenaars een platform volgens zelfde logica om huis te delen
- Sharing economy wordt samen genoemd met de diensteneconomie
o IoT
Stimuleert de verspreiding van diensteneconomie
o Overgang product naar service
Evolutie onder andere in hang gewerkt door een andere aan AI gerelateerde techonologie, namelijk IoT.
Potentieel van een dergelijke shift is dat er een omkering komt
Op verschillende vlakken
* Designed to fail > designed to perform
o Tot nu toe gericht op verkopen van nieuwe producten
o Producten gingen slechts beperkte tijd mee
o Omkering verdienmodel: bedrijf blijft eigenaar van de lampen
o In nadeel van bedrijf als producten snel stuk gaan
o Producten die zo lang mogelijk geld kunnen opleveren.
* Designed to be outdated > designed to be updated
o Belang van bedrijf product zolang mogelijk in circulatie
o Product zo ontwikkelen dat gemakkelijk onderdelen vervangen kunnen worden en dat het product gemakkelijk kan geupdated worden.
o Producten modulair opbouwen
* Designed to be outfashined > designed for passion
* Tot nu toe: mee met nieuwste trends > bepaalde producten bezitten
* Psychologisch model waarin we het gedrag van anderen kopiëren > waardering
* Nieuwe manier: gebaseerd op twee basisassumpties
o Eigendom is niet nodig voor genot
o Gebruikt is net zo goed als nieuw
* Ook marketing hierop geënt
* Psychologische manipulatie om consumenten te overtuigen dat ze continu nieuwe spullen nodig hebben kan dan omgeturnd worden van eigendom en nieuw naar gebruik en gebruikt
* Spullen gebruikt voor realiseren van onze dromen niet doel op zich
- Dergelijke economische shift leidt naar vorm van circulaire economie
o Economie die inzet op het recycleren van grondstoffen door producten te ontwikkelen die bij afdanking direct kunnen gebruikt worden voor de ontwikkeling van nieuwe producten
