11 - Algoritmisk diskrimination Flashcards
(4 cards)
Hvad er hovedpointerne i “T32: Udbetaling Danmark som digital forvaltning - om børnetilskud, digital kontrol og algoritmisk diskrimination”?
[ ] Artiklens hovedpointe er, at Udbetaling Damarks brug af algoritmer og maskinlæringsmodeller til kontrol af børnetilskud kan føre til indirekte kønsdiskrimination, samt at der er mangel på gennemsigtighed i disse systemer.
[ ] Udbetaling Danmark anvender algoritmer og machine learing til at kontrollere snyd med sociale ydelser. Systemet bruger prædefinerede kriterier baseret på objektive data, erfaring og statistiske analyser for at identificere, der potentielt ikke er berettigede til ydelser.
[ ] Visse af de anvendte kriterier såsom “nyt barn”, “indkomst” og “boligscore” kan føre til indirekte diskrimination, da de kan ramme kvinder uforholdsmæssigt hårdt. For eksempel kan en lav indkomst, som er mere almindelig blandt kvinder, fejlagtigt indikere snyd.
[ ] Myndighedernes kontrol af, om modtagere af børnetilskud reelt er enlige, har gennem årene medført kritik, fordi forvaltningen har påstået at have en fri adgang til at lave kontrolundersøgelser hos borgere uden retskendelse. Det er blevet kaldt myndighedernes ”dyneløfteri” – møntet på, om de enlige kvinder reelt var enlige under dynen
[ ] Algoritmer kan indeholde bias, der er indlejret fra træningsdata, hvilket kan føre til diskrimination.
[ ] Der er markant mangel på gennemsigtighed i Udbetaling Danmarks kontrolsystemer. Mange af de kriterier og features, der anvendes, er anonymiserede. Der er behov for mere gennemsigtighed for at sikre, at borgerne kan forstå og udfordre systemernes beslutninger.
[ ] Spørgsmål om de features der fungerer som kontrol med socialt bedrageri er et formål, der kan retfærdiggøre den indirekte kønsdiskrimination. Der kan argumenteres for, at midlerne til at opfylde dette formål er hensigtsmæssige, men spørgsmålet er, om de er nødvendige eller, om der kan føres kontrol på en mindre indgribende måde.
Hvad er hovedpointerne i Martine’s podcast?
[ ] Borger.dk har et slogan om ”din adgang til det offentlige” men der er en aldersgrænse på 15 år for at få et MitID og dermed få en indgang til det offentlige. På denne måde afskæres børn fra at deltage, da man holder dem ude af denne digitale velfærdsstat.
[ ] Børn uden MitID bliver bedt om at møde fysisk op fx på et Rådhus eller Kommunen, og dermed hente deres sager i papirform. Dette kan blive et stort problem, hvis man nu er et udsat barn der har oplevet vold i familien og er flygtet fra Nordjylland til København, og man er på krisecenter, også bliver man bedt om at møde op på Rådhuset i Ålborg for at hente sine dokumenter.
[ ] Som barn kan man ikke kontakte Udbetaling Danmark i en sag om sine egne børneydelser. Dette skyldes, at man ikke bliver anset som en part i sagen. Det er forældrene der bliver anset som parter, fordi man mener i Udbetaling Danmark, at når der bliver truffet en afgørelse om børneydelser, så er det en afgørelse om at fratage dem fra forældrene og ikke at tildele dem til barnet. Overfor børnene er det en procesbeslutning og ikke en afgørelse.
[ ] Børn fra 10 år kan nu klage over visse afgørelser efter barnets lov § 145
[ ] Børn skal altid have en bopælsadresse, hvorfor der i Danmark teoretisk set ikke er nogen hjemløse børn. I praksis ser vi dog børn der bor i offentlige toiletter, bor i trappeopgange, bor i parkeringskældre mv. For at skaffe penge begår disse børn kriminalitet såsom tyveri, røveri og prostitution.
[ ] Har indtil september 2024 været et problem, at det krævede forældresamtykke at få oprettet en bankkonto for mindreårige.
Hvis et barn får ret til at få sine børneydelser udbetalt rundt om forældrene, foreligger der altså en barriere i form af, at bankerne skal have samtykke fra forældrene for at få en bankkonto.
[ ] Igen hvis børnene ikke kan få udbetalt pengene grundet mangel på forældresamtykke til bankkonto, vil de oftest begå kriminalitet for at skaffe penge.
Hvad er hovedpointerne i “A17a (NemID)”?
[Faktum]
[ ] Klagen drejer sig om påstået forskelsbehandling pga. etnisk oprindelse ifm., at klager ved personligt fremmøde på Borgerservice ikke kunne få oprettet NemID pga. manglende dansk- og engelskkundskaber.
[Klagers argumentation]
[ ] Klager ønsker, at personer, som ikke kan dansk eller engelsk, kan få udstedt NemID, såfremt de har en godkendt tolk til at hjælpe sig.
[ ] Klager blev nødt til at rejse kort tid efter. Han har nu ingen mulighed for at få udstedt NemID, da det vil påføre ham væsentlige rejseomkostninger og tidsspild alene at rejse til Danmark for at få udstedt NemID
[ ] I dagligdagen ville klager med NemID i princippet kunne bruge digitale tjenester uden at kunne tale dansk eller engelsk, da der er programmer, som automatisk kan oversætte til det ønskede sprog.
[Indklagedes argumentation]
[ ] I efteråret 2014 skærpede indklagede og Digitaliseringsstyrelsen udstedelsesproceduren i forlængelse af en større svindelsag, hvor var der tale om misbrug af flere hundrede udenlandske borgeres identiteter til skattesvig og bedrageri.
[ ] Indklagedes krav er begrundet i ansøgerens egen sikkerhed og mulighed for at varetage sine interesser.
[ ] Indklagede meldte i starten af januar 2015 ud, at det var tilladt for borgerne at anvende tolk, hvis Borgerservice kunne sikre sig, at det var borgeren, og ikke tolken, der erklærede at have læst og accepteret reglerne.
[ ] Digitaliseringsstyrelsen tog samtidig initiativ til at udstede reglerne til yderligere ni fremmedsprog, dog ikke litauisk-russisk.
[ ] Indklagede formoder, at klager ved fornyet henvendelse vil kunne få udstedt NemID ved brug af tolk, så længe det sikres, at tolken er indforstået med sit ansvar for, at klager har forstået reglerne.
[Resultat]
[ ] Det var ikke i strid med lov om etnisk ligebehandling, at klager ikke kunne få oprettet NemID ved personligt fremmøde på Borgerservice.
[ ] Nævnet fandt, at et krav om at kunne dansk eller engelsk, som er et verdenssprog, ikke kunne anses for at udgøre forskelsbehandling af personer af en bestemt etnisk oprindelse.
[Diskriminerende aspekter]
[ ] Diskriminationstype: Indirekte diskrimination pga. sprogkrav som altid er nemmere for dem i det land hvor sprogkravet bliver stillet
[ ] Diskriminationsgrundlag: Algoritmisk diskrimination og etnisk diskrimination
[ ] Foreligger en myndighedsvenlig misforståelse eftersom det diskriminerende ikke er nødvendigt pga. tolken. NemID er desuden oversat til flere sprog.
[Retlig landskab]
[ ] Lov om etnisk ligebehandling
Hvad er hovedpointerne i “A20b (NemID handicap)”?
[Faktum]
[ ] Klagen angår påstået forskelsbehandling pga. handicap i forbindelse med klagers muligheder for som ordblind at anvende MitID.
[Klagers argumentation]
[ ] Klager har hverken mobiltelefon, e-Boks, netbank eller lignende. Hun er permanent fritaget for digital post pga. sit handicap.
[ ] Klager føler sig forskelsbehandlet, fordi hun ikke kan tilgå de samme tjenester som personer uden handicap, da hun som følge af sit handicap ikke er i stand til at bruge digitale tjenester.
[Resultat]
[ ] Ligebehandlingsnævnet kan ikke behandle klagen.
[ ]
Handicapdiskriminationsloven indebærer ikke en pligt til tilgængelighed. Da klagen reelt angik spørgsmålet om tilgængelighed, kunne nævnet ikke behandle klagen.
[ ] Det fremgår af forarbejderne til handicapdiskriminationsloven, at det forhold, at en privat eller offentlig virksomhed ikke lever op til reglerne om tilgængelighed mv., skal behandles i den pågældende sektors regelsæt.
[Diskriminerende aspekter]
[ ] Diskriminationstype: Indirekte diskrimination, da reglen om at anvende MitID indirekte rammer personer som ikke kan anvende det pga. handicap.
[ ] Diskriminationsgrundlag:
- Algoritmisk diskrimination
- Diskrimination pga. handicap
[ ] Handicapretlige principper:
- Integrationsprincippet
- Ligebehandlingsprincippet
- Universal Design
- Sektoransvarlighedsprincippet (fraskriver sig ansvaret; hvilken sektor skal man så gå til?)
