Skip to main content ITU
Logo
  • Uddannelser
    • Bachelor
    • BSc i Global Business Informatics
    • BSc i Digital Design og Interaktive Teknologier
    • BSc i Softwareudvikling
    • BSc i Data Science
    • Åbent Hus 2022
    • Sådan søger du ind
    • Gæstestuderende på bachelorniveau
    • ITU Summer University på bachelorniveau
    • Kandidat
    • MSc i Digital Innovation & Management
    • MSc i Digital Design og Interaktive Teknologier
    • MSc i Softwaredesign
    • MSc i Data Science
    • MSc i Datalogi
    • MSc i Spil
    • Sådan søger du ind
    • Gæstestuderende på kandidatniveau
    • ITU Summer University på kandidatniveau
    • Studieliv
    • Hvordan er det at være studerende på ITU?
    • Kvinder i tech
    • Labs for studerende
    • Spørg en studerende
    • Studenterorganisationer
    • Studiestart
    • Studie- og karrierevejledning
    • #lifeatITU
    • Besøg ITU
    • Studerende for en dag
    • Coding Café for kvindelige gymnasieelever
    • IT-Camp for kvindelige gymnasieelever
    • Gymnasiebesøg
    • Studiepraktik i uge 43
    • Åbent Hus
    • Få besøg af ITU
    • Digital Dannelse
    • Coding Classes
  • Efteruddannelser
    • Master i it
    • Master i it-ledelse
    • Studiestart
    • Nyhedsbrev
    • Talks om it-ledelse: ITU ESPRESSO
    • Besøg IT-Universitetet
    • Kontakt
    • Enkeltfagskurser
    • Se alle kurser
    • Kontakt
    • ITU Professional Courses
    • Om ITU Professional Courses
    • Kommende kurser
    • Tidligere kurser og forløb
    • Skræddersyede kurser for virksomheder
    • Mød vores undervisere
    • Finansiering
    • Kontakt
  • Forskning
    • Institutter
    • Institut for Business IT
    • Institut for Datalogi
    • Institut for Digital Design
    • Forskningsgrupper og labs
    • Forskningsgrupper
    • Labs
    • Forskningscentre
    • Center for Computer Games Research
    • Center for Computing Education Research
    • Center for Digital Velfærd
    • European Blockchain Centre
    • Forskningscenter for offentlig it
    • Centre for Information Security and Trust
    • Research Institutes
    • Danish Institute for IT Program Management
    • Udvalgte forskningstemaer
    • Big data
    • Blockchain
    • Computerspil
    • Klima IT
    • It-sikkerhed
    • Kunstig intelligens
    • Digitalisering
    • Find en forsker
    • Faculty Search
    • Ph.d.-skole
    • Ledige ph.d.-stillinger
    • Om ph.d.-uddannelsen
    • Ph.d.-kurser
    • Ph.d.-forsvar
    • Tekniske rapporter
    • Tekniske rapporter
    • Forskningsetik og -integritet
    • God forskningspraksis
  • Erhvervssamarbejde
    • Samarbejde med Studerende
    • Projektsamarbejde
    • Projektmarked
    • Studiejob
    • Projektopslag
    • Job- og projektbank
    • Kandidatportrætter
    • Employer Branding
    • IT Match Making
    • Sådan ansætter du en ITU'er
    • Lav opslag i Jobbanken
    • Samarbejde om forskning
    • Licenser teknologi
    • Samarbejde om forskning
    • ErhvervsPhD
    • Ansæt en ErhvervsPhD
    • Innovation og iværksætteri
    • ITU Business Development
    • ITU Startup programme
    • Startup historier
  • Om ITU
    • Stillinger
    • Presse
    • ITU Alumni
    • Nyheder
    • Events
    • Kontakt
    • Om ITU
  • ENG
Stil krav til algoritmerne
ITU  /  Presse  /  Nyheder fra ITU  /  Stil krav til algoritmerne

Stil krav til algoritmerne

EU's nye persondataregler giver større gennemsigtighed, men vi må ikke glemme selv at tage stilling til, hvordan vores data bliver brugt, skriver Rasmus Pagh, professor i datalogi ved IT-Universitetet. Debatindlægget er bragt i Weekendavisen fredag den 1. juni 2018.

Institut for DatalogialgoritmerprivacyRasmus Pagh

Skrevet 1. juni 2018 07:33 af Rasmus Pagh

Algoritmer har større og større indflydelse på vores hverdag. I sundhedsvæsenet eksperimenterer man med at lade algoritmer hjælpe til at diagnosticere patienter ud fra scanningsbilleder.

Sagsbehandling og kundesupport kan delvist automatiseres ved hjælp af algoritmer (som for eksempel i SKATs vision om større automatisering af skatteinddrivelse og Nordeas satsning på chatbotter). Netbutikker bruger algoritmer til at vise potentielle kunder personligt tilpassede anbefalinger af varer. Algoritmer hjælper med at finde rejser, der passer til vores kriterier, og sørger for at matche publikum på streamingtjenesterne med film og musik, de synes om.

Og ikke at forglemme: Googles algoritmer hjælper os med at finde frem til præcis den information, vi er på jagt efter, når vi bruger deres søgemaskine.

Samtidig ser vi eksempler på, at samspillet mellem it-systemer og mennesker let kan gå galt. Algoritmer der fungerer perfekt i én sammenhæng kan begynde at lave utilsigtede fejl, hvis omstændighederne er nye.

Som for eksempel da Google Translate lavede oversættelser, der afspejlede kønsstereotyper. Eller da IBM’s prestigeprojekt Watson, der kan slå de bedste mennesker i verden i Jeopardy, troede at Toronto var en amerikansk by.

»

Elnettet, vandforsyningen og transportsektoren er underlagt klare regler og hyppig myndighedskontrol. Men på trods af, at vores samfund og kultur i større og større grad bygger på en infrastruktur, hvor algoritmer er centrale, er algoritmerne langt fra underkastet samme nøje granskning.

«
Når entreprenører opfører nye huse, er der strenge regler for brandsikkerhed. Elnettet, vandforsyningen og transportsektoren er underlagt klare regler og hyppig myndighedskontrol. Men på trods af, at vores samfund og kultur i større og større grad bygger på en infrastruktur, hvor algoritmer er centrale, er algoritmerne langt fra underkastet samme nøje granskning.

EU’s nye persondataforordning (GDPR) træder i kraft den 25. maj er dog et skridt i retning af, at den almindelige borger bedre skal kunne navigere i det digitale farvand – blandt andet gennem større gennemsigtighed om, hvordan en algoritme er nået frem til en bestemt beslutning.

Fremover skal virksomheder og organisationer gøre rede for, hvordan de opsamler og behandler personlige data. Borgerne får mere kontrol over, hvad deres personlige data bliver brugt til, og skal have mulighed for at anke beslutninger, der er truffet automatisk. Direktivet gælder alle virksomheder, der driver forretning i EU – altså også de amerikanske internetgiganter.

»

GDPR betyder langt fra, at vi kan læne os tilbage og regne med, at udviklingen nu er på rette kurs.

«
Men GDPR betyder langt fra, at vi kan læne os tilbage og regne med, at udviklingen nu er på rette kurs. GDPR giver kun en begrænset mulighed for indsigt i de algoritmer, der behandler vores data.

Og måske er fuld indsigt ikke engang nok, for sandheden er, at selv eksperter i algoritmer har en begrænset forståelse af de algoritmer, der bruges. Det skyldes delvist, at analyse af algoritmer er en ung disciplin (vi arbejder på det!), men også at det er komplekst at forstå, hvad der sker, når algoritmer behandler data fra en rodet, nogle gange kaotisk virkelighed.

Uanset hvor umage vi gør os, kommer algoritmernes råd, diagnoser og anbefalinger, ligesom menneskers, til at være behæftet med usikkerhed. Facebook har ikke altid ret, når dit ansigt genkendes på et billede. En automatisk analyse af din kreditværdighed eller din sundhed kan være fejlagtig. I nogle sammenhænge kan vi måske acceptere fejl og usikkerhed til gengæld for at få nye muligheder, men når det eksempelvis gælder vores økonomi, demokrati og sundhed, bør vi stille krav.

»

Vi skal holde øje med, at algoritmerne ikke utilsigtet bidrager til at øge ulighed og diskrimination ved at behandle befolkningsgrupper forskelligt. Det bliver kun vigtigere i takt med at algoritmiske beslutninger indføres på flere og flere områder.

«
Vi må finde den rigtige balance mellem på den ene side at sikre fairness og gennemskuelighed og på den anden side at gøre ny, værdiskabende teknologi mulig.

En start kunne være at stille krav om at den usikkerhed, der ligger i analysen af vores data, bliver synlig og kvantificérbar. I nogle sammenhænge bør det fx være muligt at få at vide, hvor ofte en algoritmes beslutninger er fejlagtige. Og vi skal holde øje med, at algoritmerne ikke utilsigtet bidrager til at øge ulighed og diskrimination ved at behandle befolkningsgrupper forskelligt. Det bliver kun vigtigere i takt med at algoritmiske beslutninger indføres på flere og flere områder.

Endelig skal vi huske, at selv om GDPR giver os nye muligheder for at få indsigt i og bestemme over, hvordan vores data bliver brugt, ændrer tingenes tilstand sig kun, hvis vi hver især gør brug af vores nyvundne indsigt i, hvad der sker med data.

Vi skal stemme på politikere, der tager ansvar for den digitale udvikling. Vi skal undgå virksomheder, der bruger vores data på måder, vi ikke stoler på.

Og sidst men ikke mindst må vi indse, at det kræver en folkeoplysningsindsats at ruste os til at forstå det algoritmiske samfund.

Mere information

Rasmus Pagh, professor, telefon +45 7218 5284, email pagh@itu.dk

Nyheder

Digital genskabelse af lydbilledet fra 1600-tallets Helsingør

Digital genskabelse af lydbilledet fra 1600-tallets Helsingør

24. maj 2022

Forskere fra IT-Universitetet har været med til at udvikle tre digitale installationer, som forbinder fortid og nutid i Helsingør by. Formålet er at undersøge nye og mere kropslige former for historiefortælling, fortæller lektor Jonas Fristch.

Konference: Hvordan sikrer vi etisk forsvarlig kunstig intelligens?

Konference: Hvordan sikrer vi etisk forsvarlig kunstig intelligens?

10. maj 2022

D. 20. maj inviterer ITU og Nationalt Center for Etik til konferencen "Etik som vejviser i AI-landskabet", hvor der stilles skarpt på etisk anvendelse af kunstig intelligens. Professor på IT-Universitetet, Brit Ross Winthereik forklarer, hvorfor det er nødvendigt at tale om etik og kunstig intelligens ved konferencen, hvor også EU-Kommissær Margrethe Vestager præsenterer et oplæg.

Rasmus Ejlers Møgelberg og Jonas Fritsch modtager bevillinger fra DFF

Rasmus Ejlers Møgelberg og Jonas Fritsch modtager bevillinger fra DFF

10. maj 2022

De to forskere fra hhv. Datalogi og Digital Design på IT-Universitetet, har hver sikret en bevilling på godt 2,8 millioner kroner til deres respektive forskningsprojekter.

Margrethe Vestager vil tale om etik og kunstig intelligens ved konference på ITU

Margrethe Vestager vil tale om etik og kunstig intelligens ved konference på ITU

4. maj 2022

Den 20. maj løber konferencen "Etik som vejviser i AI-landskabet" af stablen på IT-Universitetet i København. Den teknologiske udvikling udfordrer samfundet. Hvordan løses nye problemstillinger på etisk vis? Oplev bl.a. EU-Kommissær Margrethe Vestager give sit perspektiv på kunstig intelligens i fremtidens Europa.

European Blockchain Center annoncerer nyt partnerskab

European Blockchain Center annoncerer nyt partnerskab

28. april 2022

IT-Universitetet i Københavns European Blockchain Center starter nyt partnerskab med SupraOracles. Ambitionen er at udforske samarbejdets muligheder for at skabe værdi for blockchain-industrien på verdensplan.

Nyt samarbejde gør det lettere at finde efteruddannelsestilbud

Nyt samarbejde gør det lettere at finde efteruddannelsestilbud

22. april 2022

Danske virksomheder har et stort behov for efteruddannelse af akademisk uddannede medarbejdere inden for it og digitalisering. Nu skal et nyt samarbejde mellem Dansk Industri og en række danske universiteter – herunder IT-Universitetet – gøre det lettere for virksomheder at finde det rette efteruddannelsestilbud.

Professor Sebastian Risi modtager bevilling til at udvikle neurale netværk

Professor Sebastian Risi modtager bevilling til at udvikle neurale netværk

20. april 2022

Professor i Digital Design på IT-Universitet Sebastian Risi har modtaget en bevilling på ca. 550.000 kroner fra GoodAI Grants Program til at udvikle komplekse neurale netværk.

Studiestart: ”Man skal ikke være bange for at disrupte hyggen”

Studiestart: ”Man skal ikke være bange for at disrupte hyggen”

19. april 2022

Hvordan skaber man en inkluderende studiestart på et universitet? IT-Universitetets tutorgruppe deltager i et workshopforløb, der skal hjælpe dem med at skabe gode rammer omkring opstart for nye bachelorstuderende.

IT-Universitetet lancerer gratis onlinekursus i it-sikkerhed for små og mellemstore virksomheder

IT-Universitetet lancerer gratis onlinekursus i it-sikkerhed for små og mellemstore virksomheder

19. april 2022

Uanset om du er selvstændig frisør eller maler, eller arbejder med it til dagligt i en mellemstor virksomhed, er det vigtigt at overveje, hvilken værdifuld data din virksomhed lagrer, og hvordan du beskytter det mod hackerangreb. IT-Universitetet lancerer nu et gratis læringsforløb om it-sikkerhed, der hjælper dig i gang med at ruste din virksomhed mod angreb.

Kan robotter forebygge angstanfald hos børn?

Kan robotter forebygge angstanfald hos børn?

6. april 2022

Morten Roed Frederiksen fra Computer Science på IT-Universitetet har modtaget 1,6 millioner kroner fra DFF til et forskningsprojekt, der skal gøre robotter i stand til at aflæse menneskers følelser. Målet er at skabe teknologi, der kan hjælpe bl.a. børn med angst.

Nye forskningsresultater kan bruges til at forbedre Københavns cykelinfrastruktur

Nye forskningsresultater kan bruges til at forbedre Københavns cykelinfrastruktur

28. marts 2022

En netop offentliggjort forskningsartikel viser, hvordan analyser af netværk kan bruges som et billigt og effektivt værktøj til at gøre byer mere cykelvenlige. Forskningen tager udgangspunkt i København, som bl.a. er blevet analyseret med data fra OpenStreetMap.

Professor: ”Velfærd skal ikke være betinget af, at man har en lang uddannelse”

Professor: ”Velfærd skal ikke være betinget af, at man har en lang uddannelse”

21. marts 2022

Danmark har den mest digitaliserede offentlige sektor i verden, men selvom der er fokus på digital inklusion, har mange borgere svært ved at navigere i den digitale verden. I en ny podcast taler leder af Center for Digital Velfærd på IT-Universitetet Brit Ross Winthereik om løsninger på problemet.

Professor Steffen Dalsgaard vinder stort legat til forskningsprojekt om grøn it

Professor Steffen Dalsgaard vinder stort legat til forskningsprojekt om grøn it

17. marts 2022

Professor ved Business IT på IT-Universitetet i København Steffen Dalsgaard har netop modtaget det Europæiske Forskningsråds Consolidator Grant på næsten 15 millioner kroner til et femårigt, globalt forskningsprojekt, der går kritisk til grønne it-løsninger.

Professor efterlyser mod til at skabe et bølgeeventyr: ”Det her virker tosset, men vi går all in!”

Professor efterlyser mod til at skabe et bølgeeventyr: ”Det her virker tosset, men vi går all in!”

3. marts 2022

Der mangler hverken bølger eller pionerer indenfor bølgeenergi i Danmark. Professor ved IT-Universitetet, Brit Ross Winthereik, stod i spidsen for en undersøgelse af bølgeenergikulturen og giver sit bud på, hvorfor vi stadig venter på det store bølgeeventyr.

IT-Universitetet indstiller samarbejde med Rusland og Belarus

IT-Universitetet indstiller samarbejde med Rusland og Belarus

2. marts 2022

Sammen med landets øvrige universiteter indstiller ITU fremadrettet bilaterale, institutionelle samarbejder med statslige aktører i Rusland og Belarus. Nuværende udvekslingsstuderende og -forskere påvirkes ikke af beslutningen.

Ny blockchain governance-standard skaber tillid og troværdighed i markedet

Ny blockchain governance-standard skaber tillid og troværdighed i markedet

1. marts 2022

Den nye standard, der er udviklet af professor ved IT-Universitetet Roman Beck og Dansk Standard, sætter internationalt anerkendte retningslinjer for bl.a. ansvarlig og transparent anvendelse af blockchain og DLT-systemer. Roman Beck har for nyligt modtaget AIS’s Impact Award for sit arbejde på området.

Kan Minecraft bruges til klimaundervisning i folkeskolen?

Kan Minecraft bruges til klimaundervisning i folkeskolen?

8. februar 2022

I mange af de populære computerspil færdes de unge spillere i en virtuel verden, hvor den fysiske verdens problemer, fx klimaforandringerne, hverken spiller en stor eller realistisk rolle. Man kan imidlertid også bruge nogle af de mere populære spil til at undervise om klimaproblemerne, mener lektor ved IT-Universitetet, Hans-Joachim Backe, som er i gang med at udvikle nogle værktøjer til folkeskolelærere, som bruges til klimadiskussioner i klassen på baggrund af fx Minecraft.

Digitaliseringen i Amazonas: Hvordan kan vi bruge regnskoven uden at ødelægge den?

Digitaliseringen i Amazonas: Hvordan kan vi bruge regnskoven uden at ødelægge den?

8. februar 2022

Der er håb om, at Den fjerde industrielle revolutions digitale, fysiske og biologiske opfindelser vil kunne bruges til at skabe en bæredygtig bioøkonomi i Amazonas. Forskere fra IT-Universitetet skal undersøge effekten af Amazônia 4.0.

Kan man sikre kritisk nødvendig teknologi ved at sende den i kredsløb om jorden?

Kan man sikre kritisk nødvendig teknologi ved at sende den i kredsløb om jorden?

20. januar 2022

På IT-Universitetet i København arbejder lektor Bernardo David på et projekt, der ved hjælp af satellitter i kredsløb om jorden skal sikre kryptografi- og blockchain-baserede teknologier mod hackerangreb.

Dansk forsker skal undersøge amerikanernes tillid til beskyttelsen af deres sundhedsdata

Dansk forsker skal undersøge amerikanernes tillid til beskyttelsen af deres sundhedsdata

14. januar 2022

Professor på IT-Universitetet, Louise Barkhuus, skal sammen med en forsker på Columbia University undersøge dårligt stillede amerikaneres tillid til beskyttelsen af deres sundhedsdata. Forskningsprojektet er netop blevet tildelt støtte af Danmarks Frie Forskningsfond.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53

Denne side er udskrevet fra https://en.itu.dk/research/portalplaceholder?layoutfraction=top&langRef=https://pure.itu.dk/portal/da/publications/speedrunning(f5953879-adef-4fc2-82ae-3b248beadf7a).html