Skip to main content ITU
Logo
  • Uddannelser
    • Bachelor
    • BSc i Global Business Informatics
    • BSc i Digital Design og Interaktive Teknologier
    • BSc i Softwareudvikling
    • BSc i Data Science
    • Sådan søger du ind
    • Gæstestuderende på bachelorniveau
    • ITU Summer University på bachelorniveau
    • Kandidat
    • MSc i Digital Innovation & Management
    • MSc i Digital Design og Interaktive Teknologier
    • MSc i Softwaredesign
    • MSc i Data Science
    • MSc i Datalogi
    • MSc i Spil
    • Sådan søger du ind
    • Gæstestuderende på kandidatniveau
    • ITU Summer University på kandidatniveau
    • Studieliv
    • Hvordan er det at være studerende på ITU?
    • Kvinder i tech
    • Labs for studerende
    • Studenterorganisationer
    • Studiestart
    • Studie- og karrierevejledning
    • #lifeatITU
    • Mød ITU
    • Spørg en studerende
    • Studerende for en dag
    • Studiepraktik i uge 43
    • Coding Café for kvindelige gymnasieelever
    • IT-Camp for kvindelige gymnasieelever
    • Åbent hus
    • For gymnasielærere
    • Gymnasiebesøg
    • Digital Dannelse
    • Coding Classes
  • Efteruddannelser
    • Efteruddannelser
    • Se alle efteruddannelser
    • Besøg og arrangementer
    • Master i it
    • Om Master i it-ledelse
    • Sådan søger du ind
    • Besøg og arrangementer
    • Nyhedsbrev
    • Kontakt
    • Enkeltfag
    • Om enkeltfag
    • Sådan søger du ind
    • Se alle enkeltfag
    • Enkeltfag på masterniveau
    • Summer University som enkeltfag
    • Besøg og arrangementer
    • Nyhedsbrev
    • Kontakt
    • Korte kurser: ITU Professional Courses
    • Se alle korte kurser
    • Om ITU's korte kurser: ITU Professional Courses
    • Skræddersyede kurser for virksomheder
    • Besøg og arrangementer
    • Nyhedsbrev
    • Kontakt
    • Online kurser
    • Kurser i cybersikkerhed (gratis)
  • Forskning
    • Institutter
    • Institut for Business IT
    • Institut for Datalogi
    • Institut for Digital Design
    • Forskningsenheder
    • Forskningsgrupper
    • Labs
    • Forskningscentre
    • Center for Digital Play
    • Center for Climate IT
    • Center for Computing Education Research
    • Center for Digital Velfærd
    • European Blockchain Centre
    • Centre for Information Security and Trust
    • Danish Institute for IT Program Management
    • ITU Research Portal
    • Find forsker
    • Find forskning
    • Forskningsetik og -integritet
    • God forskningspraksis
    • Tekniske rapporter
    • Tekniske rapporter
    • Ph.d.-skole
    • Om ph.d.-uddannelsen
    • Ph.d.-kurser
    • Ph.d.-forsvar
  • Erhvervssamarbejde
    • Samarbejde med Studerende
    • Projektsamarbejde
    • Projektmarked
    • Studiejob
    • Projektopslag
    • Job- og projektbank
    • Employer Branding
    • IT Match Making
    • Sådan ansætter du en ITU'er
    • Lav opslag i Jobbanken
    • Samarbejde om forskning
    • Licenser teknologi
    • Samarbejde om forskning
    • ErhvervsPhD
    • Ansæt en ErhvervsPhD
    • Innovation og iværksætteri
    • ITU Business Development
    • ITU Startup
    • CSSME
  • Om ITU
    • Om ITU
    • Presse
    • Stillinger
    • Kontakt
  • ENG
Forskningsresultat: Kunstig intelligens på jobcentrene ligner ikke en god erstatning for menneskelige vurderinger
ITU  /  Presse  /  Nyheder fra ITU  /  Forskningsresultat: Kunstig intelligens på jobcentrene ligner ikke en god erstatning for menneskelige vurderinger

Forskningsresultat: Kunstig intelligens på jobcentrene ligner ikke en god erstatning for menneskelige vurderinger

Det kan blive problematisk at bruge AI-teknologier til at forudsige langtidsledighed blandt kontanthjælpsmodtagere. Det er resultatet af forskningsartiklen Det vil vi aldrig skrive ned, som er blevet offentliggjort i artikelsamlingen PACM HCI i forbindelse med den internationalt førende konference for computer-støttet samarbejde (CSCW 2021).

ForskningInstitut for Business ITkunstig intelligensoffentlig it

Skrevet 22. april 2021 08:40 af Jari Kickbusch

Kunstig intelligens – eller AI, som det også bliver kaldt ¬– bliver brugt til at forudsige vores næste køb, den næste film, vi ser, og en masse andre valg, som vi træffer i vores hverdag. Kort fortalt bliver AI-teknologiernes forudsigelser skabt ved at analysere enorme datasæt og i en tid, hvor vi lagrer elektronisk data som aldrig før, giver det mulighed for at skabe en indsigt, som for bare få årtier siden var uden for vores rækkevidde. Fx bliver AI-teknologier brugt til at forudsige, hvordan Covid-19 spreder sig og til at identificere, hvilke mennesker, som er særligt sårbare.

Selv om kunstig intelligens er blandt tidens mest hypede begreber, er det naturligvis ikke svaret på alle verdens udfordringer. Det bekræftes i forskningsartiklen “We Would Never Write That Down”: Classifications of Unemployed and Data Challenges for AI, som bygger på en undersøgelse foretaget på et dansk jobcenter, hvor sagsbehandlerne bl.a. skal kategorisere kontanthjælpsmodtagerne og vurdere deres arbejdsevne.

- På jobcentrene placerer sagsbehandlerne kontanthjælpsmodtagerne i nogle kategorier –eller målgrupper, som de også bliver kaldt. Og det har stor betydning for borgerne, hvor de bliver placeret, fordi det bl.a. har indflydelse på, hvilken hjælp de modtager, hvilke rettigheder de har osv. Flere steder har der været et stærkt ønske om at bruge historiske data fra en masse kontanthjælpsmodtagere til fx at forudsige sandsynligheden for langtidsledighed for de her mennesker, og det er så det, vi har undersøgt nærmere, fortæller ph.d.-studerende på IT-Universitetet, Anette C. M. Petersen, som har skrevet artiklen sammen med Lars Rune Christensen (IT-Universitetet) Richard Harper (Lancaster University) og Thomas Hildebrandt (Københavns Universitet).

Binær menneskeanskuelse
Anette C. M. Petersen lavede feltarbejdet, som undersøgelsen bygger på, i Gladsaxe. Med henblik på at undersøge, hvorvidt kunstig intelligens kunne bruges til at træffe bedre og mere effektive beslutninger, studerede hun sagsbehandlernes arbejde med kontanthjælpsmodtagerne, som officielt bliver inddelt i to kategorier; 2.2, som består af de jobparate, og 2.3, som består af de aktivitetsparate – og som altså ikke umiddelbart er i stand til at arbejde. (Efterfølgende er disse kategorier blevet omdøbt til henholdsvis 6.2 og 6.3). Virkeligheden er dog mere kompleks end de to kategorier antyder, fortæller Anette C. M. Petersen:

- En sagsbehandler fortæller mig, at man nærmest skal være død for at blive placeret i målgruppe 2.3. Det er utrolig svært for dem at finde beviser på, at borgerne har udfordringer, som berettiger til den placering og samtidig er der et politisk ønske om at flytte flere borgere over i gruppen med de jobparate for at få dem i job hurtigere ... Vi opdager, at langt de fleste borgere slet ikke hører hjemme i nogle af de her to kategorier. De befinder sig en gråzone, hvor de ikke er raske og i stand til at varetage et job, men de kan heller ikke bevise, at de syge nok til ikke at være jobparate. Det håndterer sagsbehandlerne ved at skabe deres egne termer, fx at en borger kan være en let, tung eller hård 2.2'er.

Mennesket bag en 2.2'er
Ifølge Anette C. M. Petersen hjælper sagsbehandlernes egne termer dem til at give borgerne den rette behandling og støtte (som ikke nødvendigvis kun handler om at skaffe et job), og forskningsartiklens konklusion er, at dette arbejde ikke uden videre erstattes af kunstig intelligens.

- Hovedpointen er, at hvis vi taler kunstig intelligens i jobcentrene, så er der en masse vigtig information om, hvad det vil sige at være en borger, som ikke er tilgængelig i den data, som AI-systemerne bruger til forudsige fx langtidsledighed ... Vores resultater har medført nogle spørgsmål om, hvorvidt man ikke bare kan finde andre sammenhænge i data, der identificerer som lette eller tunge 2.2'ere, og det er selvfølgelig rigtigt nok, men sagsbehandlerne sidder stadig til møder med borgerne og kan lugte, hvis der én, som lugter af alkohol eller hvis vedkommende bliver ked af det, når der bliver spurgt ind til helbredet. Så der er en masse fysiske "clues", som man endnu ikke kan tage teknologisk højde for, siger Anette C. M. Petersen, som ikke ser tegn i sol og måne på, at man ved hjælp af kunstig intelligens kan skabe it-systemer, som kan tage bedre beslutninger end sagsbehandlerne:

- De termer, som sagsbehandlerne bruger – er ifølge dem selv – ikke velegnede i et bureaukratisk system, og det er uanset, om vi taler kunstig intelligens eller andre systemer. Der er bare en masse ting, som sagsbehandlere ikke skriver ned, fordi det er mennesker, de har med at gøre, og mennesker er komplekse og foranderlige. Og ligeså snart du bruger historisk data til at forudsige fremtiden, så opstår der jo også en risiko for, at du kommer til at forstærke forholdene for de her mennesker og gøre dem permanente. Det er sagsbehandlerne meget opmærksomme på.

Hvordan bruger vi kunstig intelligens?
Hvor konklusionen i artiklen er kritisk i forhold til at bruge kunstig intelligens til at forudsige kontanthjælpsmodtagernes risiko for langtidsledighed, er der en optimisme i forhold til at bruge AI-teknologier til at hjælpe sagsbehandlerne med at opsamle den information, som de skal bruge i deres sager, på en måde, hvor vurderinger og vigtige beslutninger stadig ligger hos sagsbehandleren. Derfor håber Anette C. M. Petersen også, at artiklen i PACM HCI vil skabe debat om, hvad kunstig intelligens kan bruges til og ikke bruges til.

- Selv om det vi skriver om her foregår i en dansk kontekst, så har det jo stor relevans internationalt - og på et bredere niveau også. Det er med til at sætte fokus på nogle generelle udfordringer, som vi støder på, når vi arbejder med kunstig intelligens. Fx når det bliver brugt til forudsigelse af forbrydelser. Det, vi håber på med den her artikel, er jo også at få noget interesse fra dem, der udvikler systemerne, så vi kan debattere og arbejde sammen, og der er PACM HCI jo et godt sted at blive publiceret.

Ecoknow
Forskningsartiklen er blevet skrevet i forbindelse med det omfattende forskningsprojekt, Ecoknow, som har til formål at undersøge, hvordan digitale sagsbehandlingssystemer kan gøres mere intelligente, fleksible og gennemskuelige. Lederen af projektet, professor på Københavns Universitet, Thomas Hildebrandt (som også er medforfatter af artiklen) er særdeles tilfreds med, at det er lykkedes at få artiklen offentliggjort i en prominent udgivelse som PACM HCI. Faktisk er han dobbelt tilfreds, for artiklen får nemlig selskab af en anden Ecoknow-artikel: Street-Level Algorithms and AI in Bureaucratic Decision-Making: A Caseworker Perspective, der zoomer ind på sagsbehandlernes syn på anvendelse af AI til at støtte deres arbejde.

- Det er virkelig godt at vores arbejde i Ecoknow kommer ud, hvor den bliver set – og at der er så tydelig en interesse for forskning i AI, der ikke starter med en teknologisk løsning på et muligt problem, men starter med at observere sagsbehandlernes arbejde og tale med dem om deres syn på teknologien, så vi sammen kan identificere hvilke problemer, man bør og kan løses ved hjælp af AI,” siger Thomas Hildebrandt.


Læs mere om forskningsprojektet Ecoknow, som er finansieret af Innovationsfonden, på projektets hjemmeside

Læs forskningsartiklen på ACM's hjemmeside


Mere information

Jari Kickbusch, Forskningskommunikatør, telefon 7218 5304, email jark@itu.dk

Nyheder

”Det kræver mere end teknologi at lave succesfuld digital transformation”

”Det kræver mere end teknologi at lave succesfuld digital transformation”

14. november 2023

Direktør for Forretningsudvikling og Digitalisering i Fibia, Pernille Pagh, står over for en kæmpe opgave med virksomhedens digitale transformation. Hun brugte Fibia som case igennem sin masteruddannelse i it-ledelse på IT-Universitetet og fik indsigter, der har haft stor betydning for virksomhedens udvikling.

Will Code for Drinks: Programmeringsfest med potentiale som breddesport

Will Code for Drinks: Programmeringsfest med potentiale som breddesport

7. november 2023

Professor, Thore Husfeldt, har haft succes med at organisere sociale events, hvor unge har det sjovt, imens de løser problemer og skriver kode. Den 10. november går det løs igen med arrangementet Will Code for Drinks. Denne gang med feinschmecker-bryggeriet Mikkeller som sponsor.

ITU-forsker vil forbedre interaktionen mellem menneske og kunstig intelligens

ITU-forsker vil forbedre interaktionen mellem menneske og kunstig intelligens

6. november 2023

Elisa Bassignana, som er Ph.d.-studerende på IT-Universitetet i Københavns Institut for Datalogi, har sikret en Villum International Postdoc-bevilling til at forske i store sprogmodeller og de sociale og kulturelle normer, som indlejret i dataene.

Mød IT-Universitetet på Digital Tech Summit 2023

Mød IT-Universitetet på Digital Tech Summit 2023

2. november 2023

Kom og hør ITU-forskere tale om bl.a. kvanteteknologi, kunstig intelligens og robotteknologi d. 8.-9. november i Øksnehallen.

Hvad kan datadrevet netværksanalyse fortælle os om Romerriget?

Hvad kan datadrevet netværksanalyse fortælle os om Romerriget?

23. oktober 2023

Lektor ved Institut for Datalogi på IT-Universitetet i København Michele Coscia har modtaget en bevilling fra Villum Synergy til et interdisciplinært projekt, der via arkæologisk data og netværksanalyse skal rekonstruere oldtidens sociale netværk.

Seks bud fra en forsker: Hvordan sikrer man etisk kunstig intelligens?

Seks bud fra en forsker: Hvordan sikrer man etisk kunstig intelligens?

17. oktober 2023

Kunstig intelligens har et næsten uudtømmeligt potentiale til at forbedre samfundet, men teknologien er også forbundet med en række utilsigtede konsekvenser. Postdoc Per Rådberg Nagbøl, der er aktuel ved årets Digital Tech Summit, arbejder med kvalitetssikring og evaluering af brug af kunstig intelligens i det offentlige. Her giver han seks bud på, hvordan kunstig intelligens-udvikling kan styre udenom etiske faldgruber.

Kunstig intelligens: Er din arbejdsplads klar til den hastige omstilling?

Kunstig intelligens: Er din arbejdsplads klar til den hastige omstilling?

16. oktober 2023

Kunstig intelligens gør sit indtog, ikke mindst i det offentlige, men er danske arbejdspladser gearet til de store omvæltninger, og hvad betyder nye KI-redskaber for medarbejderen? Forsker Louise Harder Fischer, der er aktuel ved årets Digital Tech Summit i november, giver sit bud.

Prisnomineret ITU-projekt sikrer effektiv vidensdeling i pleje- og socialsektoren

Prisnomineret ITU-projekt sikrer effektiv vidensdeling i pleje- og socialsektoren

12. oktober 2023

Den digitale platform Pycipedia har gjort det lettere for socialarbejdere i Sverige at dele viden på tværs af kommunale skillelinjer. Platformen, der er udviklet under ledelse af lektor Erik Grönvall ved Institut for Digital Design på IT-Universitetet i København, er netop blevet nomineret til European Social Services Award 2023.

Ukrainsk it-sikkerhedschef gav indblik cyberkrig i online-forelæsning på IT-Universitetet

Ukrainsk it-sikkerhedschef gav indblik cyberkrig i online-forelæsning på IT-Universitetet

3. oktober 2023

I en online-forelæsning på IT-Universitetet den 28. september, tog den øverst ansvarlige for it-sikkerheden i Ukraines digitale infrastruktur, Victor Zhora, studerende og forskere med bag frontlinjen i cyberkrigen mod Rusland, som han betegner som verdens første cyberverdenskrig.

Bent Flyvbjerg-bog nomineret til fornem pris

Bent Flyvbjerg-bog nomineret til fornem pris

2. oktober 2023

Bogen ”How Big Things Get Done,” skrevet af VKR-professor på ITU Bent Flyvbjerg og journalisten Dan Gardner, er nomineret til Financial Times’ Business Book of the Year.

Tre ITU-projekter udvalgt til NordForsks bud på, hvordan vi når vores bæredygtighedsmål

Tre ITU-projekter udvalgt til NordForsks bud på, hvordan vi når vores bæredygtighedsmål

2. oktober 2023

IT-Universitetet fylder godt i samling af policy briefs, som er blevet offentliggjort af Nordisk Ministerråds forskningsprogram, NordForsk.

ITU-forsker sikrer bevilling til udvikling af personaliseret sproglæringssystem

ITU-forsker sikrer bevilling til udvikling af personaliseret sproglæringssystem

2. oktober 2023

Det er svært at lære sig selv et nyt sprog, men et nyt Villum Experiment-støttet forskningsprojekt fra IT-Universitetet vil gøre det lettere. Hvordan? Ved at skræddersy undervisningsmaterialet til brugernes personlige interesser og færdigheder.

Analyse: En investering i ITU kommer godt igen

Analyse: En investering i ITU kommer godt igen

25. september 2023

En ny analyse viser, at en kandidatuddannelse på IT-Universitetet i København lønner sig – for den enkelte såvel som samfundet.

Hvor gode er vi til at navigere i den digitale informations- og medievirkelighed?

Hvor gode er vi til at navigere i den digitale informations- og medievirkelighed?

20. september 2023

Et nyt projekt skal afdække niveauet af medie- og informationsdannelse i Norden. En af eksperterne, der skal være med til at kvalificere undersøgelsen, er lektor ved Digital Design på IT-Universitetet, Gitte Stald.

Tech og videnskab: Hvordan fanger man de unges interesse?

Tech og videnskab: Hvordan fanger man de unges interesse?

12. september 2023

IT-Universitetet inviterer til inspirationsmøde om formidling af teknologi og videnskab til unge d. 12. oktober kl. 9. Mød ITU’s eget Tænk i Tech-hold, Videnskabsklubben, Villum Fondens Science i Fritiden samt Youtuberen Maria Jaris og få inspiration til, hvordan man engagerer unge i tech og videnskab, skaber diversitet, rollemodeller og gode oplevelser.

Her er IT-Universitetets to nye eksterne bestyrelsesmedlemmer

Her er IT-Universitetets to nye eksterne bestyrelsesmedlemmer

30. august 2023

Tech entreprenør, Hanne Breddam og professor, David Sands, er blevet udpeget som eksterne medlemmer af bestyrelsen på IT-Universitetet i København.

Nyt forskningsprojekt: Kortlægning af Ghanas digitale nødberedskab

Nyt forskningsprojekt: Kortlægning af Ghanas digitale nødberedskab

22. august 2023

Alena Thiel har modtaget Horizon Europes Marie Skłodowska-Curie Actions Postdoctoral fellowship til hendes projekt, MUNDI. I løbet af de næste to år vil hun undersøge de ghanesiske myndigheders brug af digitale værktøjer, som kan forudsige og lave real-time analyser af naturkatastrofer og andre humanitære kriser.

Kvinderne stormer ind på IT-Universitetets bacheloruddannelser

Kvinderne stormer ind på IT-Universitetets bacheloruddannelser

28. juli 2023

I dag har IT-Universitetet i København sendt pladstilbud ud til 455 unge fra årets rekordstore ansøgerpuljer, og i 2023 vil 4 ud af 10 af universitetets nye studerende være kvinder.

Kvinderne stempler i stor stil ind på IT-Universitetet

Kvinderne stempler i stor stil ind på IT-Universitetet

5. juli 2023

Interessen for at tage en bacheloruddannelse på IT-Universitetet (ITU) slår alle rekorder. Det er især de kvindelige ansøgere, der driver væksten i antallet af ansøgere, og der er flere kvindelige ansøgere end nogensinde før.

Anders er lige blevet kandidat i Data Science, men han har allerede sat sit præg på forskning i kunstig intelligens

Anders er lige blevet kandidat i Data Science, men han har allerede sat sit præg på forskning i kunstig intelligens

30. juni 2023

I fredags dimitterede den første årgang fra IT-Universitetets kandidat i Data Science, og med den rivende udvikling inden for kunstig intelligens er der stor efterspørgsel på kandidaternes dataanalytiske kompetencer. En af dimittenderne er Anders Giovanni Møller, der midt i specialeskrivningen sadlede om, så han kunne være blandt de første til at udgive forskning om ChatGPT.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53 /
P-nummer 1005162959

Denne side er udskrevet fra https://itu.dk/