Myten om den objektive algoritme: Dataficering, skjulte klassifikationer og digital diskrimination (9)

Session 9. I denne episode stiller værterne skarpt på maskinrummet bag kunstig intelligens og datadrevne beslutningssystemer. Episoden dekonstruerer den udbredte forestilling om, at algoritmer udgør en neutral og objektiv spejling af virkeligheden, og belyser, hvordan AI i praksis fungerer som menneskeligt skabte klassifikationssystemer, hvor kulturelle antagelser og historiske præcedenser indlejres i kodningen. Gennem episoden gennemgås forskellen på stærk og svag AI samt de iboende begrænsninger ved at benytte historiske data som objektiv sandhed, det såkaldte Ground Truth. Værterne følger AI-modellens livscyklus i fem stadier – fra opgavedefinition og dataindsamling til datarensning, modelvalg og udrulning. Det forklares indgående, hvordan menneskelige fravalg, usynliggørelse af residualkategorier og håndtering af tavs viden uundgåeligt påvirker modellernes resultater. Derudover afdækkes det vigtige skel mellem statistisk bias og reel digital diskrimination. Episoden belyser, hvordan tekniske skævheder udmønter sig i praksis, med eksempler på erfaringer fra virksomheder og platforme som Amazon inden for automatiseret rekruttering, Microsoft i arbejdet med chatbots, Facebook ved billed- og tekstanalyse samt Cambridge Analytica i forbindelse med granulær adfærdsprofilering. Afslutningsvis drøftes metoder til måling og auditering af algoritmiske skævheder via både procedurelle og relationelle tilgange. Værterne behandler faldgruberne ved proxy-variabler og såkaldt blindhed over for beskyttede data, og de peger på intersectionality samt princippet om value-accountability-by-design som afgørende forudsætninger for fremtidens ansvarlige databrug.