Når journalister bruger sprogmodeller til research, idéudvikling eller skrivning, er der en reel fare for, at modellens prioriteringer usynligt bliver journalistens. Ikke fordi journalisten er ukritisk. Men mennesker overvurderer systematisk deres evne til at opdage fejl i automatiserede systemer. Jo mere kompetent og troværdigt systemet fremstår, desto mindre kritiske bliver vi. Der opstår blinde vinkler, såkaldt Automation Bias.
– Sprogmodeller som ChatGPT producerer netop den slags output. Velformuleret, selvsikkert og overbevisende – også når det er forkert. Forskningen viser desuden, at høj arbejdsbyrde og tidspres forstærker effekten. Altså præcis de vilkår, der kendetegner moderne redaktionelt arbejde, fortæller Peder Hammerskov, som er leder af Center for AI på DMJX.
Så hvordan bevarer journalister den redaktionelle dømmekraft i en tid, hvor det vigtigste nye værktøj også er det, der er sværest at gennemskue?
Det skal Center for AI ved DMJX nu hjælpe med at sikre. Centret har netop modtaget en bevilling på 100.000 kroner fra Dagspressens Fond til projektet ’’Blind tillid til AI: Når “human in the loop” ikke er nok’.
Guide, tjekliste, podcast og videoer
Kernen i projektet er en guide på 15-20 sider om ansvarlig brug af AI med fokus på at gøre “human in the loop” til reel praksis gennem hele den journalistiske proces. Pakken suppleres af en tjekliste, trekorte videoer og to podcast-afsnit. Materialet formidles via Center for AI og skal give redaktioner konkrete redskaber til at undgå blind tillid til AI.
"...Der er påfaldende lidt forskning, som kobler den veletablerede viden om automation bias til journalistisk praksis."
– Der er påfaldende lidt forskning, som kobler den veletablerede viden om automation bias til journalistisk praksis. Mediernes egne retningslinjer fokuserer på, hvad journalister ikke må bruge AI til, men sjældent på, hvad der kognitivt sker med dem, mens de bruger det. Her er et vigtigt blindt punkt, siger Peder Hammerskov.
Sådan skal projektet gennemføres
Den viden, som skal danne grundlag for formidlingspakken, bliver fundet gennem interviews med danske journalister og analyse af eksisterende AI-retningslinjer. Desuden skal der både gennemføres et systematisk forskningsoverblik samt observationsstudier af redaktionel Praksis, hvor det undersøges, hvor robust det menneskelige opsyn reelt er – og hvor det svigter.
– Resultatet bliver konkrete, evidensbaserede anbefalinger til journalister, redaktioner og uddannelser. Ikke endnu et sæt principper om at “forholde sig kritisk,” men derimod praksisnære strategier baseret på, hvordan menneskelig kognition faktisk fungerer, lover Peder Hammerskov.
Projektet kører i et år og formidlingspakken ventes at ligge klar i foråret 2027.