Netflix i AI-skandale med ny true crime-dokumentar

De siste dagene har det oppstått kontroverser rundt Netflix' nye true crime-dokumentar, "What Jennifer Did" (på norsk "Det Jennifer gjorde"). Søndag anklaget tech-siden Futurism strømmetjenesten for å ha krydret dokumentaren med flere AI-manipulerte bilder, og siden har en rekke amerikanske medier kastet seg på saken.

La oss si det sånn; bildene ser utvilsomt mistenkelige ut.

Den halvannen time lange dokumentaren dreier rundt Jennifer Pan, som i 2010 ringte nødnummeret for å melde at kriminelle hadde brutt seg inn i huset og skutt foreldrene - en av dem til døde. Ikke lenge etterpå havnet hun selv i sentrum for etterforskningen, mistenkt for å ha hyret inn leiemordere.

Rundt en halvtime inn i dokumentaren, beskriver en av Pans skolevenner jenta som "boblenede, glad, selvsikker og veldig oppriktig", og her kommer angivelig AI-magien inn i bildet. Seeren serveres flere fotografier av en smilende Pan som viser peace-tegn til kamera, men vent litt...

Pans venstre hånd mangler en haug av fingre, høyrehånda ser ut til å være hentet fra et Picasso-bilde, og det meste i bakgrunnen er deformert og henger overhodet ikke på greip.

På et annet bilde svever ørene som rosenkåler, kinnet er delt i to, og en fortann er unormalt lang.

Jaiks.

Det blir aldri merket at filmen benytter seg av AI-manipulerte bilder, verken på skjermen underveis, eller i rulleteksten. Bildene fremstilles som ekte.

Futurism skriver; "å bruke generativ AI for å beskrive en ekte person i en true-crime dokumentar bør heve noen øyenbryn".

"Dette er ikke å skape en fiktiv fortelling for underholdningens skyld – dette er å tukle med stoffet i selve virkeligheten, for å manipulere en sann historie som faktisk skjedde."

Vi kunne ikke ha vært mer enige, og er spente på hva Netflix (som hittil ikke har kommentert Pans alien-fingre) har å si til sitt forsvar...