Begejstringen over ChatGPTs opdaterede billedgenerator ville ingen ende tage på sociale medier. Hvad sker der med kritisk tænkning, etik og ikke mindst respekten for lovpligtig mærkning af AI billeder? Hypen over at kunne skabe et billede af sig selv som første mand på månen overmander refleksionen over, hvilke konsekvenser udviklingen kan have.
Det gik ikke stille for sig, da OpenAIs Billedmodel ChatGpt-4o blev udrullet i torsdags. På sociale medier blev den nye feature delt og hypet med eksempler på fotorealistiske motiver, der nu var tilsat ureflekteret legesyge. Skagensmalerier med nye ansigter, Trump ved en dansk pølsevogn sammen med Mette Frederiksen, White House på Grøndland.
Det kunne lyde som om, det er børn, der leger med en ny app. Men det er voksne mennesker med en vis indflydelse – og nogle af dem underviser sågar – der deler fotorealistiske kunstige billeder, der er så langt fra virkeligden som det kan være. Man kan ikke se forskel på sand og falsk med det blotte øje mere. Det er billeder uden værdi, som kræver store ressourcer (vand og energi) at producere, som sandsynligvis kommer til at skabe mere skade end gavn, og som kun få husker at mærke tydeligt som AI-generet, hvilket er lovpligtigt.
Der er mange gode måder at bruge AI på, f.eks. til mønstergenkendelse af billeder i sygehusvæsenet eller til forudsigelse af nedbrud i industrielle produktion. Men den ukritiske begejstring og brug af generativ AI repræsenterer dybt etiske og demokratiske udfordringer.
For eksempel krænker tjenester som ChatGPT-4o med stor sandsynlighed ophavsretten hos en masse fotografer og kunstnere, da den er trænet på eksisterende indhold på nettet uden tilladelser, og mens de store AI-virksomheder indkasserer masser af penge på deres nye tjenester, er fotografer og kunstnere verden over tvunget til at sagsøge dem. Ja OpenAI, der står bag ChatGPT, har senest bedt Trump om at give dem lov til at ignorere ophavsretten.
Hvor er demokratiets vogtere?
Vi har ikke brug for ukritisk leg med billedgeneratorer, men derimod en reel etisk dialog om, at teknologien nu gør det muligt at fremstille kunstige billeder. En fælles forståelse af, hvad der er virkelighed er alfa og omega for fællesskabsforståelsen og demokratiet. Se bare på polariseringen i USA, som også begynder at vise sit grimme fjæs i Europa.
Vi får sværere ved at stole på det, vi ser på internettet. Billeder og videoer kan bruges til et hvilket som helst narrativ uden grænser. Til politisk påvirkning, til manipulation af sårbare eller ikke sårbare. Til radikalisering eller kvindehad. Udbredelsen af teknologien vil skabe en endnu dybere mistillidskløft, som vi har set med udbredelsen af fake news. Borgere taber tilliden og holder selv vigtige agendaer ud i strakt arm. For måske er det fake.
Vi har haft Photoshop, der kan manipulerer billeder, længe, men det har primært været brugt af professionelle. Nu er mulighederne for at skabe kunstige fotorealistiske billeder noget for alle. På mange måder er det en institutionalisering af løgnen, som Trump gør så stor brug af.
De mange dilemmaer har ikke den plads i debatten og hypen, og det er i høj grad også mediernes ansvar at klæde borgere på til den verden, de skal agere demokratisk i. Ikke kun tage generativ AI til sig som et effektiviseringsværktøj, men at oplyse og danne borgere.
Udviklingen burde sætte nye standarder for både mærkning og oplysning omkring dilemmaer ved teknologien. Samt en dybere refleksion over, hvorvidt det faktum at man kan prompte pølsevogne og månelanding er et vigtigt redskab eller blot en dum leg. Hvor er disse refleksioner, og hvorfor er det som at se børn i en legetøjsbutik i disse dage, hvor de færreste tager ansvaret for, at netop AI genererede billeder kommer til at være en markant udfordring for mediernes troværdighed, tilliden til hinanden og ikke mindst det demokratiske sammenhold?
