OBS. Bilden är väldigt, väldigt AI-genererad.
Idag (2 augusti) träder EU:s nya AI-förordning (AI Act) i kraft, med krav på att allt AI-genererat innehåll som framstår som autentiskt måste förses med en maskinläsbar märkning. Ambitionen att skydda demokratin och konsumenterna från desinformation är visserligen lovvärd, men den tekniska och juridiska implementationen bygger på en djupt förvirrad syn på vad mänskligt skapande faktiskt är. Genom att försöka dra en skarp gräns mellan ”autentiskt” och ”artificiellt” skapar lagstiftarna en absurd situation där den moderna civilisationens alla vardagliga tekniker plötsligt befinner sig i en juridisk gråzon.
Lagstiftningens akilleshäl återfinns i artikel 50, där undantag görs för AI-system som ”utför en assisterande funktion för standardredigering” eller ”inte väsentligen förändrar indata eller dess semantik”. Dessa formuleringar är, som forskare och jurister redan påpekat, svindlande otydliga. Var drar vi gränsen för standardredigering?
Låt oss börja med text. Microsoft Word introducerade sin första stavningskontroll 1983. Idag drivs dessa system av avancerade neurala nätverk. När ett program som Grammarly inte bara rättar felstavningar, utan aktivt skriver om meningar för att förbättra ton och tydlighet – har vi då passerat gränsen för ”standardredigering”? Ska varje text, e-postmeddelande och SMS som passerat en mobiltelefons prediktiva autokorrigering hädanefter bära en varningstext som förkunnar att författarens bristande språkkänsla har maskerats av algoritmer? Ännu mer komplicerat blir det med nyhetsbyråer som Associated Press och Reuters, som i decennier använt automatiserad journalistik för att skriva tusentals artiklar om kvartalsrapporter och sportresultat.
När vi granskar bild och fotografi blir lagens orimlighet än mer påtaglig. EU-byråkraterna tycks drömma om ett ”obearbetat” digitalt fotografi, en ren och oförstörd representation av verkligheten. Denna digitala oskuld har aldrig existerat. Redan när en bild fångas på en kamerasensor komprimeras den genom JPEG-algoritmer som systematiskt kastar bort information som det mänskliga ögat inte kan uppfatta. Modern mobilfotografering bygger helt på ”computational photography”. När du tar en bild med en modern smartphone – vare sig det är Apples Deep Fusion eller Googles Night Sight – slår telefonen i bråkdelen av en sekund ihop flera exponeringar, justerar ljuset och skärper konturerna pixel för pixel med hjälp av inbyggd AI. Samsung hamnade 2023 i blåsväder när det visade sig att deras telefoner lade till AI-genererade detaljer på bilder av månen. Detta är exakt vad lagen vill åt, men det sker automatiskt i kameran. Ska varje mobilbild få en stor, fet vattenstämpel som skriker ”OÄKTA”?
Och vad händer med professionell bildbehandling? Fotomanipulation är lika gammalt som fotografin själv; från mörkrummets dubbelexponeringar till Stalins raderande av politiska fiender. Idag använder professionella fotografer Adobe Lightrooms AI-verktyg för att automatiskt justera exponering och färg. Ska vi kräva märkning av varje retuscherat pressfoto och Instagram-filter?
Inom ljud och musik blir konsekvenserna rent komiska. Antares Auto-Tune lanserades 1997 och har sedan Chers ”Believe” blivit standard i nästan all kommersiell musikproduktion. Om AI-förordningen ska tas på allvar måste varje låt som använder tonhöjdskorrigering redovisas i detalj, så att lyssnaren inte luras att tro att artisten faktiskt sjunger rent. Eller varför inte märka upp vilken trummaskin, synth och DAW (studioprogramvara) som använts i varje låt.
Brusreduceringsteknik från Dolby har använts sedan 1960-talet för att ta bort bakgrundsljud i filmer. Idag använder podcasters AI-verktyg som rensar bort ekon och andningsljud. Ska varje podcast och radioprogram inledas med en varning om att det autentiska bruset från luftkonditioneringen har avlägsnats på artificiell väg? Än mer absurt blir det när vi betänker att moderna hörapparater använder djupa neurala nätverk för att i realtid anpassa och förstärka ljud. Måste hörselskadade märka upp allt de hör?
Samma problematik återfinns inom video och TV. Modern färgkorrigering (color grading) är standard i all TV- och filmproduktion. Dagens premium-TV-apparater från tillverkare som LG, Samsung och Sony använder inbyggda AI-processorer för att uppskala lågupplöst innehåll till 4K eller 8K. Ska varje TV-program märkas när det visas på en modern TV? Ska varje Marvel-film, där skådespelarna interagerar med CGI-effekter mot en greenscreen, ackompanjeras av en blinkande text som påminner tittaren om att de faktiskt inte befinner sig i rymden? Och vad gör vi med AI-dubbning och automatisk textning på plattformar som YouTube?
EU:s AI-förordning bygger på en romantisk och djupt falsk föreställning om att det finns en skarp gräns mellan människa och verktyg. Sanningen är att vi har använt teknik för att förstärka, förändra och försköna vår verklighet sedan vi började rita på grottväggar.
Den praktiska konsekvensen av lagstiftningen är att den antingen blir helt tandlös, eftersom företagen kommer att åberopa de luddiga undantagen för ”standardredigering”, eller så kommer den att leda till en massiv övermärkning. Psykologisk forskning visar tydligt att överdriven varningsmärkning leder till ”märkningströtthet” (label fatigue) och ”banner blindness”. Om allt märks, märks ingenting. Det skapar en falsk trygghet där vi invaggas i tron att det omärkta är sant, när det i själva verket är precis lika redigerat, filtrerat och tillrättalagt som allt annat.
Det är dags att EU slutar jaga spöken och i stället litar på medborgarnas förmåga till källkritik. Annars kan vi lika gärna börja märka upp hela den moderna civilisationen som ”artificiellt genererad”.