Ett klipp i klasschatten

Det börjar med ett kort videoklipp. I klippet ser en elev ut att säga något grovt om en annan elev. Någon skriver: “Har ni sett?” Någon annan skrattar. En tredje skickar vidare till en annan klass. Efter tio minuter har flera redan bestämt sig för vad som “måste ha hänt”.

Sedan kommer påståendet: klippet är falskt. Rösten är manipulerad. Munrörelserna är skapade med AI. Personen i klippet har aldrig sagt orden. Men skadan har redan börjat: blickar i korridoren, skämt, ilska, oro hemma och frågor från lärare.

Vad är en deepfake?

En deepfake är ljud, bild eller film som har skapats eller förändrats med hjälp av AI så att det ser ut som att en person gör eller säger något som personen inte har gjort eller sagt. Det kan handla om ett ansikte som byts ut, en röst som klonas, en läppsynk som ändras eller en helt AI-skapad scen som påstås visa verkligheten.

Tekniken är inte alltid ond. Den kan användas i film, satir, spel, utbildning och kreativa projekt. Problemet uppstår när materialet presenteras som verkligt, används utan samtycke eller sprids för att lura, skada eller påverka människor.

Röst, bild och film kan manipuleras

Förr tänkte många att “det finns ju på film” var ett starkt bevis. Men digitalt material kan förändras på flera sätt. En bild kan vara beskuren, en video kan vara klippt ur sitt sammanhang, en röst kan vara skapad av AI och ett konto kan låtsas vara någon annan.

Risker för individer

För en enskild person kan deepfakes bli mycket allvarliga. Ett falskt klipp kan användas för att mobba, pressa, hota eller lura någon. En manipulerad röst kan användas i ett bedrägeri. En falsk bild kan få andra att tro att någon varit på en plats, sagt något eller gjort något som aldrig hänt.

I skolan kan det handla om rykten, kränkningar och social uteslutning. På arbetsplatser kan det handla om bedrägerier eller skadat förtroende. För kända personer och politiker kan falska klipp användas för att påverka människors bild av dem.

Risker för samhälle och demokrati

Deepfakes kan också skada samhället. Ett falskt klipp på en politiker, myndighetsperson eller journalist kan spridas i ett känsligt läge: inför ett val, under en konflikt eller efter en olycka. Även om klippet avslöjas som falskt kan det hinna skapa misstro.

Det farliga är inte bara att människor tror på en enskild lögn. Det farliga är också att många till slut känner: “Man kan inte lita på någonting.” När förtroendet för medier, myndigheter, forskning och demokratiska samtal försvagas blir det svårare att fatta gemensamma beslut.

Så bör man agera när manipulerat material sprids

Det viktigaste är att inte bli en del av spridningen. Många delar för att varna, skämta eller fråga om något är sant, men varje delning kan ge materialet större räckvidd. Det gäller särskilt om materialet kränker en person.

En bra rutin är att bromsa först och undersöka sedan. Vem publicerade klippet först? Finns det en originalkälla? Bekräftas händelsen av flera oberoende källor? Har personen själv eller en trovärdig aktör kommenterat? Finns det tecken på att kontot är falskt, nyskapat eller ute efter pengar, klick eller politisk påverkan?