AI-genererat innehåll

Medier och källkritik · AI-genererat innehåll

AI-genererat innehåll

När texter, bilder och röster kan skapas på några sekunder – och ändå måste granskas som alla andra källor.

Skapar AI kan skriva text, göra bilder, härma röster och skapa filmklipp.
Låter säker Ett AI-svar kan vara välformulerat även när innehållet är fel.
Saknar ansvar AI kan hjälpa, men det är människan som måste kontrollera resultatet.
Kräver öppenhet I skolarbete behöver man kunna visa hur AI har använts.
Abstrakt bild av mänsklig hand och AI-hand.
AI kan kännas nästan mänsklig eftersom svaret är snabbt, tydligt och språkligt snyggt. Men bilden påminner också om något viktigt: tekniken styrs, tränas och används av människor. Bildkälla: Wikimedia Commons, Artificial-Intelligence.jpg.

Ett AI-svar som låter bra – men innehåller fel

“Generativ AI uppfanns 2022 när ChatGPT lanserades. Innan dess kunde datorer bara följa enkla instruktioner och inte skapa egna texter eller bilder.”

Vad är problemet? Svaret låter tydligt, men det är missvisande. Generativ AI och äldre AI-tekniker fanns långt före 2022. Det som hände då var snarare att många fler människor fick tillgång till enkla chattverktyg.

Det här är en av de viktigaste sakerna att förstå om AI-genererat innehåll: språket kan vara snyggt även när innehållet inte håller. AI kan formulera sig som en lärare, en expert eller en nyhetstext. Den kan använda ord som låter trovärdiga. Men ett välskrivet svar är inte samma sak som ett kontrollerat svar.

När du möter ett AI-svar behöver du därför stanna upp. Frågan är inte bara: “Låter det rimligt?” Frågan är också: “Vilka källor bygger detta på, vad kan jag kontrollera och vem tar ansvar om svaret är fel?”

Faktakolla med tre frågor

Tryck på frågorna och använd dem på AI-svaret ovan.

Faktakolla AI-svaret

1. Vad påstås? Att generativ AI uppfanns 2022.

2. Vad kan kontrolleras? När generativa AI-tekniker och bildmodeller började användas.

3. Vad saknas? Källor, tidslinje och skillnaden mellan teknikens historia och allmänhetens genombrott.

Vad är generativ AI?

Generativ AI är AI som kan skapa nytt innehåll. Det kan vara text, bilder, ljud, kod, musik, sammanfattningar, idéer eller filmklipp. Den gör det inte genom att “veta” saker på samma sätt som en människa. Den tränas på stora mängder data och lär sig mönster: vilka ord som ofta passar ihop, hur bilder brukar se ut, hur röster låter och hur olika typer av texter brukar byggas upp.

En enkel liknelse är att generativ AI fungerar som en mycket avancerad mönsterbyggare. Om den har sett många recept kan den skriva något som liknar ett recept. Om den har sett många nyhetsartiklar kan den skriva något som låter som en nyhetsartikel. Om den har tränats på många bilder kan den skapa en ny bild som liknar sådant den lärt sig. Men den förstår inte automatiskt om resultatet är sant, rättvist, aktuellt eller lämpligt.

Text

AI-text

En AI kan skriva en förklaring, ett tal, en debattartikel eller en sammanfattning. Det kan vara ett stöd, men texten kan innehålla fel, sakna källor eller låta mer säker än den borde.

Bild

AI-bild

En bild kan skapas från en prompt, till exempel “en elev i ett futuristiskt bibliotek”. Bilden kan se verklig ut utan att visa något som faktiskt har hänt.

Röst och video

AI-röst och AI-video

AI kan härma röst, ansiktsuttryck och rörelser. Det gör tekniken användbar, men också farlig om den används för att lura människor.

Bildexempel: när det ser äkta ut

AI-bilder är bra att använda i källkritik eftersom de visar skillnaden mellan synintryck och bevis. En bild kan se fotografisk ut men ändå vara skapad av en modell. Därför räcker det inte att säga “jag ser det ju”. Frågan är: varifrån kommer bilden, när publicerades den, och finns andra oberoende källor?

AI-genererat porträtt av en kvinna som inte finns.
Ett AI-genererat ansikte kan likna ett foto av en verklig person. Använd bilden för att diskutera varför “ser verklig ut” inte räcker som bevis. Bildkälla: Wikimedia Commons, Woman_1.jpg.
Två AI-genererade deepfake-ansikten.
Deepfake-exempel visar hur ansikten kan konstrueras digitalt. Fråga: vilka detaljer skulle du vilja kontrollera innan du litade på bilden? Bildkälla: Wikimedia Commons, Male_and_female_deepfake.jpg.
AI-genererad falsk bild av Hollywood-skylten i brand.
En viral AI-hoax kan spridas snabbt eftersom bilden väcker starka känslor. Fråga: vem publicerade först, och vad säger pålitliga nyhets- eller myndighetskällor? Bildkälla: Wikimedia Commons, Hollywood sign deepfake hoax.

Möjligheter och risker

Generativ AI är inte bara ett hot. Den kan vara ett bra hjälpmedel när den används öppet och kritiskt. Den kan ge förslag på rubriker, förklara svåra ord, skapa övningsfrågor, hjälpa dig att strukturera en text eller låta dig träna på ett språk. För en elev kan AI ibland fungera som en extra samtalspartner: “Förklara det här enklare”, “ge mig tre exempel” eller “ställ kontrollfrågor på texten”.

Risken uppstår när AI-svaret blir en genväg runt tänkandet. Om du lämnar in en AI-text utan att förstå den har du inte visat dina kunskaper. Om du använder AI som källa utan att kontrollera fakta kan du sprida fel. Om du skapar en falsk bild, röst eller video av någon annan kan det skada en person på riktigt.

Varför AI kan ha fel

  • Hallucination: AI kan hitta på fakta, personer, böcker, citat eller källor.
  • Förenkling: AI kan göra en svår fråga för enkel och missa viktiga perspektiv.
  • Otydliga källor: Du ser inte alltid vad svaret bygger på.
  • Gammal information: Modellen kan sakna nyare fakta eller blanda ihop tidsperioder.
  • Bias: Mönster i träningsdata kan ge skeva eller stereotypa svar.

AI eller människa?

Målet är inte att alltid kunna “avslöja AI”. Det går ofta inte säkert. Målet är att kunna motivera vad du ser, vad du vet och vad du fortfarande behöver kontrollera.

Exempel A: Text

“Demokrati är viktigt eftersom människor får vara med och bestämma. Det gör samhället mer rättvist och skapar trygghet för alla.”

Exempel B: Bild

Ett porträtt visar en person som ser ut att vara fotograferad i studio. Bakgrunden är suddig och ansiktet är mycket symmetriskt.

Exempel C: Påstående

“Min källa är en AI-chatt som sa att det stämmer. Den lät väldigt säker och hade många detaljer.”
AI eller människa? Så resonerar du

Fråga inte bara “vem skrev?” utan också: vad kan kontrolleras, finns källor, är texten ovanligt allmän, och vad vet vi om sammanhanget? I många fall är den bästa slutsatsen: det går inte att veta säkert utan mer information.

Källkritik när avsändare och källor är otydliga

När en person skriver en text kan du fråga vem personen är, vilken kunskap personen har och varför texten publiceras. Med AI blir det mer komplicerat. Är avsändaren AI-verktyget, personen som skrev prompten, företaget bakom verktyget eller eleven som lämnar in texten? I praktiken måste du tänka så här: den som använder AI och sprider resultatet har ansvar för att kontrollera det.

Vad ser jag?

Är det text, bild, röst eller video? Finns det tecken på att innehållet är skapat, klippt, redigerat eller taget ur sitt sammanhang?

Vad vet jag?

Finns en tydlig avsändare? Finns datum, ursprungskälla, metod eller länkar till kontrollerbara uppgifter?

Vad måste jag kontrollera?

Jämför med flera pålitliga källor. Leta efter originalet. Kontrollera namn, siffror, citat, bilder och påståenden som låter dramatiska.

Elevuppgift: tre kontroller innan du delar

  1. Välj ett AI-svar, en AI-bild eller ett påstående i ett flöde.
  2. Skriv: vad påstås, vem är avsändare och vad saknas?
  3. Hitta två andra källor som antingen stödjer, nyanserar eller motsäger innehållet.

AI i skolan: stöd, genväg, fusk och ansvar

AI kan vara ett stöd i skolarbetet, men bara om användningen är tydlig och läraren tillåter den. Det är stor skillnad mellan att be AI förklara ett svårt begrepp och att låta AI skriva hela uppgiften åt dig. Det avgörande är om du själv förstår, bearbetar och kan stå för resultatet.

AI i skolan: okej, tveksamt eller fusk?

Okej: Be AI förklara ett svårt ord, skapa övningsfrågor eller ge respons på en text som du själv har skrivit, om läraren tillåter det.

Tveksamt: Be AI ge argument eller struktur till en inlämning utan att berätta det eller utan att kontrollera fakta.

Fusk: Lämna in AI-skriven text, AI-lösta svar eller AI-genererade analyser som om de vore dina egna.

Centrala begrepp

Generativ AI

AI som kan skapa nytt innehåll, till exempel text, bilder, ljud, film, kod eller idéer.

Prompt

Instruktionen eller frågan du skriver till AI:n. En tydlig prompt kan ge bättre svar, men den garanterar inte att svaret är sant.

AI-genererad

Något som helt eller delvis har skapats av AI, till exempel en bild, text eller röst.

Faktakoll

Att kontrollera uppgifter mot andra källor, särskilt namn, datum, siffror, citat och påståenden som verkar viktiga.

Avsändare

Den som står bakom informationen. Vid AI-innehåll behöver man också fråga vem som använde verktyget och varför.

Hallucination

När AI hittar på något som låter trovärdigt, till exempel en källa, ett citat eller en händelse.

Ansvar

Att den som använder AI måste förstå, kontrollera och kunna stå för resultatet.

Fusk

När man vilseleder läraren om vad man själv har gjort eller vilka kunskaper man faktiskt visar.

Regler för ansvarsfull AI-användning i skolan

Fråga först Ta reda på om AI är tillåtet i uppgiften och på vilket sätt. Olika uppgifter kan ha olika regler.
Använd AI som stöd, inte ersättning Låt AI förklara, ställa frågor eller ge respons. Låt den inte göra hela tänkandet åt dig.
Kontrollera fakta Jämför viktiga uppgifter med pålitliga källor. Var extra noga med siffror, citat, namn och historiska händelser.
Var öppen Skriv hur du har använt AI om uppgiften kräver det: till exempel “Jag använde AI för att få övningsfrågor och sedan skrev jag svaren själv.”
Stå för resultatet Du ska kunna förklara texten, resonemanget och källorna med egna ord. Annars visar arbetet inte dina kunskaper.

Källor och bildkällor

Skolverket – Råd om AI, chattbottar och liknande verktyg https://www.skolverket.se/kompetensutveckling/stod-i-arbetet/rad-om-ai-chattbottar-och-liknande-verktyg Stöd för skolans arbete med AI-verktyg, ansvar och bedömning.
Skolverket – AI i skolan – risker och möjligheter https://www.skolverket.se/om-skolverket/nyheter-och-pressmeddelanden/nyheter/nyheter/2023-09-05-ai-i-skolan—risker-och-mojligheter Underlag om AI, fusk och hur skolan kan tänka kring bedömning.
Internetkunskap / Internetstiftelsen – Så söker du källkritiskt med AI https://internetkunskap.se/artiklar/grundkurs-i-ai/sa-soker-du-kallkritiskt-med-ai/ Förklarar varför AI-svar kan låta trovärdiga och hur man kan granska dem.
UNESCO – Guidance for generative AI in education and research https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research Internationellt perspektiv på ansvarsfull och åldersanpassad AI-användning i utbildning.
Europeiska kommissionen – AI Act https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai Bakgrund till EU:s arbete med AI-regler, transparens och märkning av AI-genererat innehåll.
Wikimedia Commons – Artificial-Intelligence.jpg https://commons.wikimedia.org/wiki/File:Artificial-Intelligence.jpg Bildkälla till toppbilden om artificiell intelligens.
Wikimedia Commons – Woman_1.jpg https://commons.wikimedia.org/wiki/File:Woman_1.jpg AI-genererat porträtt som används för att diskutera bildkritik och verklighetsintryck.
Wikimedia Commons – Male_and_female_deepfake.jpg https://commons.wikimedia.org/wiki/File:Male_and_female_deepfake.jpg Bildexempel på deepfake/AI-genererade ansikten.
Wikimedia Commons – AI-generated deepfake hoax image of the Hollywood sign during the 2025 California wildfires https://commons.wikimedia.org/wiki/File:AI-generated_deepfake_hoax_image_of_the_Hollywood_sign_during_the_2025_California_wildfires.jpg Exempel på AI-genererad viral bluffbild som kan användas för källkritisk diskussion.
Källor

Skolverket – Råd om AI, chattbottar och liknande verktyg https://www.skolverket.se/kompetensutveckling/stod-i-arbetet/rad-om-ai-chattbottar-och-liknande-verktyg Ger skolnära stöd om ansvarsfull AI-användning, källgranskning, fuskfrågor och hur lärare kan arbeta med AI i undervisningen.

Skolverket – Kritisk användning av nätet https://larportalen.skolverket.se/moduler/M200 Ger undervisningsstöd om sökkritik, källkritik och generativ AI, vilket passar direkt till elevernas arbete med AI-svar och digitala källor.

Mediemyndigheten – Bilders makt – AI och visuell påverkan https://mediemyndigheten.se/barn-och-unga/for-vuxna/bilders-makt-ai-och-visuell-paverkan/ Ger pedagogiskt material om AI-bilder, visuell påverkan, bildspråk och källkritik för högstadiet och gymnasiet.

Internetkunskap – Generativ AI https://internetkunskap.se/artiklar/ordlista/generativ-ai/ Förklarar vad generativ AI är och hur verktyg kan skapa text, bild, ljud och annat innehåll utifrån träningsdata.

Internetkunskap – Därför behöver du vara källkritisk mot ChatGPT och andra generativa AI-verktyg https://internetkunskap.se/snabbkurser/kallkritik/darfor-behover-du-vara-kallkritisk-mot-chatgpt-och-andra-generativa-ai-verktyg/ Ger elevnära förklaringar av varför AI-svar kan låta säkra men ändå vara fel och varför fakta behöver dubbelkollas.

Internetkunskap – Så påverkar AI källkritiken på nätet https://internetkunskap.se/artiklar/grundkurs-i-ai/sa-paverkar-ai-kallkritiken-pa-natet/ Visar hur AI-genererade texter och bilder påverkar nyhetsflöden, sociala medier och behovet av modern källkritik.

Digitala lektioner – AI – Då och nu https://digitalalektioner.se/lektion/ai-da-och-nu/ Ger färdigt lektionsmaterial om vad AI är, hur generativ AI fungerar och hur elever kan diskutera AI i vardag och skola.

Svenskarna och internet – Barn och ungdomars användning av AI-verktyg https://svenskarnaochinternet.se/rapporter/barnen-och-internet-2025/barn-och-ungdomars-anvandning-av-ai-verktyg/ Ger aktuell svensk statistik om hur barn och unga använder AI-verktyg, särskilt relevant för att koppla sidan till elevernas vardag.

SCB – Generativa AI-verktyg tar plats i svensk vardag https://www.scb.se/hitta-statistik/statistik-efter-amne/forskning-och-det-digitala-samhallet/det-digitala-samhallet/befolkningens-it-anvandning/pong/statistiknyhet/befolkningens-it-anvandning-2025/ Ger myndighetsstatistik om hur användningen av generativ AI ökar i Sverige och varför källkritik blir viktigare.

IMY – GDPR vid användning av generativ AI https://www.imy.se/publikationer/gdpr-vid-anvandning-av-generativ-ai/ Förklarar dataskydd, personuppgifter och risker när generativ AI används, vilket passar avsnitt om ansvar och integritet.

UNESCO – Guidance for generative AI in education and research https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research Ger internationell vägledning om generativ AI i utbildning, med fokus på etik, åldersanpassning, dataskydd och mänsklig kontroll.

Encyclopaedia Britannica – Artificial intelligence https://www.britannica.com/technology/artificial-intelligence Ger en faktagranskad grundöversikt över artificiell intelligens, maskininlärning, språkmodeller och AI:s användningsområden.