Risker med desinformation från AI i skolorna

I år startar ett tvåårigt forskningsprojekt som ska genomföra tillämpade studier på skolor i Brasilien. Forskningen ska titta på effekterna av desinformation genom generativ artificiell intelligens (AI) inom utbildningsväsendet. Genom erfarenhetsutbyte mellan brasilianska och svenska forskare kan resultaten kunna appliceras på den svenska skolan i framtiden.

Forskningsprojektet, som heter “Impacts of generative artificial intelligence on the disinformation ecosystem: applications in educommunication in the post-digital context”, syftar till att förstå hur AI påverkar desinformation och att utveckla en ny metod inom Educommunication för att förbättra användningen av generativa AI-verktyg och förbereda skolelever för att känna igen äktheten i den information som genereras och dess desinformativa potential. Projektet bygger på tidigare erfarenheter från utbildningsprojekt i Östtimor, Moçambique och Brasilien.

Det är Renira Gambarato, professor i medie- och kommunikationsvetenskap och Paola Sartoretto, universitetslektor i medie- och kommunikationsvetenskap, båda på Högskolan för lärande och kommunikation (HLK) vid Jönköping University (JU), som från Sverige kommer att delta i forskningsprojektet.

Hösten 2025 kommer Renira och Paola att åka till Brasilien till för att utföra studier och 2026 kommer två brasilianska forskare till Sverige.

– I och med utbytet gynnas även vi eftersom vi kommer att vidareutveckla metoden som ska tillämpas i skolorna och komma både lärare och elever till nytta. Resultaten kommer också att delas vilket kan öppna upp för att en liknande studie kan genomföras i svenska skolor, säger Renira Gambarato.

Den ökande användningen av generativ AI gör desinformation mer komplex och svår att kontrollera.

– Det handlar om att förbereda eleverna så att de bättre förstår hur AI fungerar och kan känna igen när den används för att skapa desinformation, säger Renira.

Generativ AI kan skapa originalinnehåll självständigt genom att lära sig från stora datamängder utan övervakning. Detta innehåll kan ibland vara felaktigt eller vilseledande och kan leda till problem som bedrägeri, diskriminering och kränkning av rättigheter. När generativ AI används mer i samhället kan det göra desinformation mer komplex och svår att hantera. Algoritmerna som skapar detta innehåll är ofta svåra att förstå, vilket gör det svårt att bedöma informationens ursprung och noggrannhet. Detta påverkar hur vi uppfattar och använder information i vår vardag.

– Medialiteracitet, alltså att kunna förstå, tolka och använda information blir mer komplext och viktigare i vår samtida mediemiljö och skolan har en nyckelroll i att skapa förutsättningar för alla att kunna läsa den samtida världen i sin komplexitet, säger Paola Sartoretto.