AI i Utbildning · Vecka 34

Snart kan många inlämningsuppgifter bära ett osynligt spår av att en AI-tjänst varit inblandad. Det låter som svaret på ett problem många lärare brottas med, men i skolan riskerar tekniken att skapa fler frågor än den löser.

I förra veckan meddelade Anthropic att innehåll som skapas med Claude ska förses med osynliga, maskinläsbara märkningar. I text vävs ett vattenmärke in direkt i det Claude skriver, baserat på en metod som ursprungligen utvecklades av Google DeepMind. I bilder och vissa andra filer läggs i stället digital information om innehållets ursprung till.

Märkningen syns inte för den som läser texten. Den ska i stället kunna upptäckas med hjälp av en särskild nyckel, men Anthropic har ännu inte släppt något publikt verktyg för detta. Eftersom märket finns i själva texten kan det följa med när innehållet klistras in i ett dokument, ett mejl eller en inlämningsuppgift.

Men det här handlar inte om Claude ensamt. OpenAI arbetar efter en liknande strategi och märker redan bilder och vissa ljudfiler med Content Credentials och Googles SynthID-teknik. Microsoft och andra leverantörer utvecklar motsvarande lösningar. Jag tror därför att vi ska räkna med att AI-genererat innehåll från de stora leverantörerna med tiden blir alltmer tekniskt spårbart, även om metoderna och säkerheten kommer att skilja sig åt.

Bakgrunden är EU AI-förordning. Sedan den 2 augusti 2026 gäller nya krav på att AI-genererat eller AI-manipulerat innehåll ska märkas i ett maskinläsbart format så att det går att identifiera, när det är tekniskt möjligt. Det är en rimlig tanke. När AI kan skapa alltmer övertygande texter, bilder och röster behöver vi bättre sätt att förstå varifrån innehåll faktiskt kommer.

Men transparens är inte samma sak som bevis. Och i skolan kan den skillnaden få stora konsekvenser.

Ett spår som lätt kan misstolkas

Risken är att vattenmärkning kommer att presenteras som lösningen på AI-genererade elevtexter. Logiken blir enkel. Hittar systemet ett märke måste texten vara skriven av AI, och är den skriven av AI måste eleven ha fuskat.

Men ett vattenmärke visar bara att en AI-modell sannolikt varit inblandad någonstans i texten. Det säger ingenting om hur.

En elev kan själv ha tänkt, undersökt och skrivit en text, men därefter bett AI att göra vissa formuleringar tydligare. En elev med dyslexi kan ha använt AI för att få sina egna tankar uttryckta i ett mer sammanhängande språk. En elev med svenska som andraspråk kan ha skrivit resonemanget på egen hand men fått hjälp att formulera det på bättre svenska.

AI har då påverkat texten. Men det betyder inte automatiskt att AI har ersatt elevens kunskap eller gjort det arbete som skulle bedömas. Om uppgiften handlar om förståelse av historia kan språkligt stöd vara tillåtet och rimligt. Om uppgiften handlar om elevens förmåga att skriva svenska kan samma stöd vara otillåtet. Vattenmärket ser ingen skillnad mellan dessa situationer. Det känner inte till uppgiftens syfte, lärarens instruktioner eller vilket stöd eleven har rätt att använda.

En elev kan också ha använt AI på det sätt som läraren uttryckligen har rekommenderat. Eleven kan ha fått hjälp att utveckla ett resonemang, bearbeta återkoppling eller komma vidare när arbetet har låst sig. Om formuleringar från AI följer med in i den färdiga texten kan kontrollen ändå reagera. Märket visar då att AI har förekommit i arbetsprocessen, men inte om användningen var tillåten, hur mycket av texten den påverkade eller vem som stod för resonemanget.

Det är just därför ett tekniskt spår kan straffa oskyldig användning. Spåret kan vara korrekt och ändå leda till en felaktig anklagelse.

Ursprung är inte samma sak som författarskap, och att AI varit inblandad är inte samma sak som fusk.

Vilka elever påverkas mest?

Vissa grupper riskerar att bli extra utsatta om märkningen används som ett enkelt facit. Det gäller elever med lässvårigheter som använder digitalt språkstöd, elever med svenska som andraspråk och elever med funktionsnedsättningar som använder AI som ett hjälpmedel. Det gäller också den noggranna elev som bara ville förbättra sitt språk före inlämningen.

Dessa elever kan ha helt rimliga skäl att använda AI. Skolan behöver därför kunna skilja mellan stöd som hjälper en elev att visa sin kunskap och användning som ersätter elevens eget tänkande.

Den gränsen kan inte ett vattenmärke dra åt oss.

Vad huvudmän bör göra nu

Vattenmärkning och liknande kontroller kommer sannolikt att byggas in i fler av de system som skolan redan använder. Innan sådana funktioner tas i bruk behöver huvudmän ha svar på några grundläggande frågor:

Vad visar systemet egentligen? Hur säkert är resultatet? Vilka typer av AI-användning kan ge utslag? Vad händer med elevens text när den analyseras, och vart skickas den? Vem får se resultatet och hur får det användas?

Min rekommendation är enkel! Behandla aldrig en teknisk märkning som ett bevis i sig. Sätt den alltid i relation till uppgiftens instruktioner, elevens tidigare arbete och ett samtal med eleven själv.

Gör också arbetsprocessen synlig i undervisningen genom utkast, muntliga resonemang och elevens egen förklaring av sitt arbete. Det säger ofta mer om vad eleven faktiskt kan än ett automatiskt facit någonsin kan göra.

Ett vattenmärke kan visa att en AI-modell sannolikt har varit inblandad. Det kan inte visa om eleven förstått innehållet, om användningen var tillåten eller om eleven har fuskat. Den bedömningen kräver fortfarande tydliga regler och mänskligt omdöme.

You Rock!

/ Danny