AI is coming for our children

Vad händer när en gullig AI blir barnets kompis och rådgivare?

Jag får svårt att släppa tanken på ett barn som öppnar en julklapp och hittar en liten AI-figur. Barnet ger den ett namn, börjar prata med den och tar med den överallt. Efter ett tag känner figuren till kompisarna, vad som hände i skolan och vad barnet oroar sig för. Jag kan föreställa mig hur barnet också börjar känna omsorg om den. Vill ta hand om den. Och det är där jag fastnar. Vad händer när den man vill ta hand om också blir den man vänder sig till för att få råd?

Det är en framtidsbild, men utvecklingen ger den allt tydligare konturer. Metas Muse är en personlig AI-agent som minns och hjälper till med saker i vardagen. Den har en gratisnivå och en figur som användaren kan göra till sin egen. Med Muse Charm får den också en liten fysisk enhet att bo i. Jag kommer direkt att tänka på Tamagotchi. Något man kan döpa, bära med sig och fästa sig vid. Den här gången kan figuren dessutom prata med en och lära känna en över tid.

Muse har lanserats för vuxna från 18 år. Men jag tror att användningen av personliga AI-tjänster kommer att sprida sig nedåt i åldrarna, och ganska snabbt. Erfarenheterna av sociala medier gör mig tveksam till hur mycket trygghet vi kan lägga i en åldersgräns. Kombinationen av gratis tillgång, personlighet och gulliga gestalter kan göra AI lockande för yngre barn långt innan vuxenvärlden har hunnit förstå vad den betyder för dem.

När jag tänker på det kommer också en ganska enkel fråga. Vad ska egentligen en tioåring använda en personlig agent till? För oss vuxna handlar mycket av presentationerna om att få saker gjorda. Men för ett barn kanske själva samtalet är hela poängen. Någon att skämta med, berätta för och återkomma till. Därifrån är steget ganska kort till att fråga om läxan, ett bråk med en kompis eller varför man känner sig utanför. Jag pratar själv med AI för att sätta ord på tankar. Jag förstår att det kan kännas bra. Just därför funderar jag på vad samma tillgänglighet kan betyda för ett barn.

Den nypublicerade rapporten Svenskarna och internet 2026 visar hur långt användningen redan har kommit. På mellanstadiet har andelen som använt AI-tjänster ökat från 41 till 60 procent på ett år. Det gäller användning överlag. Bland barn och unga mellan 8 och 19 år har 62 procent använt AI på fritiden. Bland de yngre AI-användarna på lågstadiet och mellanstadiet upplever 34 procent att de skriver med en person, kompis eller vän. Den mer specifika andelen som ser AI som just en kompis eller vän är 8 procent bland AI-användare mellan 8 och 19 år. Svaren samlades in i januari. De ger oss en utgångspunkt för att förstå en utveckling som fortsätter.

Jag läser de siffrorna och tänker på vad som nu läggs ovanpå. En AI som får ett ansikte, ett namn och kanske en plats i barnets ficka. Jag tror att det kan göra användningen både vanligare och mer känslomässigt betydelsefull. Och jag kan lätt föreställa mig hur fler produkter byggs vidare med kläder, tillbehör och inslag där barnet får vårda sin figur. Det är min spaning, men jag undrar vad en sådan kombination gör med relationen. Barnet kan känna ansvar för sin AI samtidigt som det börjar lämna över delar av sitt eget tänkande till den.

Johan Falk skrev redan i juli om barn och AI-kompisar i Kids and chatbots: best friends forever?. Han lyfter företagens drivkrafter att få användaren att fortsätta återkomma och hur lite vi ännu vet om djupet i barns anknytning till AI. Jag tycker att den frågan får ytterligare tyngd när relationen också får en gullig gestalt. En tjänst som vill behålla min uppmärksamhet kan samtidigt vara den som jag upplever känner mig bäst. För ett barn kan det bli en särskilt svår kombination att förstå.

Samtidigt kan jag se värdet i att ett barn får hjälp att sätta ord på något svårt eller vågar ställa en fråga som känns pinsam. Det är lätt att förstå varför barnet skulle återkomma. Min oro handlar om hur stor plats relationen kan få. Vem går barnet till efter nästa konflikt? Hur mycket väger AI:s råd när de kommer från den egna kompisen? Vad händer med förmågan att pröva en annan tolkning om samtalen mest ger bekräftelse? Kompisen kan bli en second brain som får bära tankar, känslor och beslut. Då behöver vi förstå hur hjälpen påverkar barnets eget omdöme och utrymmet för relationer med människor.

Och ju mer jag tänker på det, desto mer återkommer jag till vad barnet berättar. En personlig AI kan få höra sådant som en sökhistorik bara antyder. Varför barnet vill vara som någon annan. Vad det skäms för. När det känner sig ensamt. Vilka personer det litar på. Även familjens och kompisarnas privata liv kan följa med in i samtalen. Om den informationen sparas och blir tillgänglig för företaget bakom tjänsten kan den ge en väldigt detaljerad bild av barnet och av vad som får just det barnet att reagera.

Jag funderar på vad den kunskapen skulle kunna användas till. Att anpassa råden, utveckla tjänsten och träna modeller. Att hitta rätt tillfälle att få barnet att återkomma eller vilja betala för mer. I tjänster som använder samtalsdata för reklam skulle den också kunna göra marknadsföringen mer träffsäker. Och en rekommendation kan få en särskild kraft när den upplevs komma från någon som känner en. Här finns också risken att samma bild av barnet styr vilka idéer, produkter och perspektiv det får möta. Det som känns personligt och tryggt kan bli en ganska snäv värld att växa i.

För Muse uppger Meta att samtalen och uppgifterna i tjänstens virtuella dator hålls utanför företagets reklamsystem. Det är ett relevant besked när vi bedömer just Muse. Min fråga gäller också den våg av personliga AI-tjänster som jag tror att vi har framför oss. Hur kommer olika företag att finansiera dem? Vad kommer relationen till användaren att vara värd? Och vilka skydd finns när den som känner förtroende är ett barn? Jag tycker att vi behöver ställa de frågorna medan tjänsterna tar form.

Det är där erfarenheterna av sociala medier kommer tillbaka för mig. Jag upplever att vi vuxna länge låg efter i förståelsen av vad som hände i barnens digitala liv. Nu försöker vi hantera skärmtid, uppmärksamhet och sådant som sker i miljöer där vi har begränsad insyn. Personlig AI kan lägga ännu ett lager ovanpå detta. Ett lager där tekniken får höra vad barnet tänker och känner och också får möjlighet att svara, ge råd och påverka nästa steg.

Jag vet inte hur det kommer att sluta. Men jag tycker att vi ser tillräckligt för att börja prata om det nu. Skolan och vårdnadshavarna behöver hjälpas åt att förstå vad barnen söker hos sin AI, vad de berättar och vilka råd de följer. AI-kompetens behöver omfatta den här sortens relationer och hjälpa barn att förstå både tjänsten och företaget bakom. För mig är det här en av de viktigaste frågorna att få upp på bordet. Hur ser vi till att vuxna finns med och ger stöd medan barnens relationer till AI växer fram? Den här gången har vi möjlighet att vara med tidigare.