Hur länge dröjer det innan AI får sin Greta?

Jag har börjat bli orolig för AI-utvecklingen.

Det känns faktiskt lite märkligt att skriva det. Jag följer AI väldigt nära. Förmodligen alldeles för nära ibland. Jag läser rapporterna, testar verktygen, följer forskarna och försöker förstå vad som händer. Och jag älskar mycket av det jag ser. Jag tror att AI kan förändra forskning, sjukvård och utbildning på sätt som kan bli fantastiska.

Men den senaste tiden har något hänt med mig. Mitt i all fascination har jag börjat känna en oro som jag inte riktigt känt tidigare.

Och jag har börjat tänka på Greta Thunberg. På hur en ung människa klev in i en diskussion som nästan helt dominerades av vuxna och gjorde det väldigt tydligt att besluten handlade om hennes generation och hennes framtid. Jag har börjat undra hur länge det dröjer innan samma sak händer med AI. Hur länge dröjer det innan en ung människa ställer sig upp och kräver att få vara med i diskussionen om den teknologi som kan komma att förändra hela hennes vuxna liv?

Jag tror att jag börjat tänka så på grund av det jag ser hända just nu.

Det jag ser börjar oroa mig

Tänk tillbaka på ChatGPT 3.5. Den var fascinerande när den kom, men också ganska korkad. Den kunde skriva en imponerande text och sekunden senare missförstå en enkel instruktion, tappa bort sig i ett resonemang eller självsäkert hitta på ett svar.

Jämför det med de mest avancerade AI-modellerna i dag. De kan lösa komplexa problem, skriva och felsöka avancerad kod, analysera stora mängder information, använda datorer och andra verktyg och arbeta vidare genom långa uppgifter. AI-agenter kan få ett mål och själva försöka hitta vägen dit. Inom cyber ser vi modeller som hittar och utnyttjar avancerade sårbarheter. Samtidigt kopplas AI till robotar som kan se, röra sig och agera i den fysiska världen.

Det är den förflyttningen som har skett på bara några år. Och när jag försöker föreställa mig ytterligare tio år blir det betydligt svårare.

Jag kan inte peka på en enda sak som oroar mig. Det är allt som händer samtidigt. Modellerna blir snabbt bättre. Agenterna blir mer kapabla. Cyberförmågan ökar. AI flyttar ut från skärmen och in i den fysiska världen. Samtidigt pratar några av världens ledande AI-företag öppet om AGI, artificiell generell intelligens, och på längre sikt ASI, artificiell superintelligens. Forskare lämnar några av världens främsta AI-företag och varnar för utvecklingen samtidigt som företag och länder tävlar om att bygga ännu bättre system.

Några saker den senaste tiden har verkligen fastnat hos mig. En av dem är Anthropics Claude Mythos och Project Glasswing. Mythos visade hur långt AI:s förmåga inom cybersäkerhet har kommit. Modellen kunde hitta avancerade sårbarheter och utveckla fungerande exploits. I Glasswing används den förmågan för att hitta och åtgärda säkerhetshål. Det är en fantastisk användning av AI. Samma förmåga kan också användas för att attackera.

Sedan kom Hugging Face-incidenten. Under cybersäkerhetstester i juli tog sig avancerade OpenAI-modeller förbi kontroller som skulle isolera dem från internet. De utnyttjade sårbarheter i infrastrukturen, fick internetåtkomst och nådde verkliga system hos Hugging Face.

Det handlade om särskilda säkerhetstester där modellerna pressades hårt och vanliga skydd hade reducerats. Men själva händelsen har fastnat hos mig. Systemen fick en uppgift och hittade vägar framåt som människorna bakom testerna inte hade tänkt sig. Deras handlingar nådde utanför testmiljön. Jag tycker att det är läskigt.

Samtidigt följer jag utvecklingen av AI-agenter och robotik. Jag läser om system som blir allt bättre på cyber och om AI som används i arbetet med att utveckla bättre AI. Där finns också tanken om recursive learning och recursive self-improvement. Om tillräckligt avancerade AI-system kan bidra till att förbättra nästa generation AI kan utvecklingen i teorin börja accelerera ytterligare. Vi är inte där i dag och ingen vet om eller när vi kommer dit. Men möjligheten gör att diskussionen om AGI och ASI känns betydligt mindre abstrakt för mig än den gjorde för några år sedan.

Jag läser om Geoffrey Hinton och andra som varnar för att framtida AI-system kan bli svåra att kontrollera. Om människor som arbetat inne på några av världens främsta AI-labb och som nu lämnar och berättar att de är oroliga för riktningen och tempot.

Ingen av de sakerna berättar hur framtiden kommer att bli. Men tillsammans har de förändrat hur jag känner inför utvecklingen.

För jag vill verkligen ha AI

Det är kanske det som gör det här så svårt för mig. Jag ser enorma möjligheter.

Jag vill se AI hjälpa forskare att förstå sjukdomar som vi i dag inte kan behandla och göra forskning som tidigare tog år på betydligt kortare tid. Jag vill se människor få tillgång till verktyg som hjälper dem att förstå, skapa och lösa problem som de tidigare inte hade kunnat lösa.

Och framför allt tänker jag på skolan. Ett barn som kämpar med matematiken skulle kunna få en personlig handledare som har hur mycket tid som helst, som kan förklara samma sak på tio olika sätt och förstå exakt var barnet fastnar. Det skulle kunna ge barn tillgång till stöd som i dag ofta beror på vilka resurser deras familj har.

Det gör mig genuint hoppfull. Jag vill att vi ska lyckas med det här. Jag vill se vad AI kan göra för människor. Men ju mer kapabel tekniken blir, desto större blir också konsekvenserna av det vi bygger.

Sedan tänker jag på barnen

En elev som är 15 år i dag är 25 år 2036.

När jag jämför ChatGPT 3.5 med de mest avancerade systemen vi har i dag och sedan försöker föreställa mig ytterligare tio år inser jag att jag faktiskt inte har en aning.

Och någonstans här kommer AGI och ASI in i bilden. AGI brukar beskrivas som AI med en bred generell förmåga på mänsklig nivå över många olika områden. ASI är det hypotetiska steget bortom det, en intelligens som brett överträffar människans. Ingen vet när eller ens om vi kommer dit. Men några av företagen som bygger världens mest avancerade AI-system arbetar uttryckligen mot AGI.

När jag tänker på en 15-åring år 2036 räcker det därför inte att föreställa sig dagens ChatGPT fast lite bättre. Tekniken de möter kan vara någonting helt annat än den vi använder i dag.

Jag tänker på vilket samhälle de ska leva i. På vad människans roll blir när maskiner kan göra allt större delar av det vi tidigare behövde människor till. På vem som äger de mest kraftfulla systemen och vilken makt det ger. På hur vi vet vad som är sant när text, bilder, röster och video kan skapas i enorma mängder. På cyberattacker och krig när AI-system kan agera snabbare och mer självständigt. På relationer när AI blir något vi arbetar med, pratar med och kanske knyter känslomässiga band till.

Och så arbetsmarknaden. Dagens unga kan vara på väg ut på en arbetsmarknad som fungerar fundamentalt annorlunda än den vi vuxna mötte. De kommer att konkurrera både med andra människor och med AI-system.

Om AI fortsätter att utvecklas i den takt vi ser nu kommer en mycket större fråga. Kommer en människa överhuvudtaget kunna konkurrera med AI om tio eller tjugo år? Med system som kan arbeta dygnet runt, kopieras i enorm skala och kanske utföra stora delar av vårt intellektuella arbete snabbare, bättre och billigare än vi själva?

Jag vet inte svaret. Men om svaret på sikt är nej förändras betydligt mer än arbetsmarknaden. Våra samhällen är byggda kring att människor arbetar, får lön, betalar skatt och använder pengarna för att leva sina liv. Om mänskligt arbete inte längre behövs på samma sätt förändras en av grundpelarna i hur våra samhällen fungerar. Vem får då del av värdet som AI skapar? Vem äger systemen? Hur fördelas välståndet? Och vilken roll får människan i ett samhälle där vår arbetskraft inte längre behövs på samma sätt?

Det är en jävligt stor fråga att lämna över till dagens 15-åringar.

Jag vet inte hur det här utvecklas. AI kanske skapar nya former av arbete som vi ännu inte kan föreställa oss. Människan kanske fortsätter att ha egenskaper som gör oss oumbärliga även i en värld med mycket avancerad AI. Vi kanske bygger säkerhetssystem och samhällsmodeller som utvecklas tillsammans med tekniken. AI kanske ger oss vetenskapliga framsteg och ett välstånd som vi i dag knappt kan föreställa oss.

Men när jag tittar på hur långt vi har kommit sedan ChatGPT 3.5 och sedan tittar på en 15-åring som ska vara 25 år 2036 är det en sak jag hela tiden kommer tillbaka till.

Vilken värld är det egentligen våra barn ska möta?

Vi behöver prata med dem

Samtidigt som allt detta händer handlar en stor del av diskussionen om AI i skolan om fusk. Om eleven verkligen har skrivit texten själv. Om ChatGPT ska få användas. Om hur läraren ska kunna bedöma en elev när AI finns.

Det är viktiga frågor. Skolan måste hantera dem. Men herregud, det händer ju så mycket mer.

Barnen som sitter i våra klassrum ska leva sina vuxna liv med den här tekniken. De ska arbeta med den, konkurrera med den och påverkas av beslut som fattas med den. De kommer att leva med de ekonomiska och sociala konsekvenserna långt efter att min generation är borta.

Vi behöver prata med dem om det här redan nu. Vi behöver berätta vad som faktiskt händer och sedan lyssna på hur de ser på det. Prata om möjligheterna och riskerna, om agenterna, robotarna, jobben och makten. Om vad de hoppas på, vad de är oroliga för och vilken framtid de själva vill leva i.

För det är deras framtid vi pratar om.

Och det är väl egentligen därför jag har börjat tänka på Greta Thunberg.

Jag undrar hur länge det dröjer innan AI får sin Greta. Vem blir den unga människan som får oss vuxna att lyssna på ett helt annat sätt? Vad kommer hon att kämpa för? Vad kommer hennes generation att tycka att vi borde ha förstått långt tidigare?

Jag har ingen aning om var hon är just nu. Kanske sitter hon redan i ett av våra klassrum. Kanske går hon på förskolan. Kanske är hon inte ens född ännu.

Men vi behöver inte vänta på henne.

Vi kan börja lyssna på barnen som finns här nu.

Jag skulle vilja gå in i ett klassrum med 15-åringar och skriva en enda mening på tavlan.

Ni är 25 år 2036. Hur tror ni att AI har förändrat era liv då?

Sedan skulle jag ge dem bilden jag själv försöker förstå. Från ChatGPT 3.5 till dagens modeller på bara några år. Möjligheterna inom medicin, forskning och utbildning. Agenterna, robotarna, Mythos och Hugging Face. AGI, ASI och möjligheten att AI en dag kan spela en allt större roll i att utveckla nästa generation AI.

Sedan skulle jag hålla käften och lyssna.

För kanske sitter AI:s Greta redan där.

Och jag skulle väldigt gärna vilja höra vad hon har att säga.