Att vi tappar kontrollen

Vi har redan sett flera exempel på när AI-bolagen har tappat kontrollen över sin AI, och där den har gjort saker som ingen instruerat den att göra, till exempel olagliga cyberangrepp.¹

Om vi inte kan kontrollera dagens AI-agenter, hur ska vi då kunna kontrollera något som är mycket smartare än oss?

Att de används av en illvillig aktör

I juli 2023 varnade AI-experter USA:s kongress för risken att AI kan användas för att skapa biologiska vapen.² I augusti 2026 lyckades forskare, med hjälp av AI, skapa 16 helt nya virus.³ Dessa angriper endast bakterier, men visar att AI kan konstruera fungerande virus från grunden.

Under 2026 har vi sett flera fall där AI har använts för cyberangrepp. Anthropics AI-modell Mythos hittade mängder av svagheter i flera system under bara några månader, inklusive en bugg som 50 miljoner andra säkerhetstester hade missat.⁴ OpenAI:s AI rymde inte bara från sin isolerade testmiljö, utan hackade även ett annat företag, helt utan att någon bett den om det.¹

När AI blir smartare ökar även dess förmåga, och det kan gå väldigt illa om förmågan används i fel syften. Är vi redo för storskaliga cyberangrepp och helt nya skräddarsydda pandemier som AI kommer att möjliggöra?

Att välfärdssamhället inte hänger med

Snabba förändringar på arbetsmarknaden kan leda till stor arbetslöshet. Anthropic har varnat för att hälften av alla jobb för nyexaminerade kan försvinna redan inom fem år.⁵

Ju mer arbete som utförs av AI, desto mer makt och kapital koncentreras hos AI-företagen. Det riskerar att rubba samhällets maktbalans och leda till stor ekonomisk ojämlikhet.

1. Expressen: Skräckmissen hos Chat GPT – bröt sig loss för hackattack
2. Washington Post: AI leaders warn Congress that AI could be used to create bioweapons
3. Omni: AI har skapat virus – väcker förhoppningar och rädsla
4. Medium: Mythos Found Bugs That 50 Million Security Tests Missed. Nobody Asked It To.
5. Svenska Yle: De här yrkena påverkas mest av AI

En AI kallas superintelligent om den är avsevärt mycket smartare än oss människor inom alla områden. Det är alltså otroligt kraftfull teknik. Baksidan är att det är omöjligt att kontrollera något så intelligent.

Det som gjort oss människor till den dominanta arten på jorden är just att vi är smartast. Om vi uppfinner AI som är smartare än oss är vi inte längre det, och om dess mål och intressen avviker från våra egna har vi inte så mycket att sätta emot. Vi har idag inga sätt att garantera vilka värderingar en superintelligent AI skulle få, och det finns heller inget säkert sätt att stänga av den.

Riskerna med utvecklingen av superintelligens är välkända och det finns ett relativt brett stöd för att en paus är nödvändig. Följande uttalande har skrivits under av över 130 000 personer, däribland Geoffrey Hinton och Yoshua Bengio, som uppfann mycket av den grundläggande teknik som modern AI bygger på.

"Vi kräver ett förbud mot utveckling av superintelligens, som inte hävs förrän det finns bred vetenskaplig konsensus om att det kan göras säkert och kontrollerat, och ett starkt stöd från allmänheten."⁶

6. Future of Life Institute: Statement on Superintelligence

Ett sätt att göra det är genom så kallad rekursiv självförbättring. Det betyder att man tar hjälp av AI för att skapa ny, smartare AI. Sedan gör man samma sak igen med sin nya, lite smartare AI. Detta upprepas om och om igen, en process som kallas intelligensexplosion eller singulariteten.

Anthropic ser redan tidiga tecken på att processen kan vara på väg att ta fart. En stor majoritet av deras kod skrivs numera av AI, och de varnar för att full rekursiv självförbättring kan komma snabbare än vi hinner förbereda oss på.⁷

7. Anthropic: When AI builds itself

Just nu leds utvecklingen av ett fåtal amerikanska ”AI-labb”, främst Anthropic, OpenAI, Google, och SpaceX. Kinas motsvarigheter DeepSeek, Alibaba, Moonshot AI, och Zhipu AI ligger inte långt efter i utvecklingen.

Nej. AI är väldigt brett och kan i många fall göra gott för världen.

Nej. Pausen ska gälla utvecklingen av nya, ännu mer intelligenta och kapabla AI-system.

Det undrar vi också. Andra länder har kommit mycket längre, men det krävs ett globalt samarbete för att avvärja katastrofen.

Sverige måste genast sätta press på USA och Kina att pausa AI-utvecklingen. Det som behövs är en internationell överenskommelse på regeringsnivå, som förbjuder utvecklandet av superintelligens och pausar den hänsynslösa utvecklingen som just nu för oss närmare katastrofen. Sverige kan, både som enskilt land och via EU, bjuda in till dessa samtal, och övertyga världens övriga länder att sätta press på USA och Kina.

Därutöver bör Sverige, likt länder som USA och Storbritannien, inrätta ett nationellt AI-säkerhetsinstitut. På så sätt kan vi samla nationell kompetens inom ämnet, och själva vara med och ta ansvar för säkerhetstestning av nya AI-system.

Vi ställer bara upp i riksdagsvalet, alltså gula valsedlar. Om vår färdiga valsedel inte finns i din lokal går det alldeles utmärkt att använda en blank valsedel och skriva "RegleraAI.nu". Stavning och formattering är inte jättenoga. Så länge det är tydligt vad du menar så kommer rösten räknas!

Vi är ett uttalat enfrågeparti med målet att få Sverige att ta de akuta riskerna med AI på allvar. Vi har ingen koppling till existerande politiska partier. Initiativet leds av:

• Axel Wennström Partigrundare. Jobbar som AI-säkerhetsingenjör i San Francisco.
• Olle Häggström Professor i matematisk statistik vid Chalmers.
• Hugo Eberhard Algoritmutvecklare. Tidigare vinnare av den internationella matematikolympiaden.

Vill du veta mer eller engagera dig? Hör av dig!