IHastighet
Snabbare
Ett intellekt som tänker som vi, fast tusentals gånger snabbare. Med 10 000 gånger högre fart tar ett års tänkande mindre än en timme.
Superintelligens · sibolaget.se
Superintelligens kan bli det viktigaste som någonsin hänt mänskligheten. SI-bolaget finns för att den också ska bli det bästa.
01Vision
Under hela vår historia har vi varit de smartaste varelserna på jorden. Det kan snart förändras. Superintelligens är inte nästa app eller nästa pryl. Det är nästa kapitel i intelligensens historia. SI-bolaget finns för att det kapitlet ska skrivas med öppna ögon, stadiga händer och hela mänskligheten ombord.
02Begreppet
Ett intellekt som vida överträffar de bästa mänskliga hjärnorna inom praktiskt taget alla områden.
Den kan anta minst tre former
IHastighet
Ett intellekt som tänker som vi, fast tusentals gånger snabbare. Med 10 000 gånger högre fart tar ett års tänkande mindre än en timme.
IIKollektiv
Miljontals sammankopplade intellekt som tillsammans vida överträffar varje enskild hjärna. En hel civilisation av tankar, samlad i en datorhall.
IIIKvalitet
Inte bara snabbare, utan i grunden smartare. Ett intellekt som ser mönster vi inte ens kan föreställa oss och ligger lika långt före oss som vi ligger före schimpanserna.
03Fysiken
Människans hjärna är det mest avancerade vi känner till, formad av evolutionen under hundratals miljoner år. Men den är bunden av biologins villkor. Maskiner är det inte.
25 000 000×
Nervceller fyrar sällan mer än runt 200 gånger per sekund. En modern processor tickar runt fem miljarder gånger per sekund.
1 700 000×
Nervsignaler färdas i upp till 120 meter per sekund. Ljus i en optisk fiber: omkring 200 000 kilometer per sekund.
86 000 000 000
Imponerande, men antalet begränsas av ett kranium och några liter blod. En datorhall har inget kranium.
20 W
Din hjärna drar ungefär lika mycket energi som en svag glödlampa. Ett enda modernt AI-chip kan dra 1 000 watt eller mer. Effektivitet är biologins trumfkort, än så länge.
Staplarna är i logaritmisk skala. Värdena är avrundade och anger storleksordning.
04Intelligensexplosionen
År 1965 beskrev matematikern I. J. Good en maskin smart nog att konstruera en ännu smartare maskin, som i sin tur bygger en ännu smartare. Resultatet blir en intelligensexplosion. Den första sådana maskinen, skrev han, blir
”den sista uppfinning som människan någonsin behöver göra”.
I. J. Good, 1965
Förutsatt, tillade han, att maskinen är foglig nog att berätta för oss hur vi ska hålla den under kontroll.
I modellen: från människonivå till superintelligens
5,0 år
Måttligt förlopp
Månader till år. Ont om tid att reagera, men den finns.
Leksaksmodell: dI/dt = k · Iα, från människonivå (1×) till 1 000×. Ingen prognos, utan ett sätt att känna på dynamiken. I logaritmisk skala blir exponentiell tillväxt en rak linje.
05Skalan
Så här brukar vi tänka oss intelligens: du på ena sidan, Einstein på den andra.
Men zooma ut, och avståndet mellan er krymper till nästan ingenting.
Superintelligens behöver inte stanna strax ovanför Einstein.
Den kan hamna här.
06Historia
Mer än sjuttio år från en enkel fråga till ett av vår tids största projekt.
Alan Turing publicerar ”Computing Machinery and Intelligence” och föreslår imitationsleken, det vi i dag kallar Turingtestet.
Dartmouthkonferensen samlar pionjärerna och ger forskningsfältet dess namn: artificiell intelligens.
I. J. Good beskriver hur en maskin som överträffar oss i intelligens kan konstruera ännu smartare maskiner, om och om igen.
IBM:s schackdator besegrar världsmästaren Garri Kasparov i en match över sex partier.
Det neurala nätverket AlexNet krossar konkurrenterna i bildtävlingen ImageNet och blir startskottet för djupinlärningens genombrott.
Nick Bostrom ger ut boken som gör superintelligens till en fråga för forskare, företag och beslutsfattare.
DeepMinds AlphaGo besegrar Lee Sedol i go med 4-1. Många experter hade trott att det låg ett decennium bort.
Artikeln ”Attention Is All You Need” presenterar arkitekturen bakom dagens stora språkmodeller.
AI knäcker i praktiken proteinveckningsproblemet, en av biologins stora utmaningar i ett halvt sekel.
En språkmodell blir en del av vardagen och når, enligt uppskattningar, 100 miljoner användare på två månader.
Både fysik- och kemipriset går till forskning om och med AI, från neurala nätverk till AlphaFold.
AI-system presterar på guldmedaljnivå vid Internationella matematikolympiaden.
Nästa rad är ännu inte skriven.
07Sverige
Sverige spelar en oväntat stor roll i berättelsen om superintelligens, från filosofin till Nobelpriset.
f. 1973
Filosofen från Helsingborg vars bok Superintelligence (2014) satte begreppet på världskartan.
f. 1967
Fysikern från Stockholm som i Life 3.0 (2017) frågade vilken framtid vi faktiskt vill ha med AI. Han var också med och grundade Future of Life Institute.
2024
Kungliga Vetenskapsakademien belönade forskning om och med AI i både fysik och kemi: neurala nätverk, datorbaserad proteindesign och AlphaFold.
08Principer
Superintelligens är för viktigt för att lämnas åt slumpen. Det här står vi för.
Ett intellekt som är smartare än vårt måste dela våra värderingar innan det blir mäktigt, inte efteråt.
Precis som allemansrätten öppnar naturen för alla, ska nyttan av superintelligens komma alla till del.
Det som påverkar alla ska kunna granskas av alla.
Tekniken ska tjäna människan och stärka hennes förmåga, frihet och värdighet. Aldrig tvärtom.
Ingen vet allt om det som byggs. Just därför måste vi gå varsamt fram.
Vi tänker i sekel, inte i kvartal.
09Frågor
Vad vi vet, vad vi inte vet och varför det spelar roll.
Nej. Dagens AI-system slår oss på enskilda områden, som schack, go och att förutsäga proteiners form, och de skriver och programmerar allt bättre. Men inget system överträffar de bästa människorna inom praktiskt taget alla områden. Det är där gränsen för superintelligens går.
AI är ett samlingsnamn för system som klarar uppgifter som kräver intelligens. AGI, artificiell generell intelligens, är ett system som kan lära sig och utföra i princip allt intellektuellt arbete som en människa kan. Superintelligens är steget därefter: ett intellekt som vida överträffar oss inom nästan alla områden. Om det steget tar decennier eller dagar är en av de stora öppna frågorna. Prova själv i simulatorn. Läs mer om AI och om AGI.
Ingen vet. Bedömningarna spänner från några år till aldrig. I en av de största enkäterna i sitt slag, med 2 778 AI-forskare 2023, blev den samlade bedömningen 50 procents chans att maskiner på egen hand klarar varje uppgift bättre än människor till år 2047. I en liknande enkät året innan låg samma bedömning 13 år senare.
Källa: Grace m.fl., Thousands of AI Authors on the Future of AI, 2024
Det kan bli det bästa vi någonsin byggt, eller det farligaste. Den största oron gäller inte ond vilja, utan ett system som är mycket smartare än vi och strävar efter mål som inte stämmer med våra.
Forskarna är oense. I en enkät bland 2 778 AI-forskare 2023 trodde 68 procent att ett gott utfall av övermänsklig AI är mer sannolikt än ett dåligt. Ändå angav mellan 38 och 51 procent minst 10 procents risk för ett utfall så illa som att mänskligheten utrotas. Samma år skrev hundratals forskare och ledare, bland dem Geoffrey Hinton och Yoshua Bengio, under ett uttalande om att det bör vara en global prioritet att minska den risken.
Källor: Grace m.fl., 2024 · Center for AI Safety, Statement on AI Risk, 2023
Alignment är forskningen om hur man får AI-system att vilja det vi faktiskt vill, även när de blir smartare än vi. Det är svårare än det låter: att beskriva mänskliga värderingar så exakt att en maskin inte kan missförstå dem har visat sig vara ett av fältets svåraste problem. Därför står säkerhet först bland våra principer. Vi går igenom forskningen i artikeln Kan vi styra något som är smartare än vi?
Mer än man kanske tror. Lär dig hur tekniken fungerar, prata om den och ställ krav på öppenhet och säkerhet, både hos dem som bygger den och hos dem som sätter reglerna. EU:s AI-förordning, som trädde i kraft 2024, visar att demokratier kan sätta ramar även för den mest avancerade tekniken.
Ordet finns överallt, från mobilen till riksdagen. Men vad är artificiell intelligens egentligen, hur fungerar det och varför pratar alla om det nu? Här är grunderna, förklarade från början, med sju figurer som du kan prova själv.
Läs artikelnEn chattbot svarar på frågor. En AI-agent får ett uppdrag och utför det själv, steg för steg, med verktyg som webbläsare, kod och e-post. Så fungerar agenterna, så mycket klarar de i dag och därför är de svårare att göra säkra än chattbotar.
Läs artikelnEn fråga till en chattbot drar mindre el än en tv på tio sekunder. Ändå bygger AI-bolagen datacenter som drar lika mycket el som storstäder, och i Sverige står datacenter i kö för att ansluta tusentals megawatt. Så hänger det ihop.
Läs artikelnThe word is everywhere, from your phone to parliament. But what is artificial intelligence really, how does it work and why is everyone talking about it now? Here are the basics, explained from the start, with seven figures you can try for yourself.
Read the articleA chatbot answers questions. An AI agent takes on a task and carries it out itself, step by step, with tools such as a browser, code and email. How agents work, how much they can do today and why they are harder to make safe than chatbots.
Read the articleA question to a chatbot uses less electricity than a TV does in ten seconds. Yet AI companies are building data centres that use as much electricity as big cities, and in Sweden data centres are queuing to connect thousands of megawatts. Here is how it all fits together.
Read the article10Kontakt
Vill du utforska, bygga eller diskutera framtidens intelligens? Hör gärna av dig.
Vi svarar. Med naturlig intelligens.