Superintelligens · sibolaget.se

Den sista uppfinningen.

Superintelligens kan bli det viktigaste som någonsin hänt mänskligheten. SI-bolaget finns för att den också ska bli det bästa.

01Vision

Vår vision

Under hela vår historia har vi varit de smartaste varelserna på jorden. Det kan snart förändras. Superintelligens är inte nästa app eller nästa pryl. Det är nästa kapitel i intelligensens historia. SI-bolaget finns för att det kapitlet ska skrivas med öppna ögon, stadiga händer och hela mänskligheten ombord.

02Begreppet

Vad är super­intelligens?

Ett intellekt som vida överträffar de bästa mänskliga hjärnorna inom praktiskt taget alla områden.

Definition fritt efter filosofen Nick Bostrom, 2014

Den kan anta minst tre former

IHastighet

Snabbare

Ett intellekt som tänker som vi, fast tusentals gånger snabbare. Med 10 000 gånger högre fart tar ett års tänkande mindre än en timme.

IIKollektiv

Fler

Miljontals sammankopplade intellekt som tillsammans vida överträffar varje enskild hjärna. En hel civilisation av tankar, samlad i en datorhall.

IIIKvalitet

Smartare

Inte bara snabbare, utan i grunden smartare. Ett intellekt som ser mönster vi inte ens kan föreställa oss och ligger lika långt före oss som vi ligger före schimpanserna.

03Fysiken

Hjärnan är ett mästerverk. Men den har gränser.

Människans hjärna är det mest avancerade vi känner till, formad av evolutionen under hundratals miljoner år. Men den är bunden av biologins villkor. Maskiner är det inte.

25 000 000×

Snabbare takt

Nervceller fyrar sällan mer än runt 200 gånger per sekund. En modern processor tickar runt fem miljarder gånger per sekund.

Neuron200 Hz
Processor5 GHz

1 700 000×

Snabbare signaler

Nervsignaler färdas i upp till 120 meter per sekund. Ljus i en optisk fiber: omkring 200 000 kilometer per sekund.

Nervbana120 m/s
Fiber200 000 km/s

86 000 000 000

Neuroner i din hjärna

Imponerande, men antalet begränsas av ett kranium och några liter blod. En datorhall har inget kranium.

Hjärna≈ 1,3 liter
Datorhallskalbar

20 W

Här leder hjärnan

Din hjärna drar ungefär lika mycket energi som en svag glödlampa. Ett enda modernt AI-chip kan dra 1 000 watt eller mer. Effektivitet är biologins trumfkort, än så länge.

Hjärna20 W
AI-chip1 000+ W

Staplarna är i logaritmisk skala. Värdena är avrundade och anger storleksordning.

04Intelligensexplosionen

När intelligens förbättrar sig själv

År 1965 beskrev matematikern I. J. Good en maskin smart nog att konstruera en ännu smartare maskin, som i sin tur bygger en ännu smartare. Resultatet blir en intelligensexplosion. Den första sådana maskinen, skrev han, blir

”den sista uppfinning som människan någonsin behöver göra”.

I. J. Good, 1965

Förutsatt, tillade han, att maskinen är foglig nog att berätta för oss hur vi ska hålla den under kontroll.

1,10

Hur mycket varje förbättring gör nästa förbättring lättare.

×20

Hur snabbt systemet forskar, jämfört med mänskliga forskare.

I modellen: från människonivå till superintelligens

5,0 år

Måttligt förlopp

Månader till år. Ont om tid att reagera, men den finns.

Leksaksmodell: dI/dt = k · Iα, från människonivå (1×) till 1 000×. Ingen prognos, utan ett sätt att känna på dynamiken. I logaritmisk skala blir exponentiell tillväxt en rak linje.

05Skalan

Intelligensskalan

Så här brukar vi tänka oss intelligens: du på ena sidan, Einstein på den andra.

Men zooma ut, och avståndet mellan er krymper till nästan ingenting.

Superintelligens behöver inte stanna strax ovanför Einstein.

Den kan hamna här.

Konceptuell illustration efter en tankefigur av Eliezer Yudkowsky, inte en mätning.

06Historia

Vägen hit

Mer än sjuttio år från en enkel fråga till ett av vår tids största projekt.

  1. 1950

    Kan maskiner tänka?

    Alan Turing publicerar ”Computing Machinery and Intelligence” och föreslår imitationsleken, det vi i dag kallar Turingtestet.

  2. 1956

    Forskningsfältet får sitt namn

    Dartmouthkonferensen samlar pionjärerna och ger forskningsfältet dess namn: artificiell intelligens.

  3. 1965

    Intelligensexplosionen

    I. J. Good beskriver hur en maskin som överträffar oss i intelligens kan konstruera ännu smartare maskiner, om och om igen.

  4. 1997

    Deep Blue

    IBM:s schackdator besegrar världsmästaren Garri Kasparov i en match över sex partier.

  5. 2012

    Djupinlärningen vaknar

    Det neurala nätverket AlexNet krossar konkurrenterna i bildtävlingen ImageNet och blir startskottet för djupinlärningens genombrott.

  6. 2014

    Superintelligence

    Nick Bostrom ger ut boken som gör superintelligens till en fråga för forskare, företag och beslutsfattare.

  7. 2016

    AlphaGo

    DeepMinds AlphaGo besegrar Lee Sedol i go med 4-1. Många experter hade trott att det låg ett decennium bort.

  8. 2017

    Transformern

    Artikeln ”Attention Is All You Need” presenterar arkitekturen bakom dagens stora språkmodeller.

  9. 2020

    AlphaFold

    AI knäcker i praktiken proteinveckningsproblemet, en av biologins stora utmaningar i ett halvt sekel.

  10. 2022

    ChatGPT

    En språkmodell blir en del av vardagen och når, enligt uppskattningar, 100 miljoner användare på två månader.

  11. 2024

    Nobelpris i Stockholm

    Både fysik- och kemipriset går till forskning om och med AI, från neurala nätverk till AlphaFold.

  12. 2025

    Guld i matematik

    AI-system presterar på guldmedaljnivå vid Internationella matematikolympiaden.

  13. 20??

    Superintelligens

    Nästa rad är ännu inte skriven.

07Sverige

Super­intelligensens svenska rötter

Sverige spelar en oväntat stor roll i berättelsen om superintelligens, från filosofin till Nobelpriset.

Helsingborg56°03′ N · 12°42′ E

f. 1973

Nick Bostrom

Filosofen från Helsingborg vars bok Superintelligence (2014) satte begreppet på världskartan.

Stockholm59°20′ N · 18°04′ E

f. 1967

Max Tegmark

Fysikern från Stockholm som i Life 3.0 (2017) frågade vilken framtid vi faktiskt vill ha med AI. Han var också med och grundade Future of Life Institute.

Stockholm59°20′ N · 18°04′ E

2024

Nobelpriset

Kungliga Vetenskapsakademien belönade forskning om och med AI i både fysik och kemi: neurala nätverk, datorbaserad proteindesign och AlphaFold.

08Principer

Sex principer för det som kommer härnäst

Superintelligens är för viktigt för att lämnas åt slumpen. Det här står vi för.

  1. 01

    Säkerhet före hastighet

    Ett intellekt som är smartare än vårt måste dela våra värderingar innan det blir mäktigt, inte efteråt.

  2. 02

    Allemansrätt till intelligens

    Precis som allemansrätten öppnar naturen för alla, ska nyttan av superintelligens komma alla till del.

  3. 03

    Öppenhet

    Det som påverkar alla ska kunna granskas av alla.

  4. 04

    Människan i centrum

    Tekniken ska tjäna människan och stärka hennes förmåga, frihet och värdighet. Aldrig tvärtom.

  5. 05

    Ödmjukhet

    Ingen vet allt om det som byggs. Just därför måste vi gå varsamt fram.

  6. 06

    Långsiktighet

    Vi tänker i sekel, inte i kvartal.

09Frågor

Raka svar på stora frågor

Vad vi vet, vad vi inte vet och varför det spelar roll.

Läs vidare

  • SuperintelligenceNick Bostrom · 2014
  • Life 3.0Max Tegmark · 2017
  • Human CompatibleStuart Russell · 2019
  • The Alignment ProblemBrian Christian · 2020
Ordlistan: AI och superintelligens från A till Ö Artikel: Vad är AGI, egentligen?
Finns superintelligens redan?

Nej. Dagens AI-system slår oss på enskilda områden, som schack, go och att förutsäga proteiners form, och de skriver och programmerar allt bättre. Men inget system överträffar de bästa människorna inom praktiskt taget alla områden. Det är där gränsen för superintelligens går.

Vad är skillnaden mellan AI, AGI och superintelligens?

AI är ett samlingsnamn för system som klarar uppgifter som kräver intelligens. AGI, artificiell generell intelligens, är ett system som kan lära sig och utföra i princip allt intellektuellt arbete som en människa kan. Superintelligens är steget därefter: ett intellekt som vida överträffar oss inom nästan alla områden. Om det steget tar decennier eller dagar är en av de stora öppna frågorna. Prova själv i simulatorn. Läs mer om AI och om AGI.

När kan superintelligens komma?

Ingen vet. Bedömningarna spänner från några år till aldrig. I en av de största enkäterna i sitt slag, med 2 778 AI-forskare 2023, blev den samlade bedömningen 50 procents chans att maskiner på egen hand klarar varje uppgift bättre än människor till år 2047. I en liknande enkät året innan låg samma bedömning 13 år senare.

Källa: Grace m.fl., Thousands of AI Authors on the Future of AI, 2024

Är superintelligens farligt?

Det kan bli det bästa vi någonsin byggt, eller det farligaste. Den största oron gäller inte ond vilja, utan ett system som är mycket smartare än vi och strävar efter mål som inte stämmer med våra.

Forskarna är oense. I en enkät bland 2 778 AI-forskare 2023 trodde 68 procent att ett gott utfall av övermänsklig AI är mer sannolikt än ett dåligt. Ändå angav mellan 38 och 51 procent minst 10 procents risk för ett utfall så illa som att mänskligheten utrotas. Samma år skrev hundratals forskare och ledare, bland dem Geoffrey Hinton och Yoshua Bengio, under ett uttalande om att det bör vara en global prioritet att minska den risken.

Källor: Grace m.fl., 2024 · Center for AI Safety, Statement on AI Risk, 2023

Vad betyder alignment?

Alignment är forskningen om hur man får AI-system att vilja det vi faktiskt vill, även när de blir smartare än vi. Det är svårare än det låter: att beskriva mänskliga värderingar så exakt att en maskin inte kan missförstå dem har visat sig vara ett av fältets svåraste problem. Därför står säkerhet först bland våra principer. Vi går igenom forskningen i artikeln Kan vi styra något som är smartare än vi?

Vad kan jag göra?

Mer än man kanske tror. Lär dig hur tekniken fungerar, prata om den och ställ krav på öppenhet och säkerhet, både hos dem som bygger den och hos dem som sätter reglerna. EU:s AI-förordning, som trädde i kraft 2024, visar att demokratier kan sätta ramar även för den mest avancerade tekniken.

10Kontakt

Framtiden är inte skriven än.

Vill du utforska, bygga eller diskutera framtidens intelligens? Hör gärna av dig.

Vi svarar. Med naturlig intelligens.