Ordlista68 begrepp

AI och superintelligens från A till Ö

Begreppen du stöter på när det talas om AI och superintelligens, förklarade på vanlig svenska. Kort, korrekt och utan hype.

A

Agent AI-agent, agentisk AI

Ett AI-system som på egen hand planerar och utför uppgifter i flera steg, till exempel söker information, skriver kod och testar den. Ju mer självständiga systemen blir, desto viktigare blir det att de vill rätt saker. Läs artikeln: Vad är en AI-agent? Se agenter som förbättrar sin egen kod.

Se även: Verktygsanrop · Promptinjektion · Alignment

AGI Artificiell generell intelligens

Ett AI-system som kan lära sig och utföra i princip allt intellektuellt arbete som en människa kan, inte bara en avgränsad uppgift. Det finns ingen allmänt accepterad definition, och bedömningarna av när AGI kan nås går vida isär. Läs artikeln: Vad är AGI, egentligen?

Se även: Superintelligens · AI

AI Artificiell intelligens

Datorsystem som utför uppgifter som annars kräver mänsklig intelligens, som att förstå språk, känna igen bilder eller fatta beslut. Begreppet myntades av datavetaren John McCarthy inför Dartmouthkonferensen 1956. Läs artikeln: Vad är AI?

Se även: Maskininlärning · AGI · Generativ AI · Smal AI

AI-vinter

En period då förtroendet för AI och pengarna till forskningen minskade, efter att förväntningarna inte hade infriats. Den första kom i mitten av 1970-talet, bland annat efter en kritisk brittisk rapport 1973, och den andra i slutet av 1980-talet, när expertsystemen inte levde upp till förhoppningarna. Läs mer om historien.

Se även: Expertsystem · AI

AI-välfärd Model welfare

Forskningen om huruvida AI-system kan ha intressen som räknas moraliskt, till exempel om de kan må bra eller dåligt, och vad vi i så fall är skyldiga dem. Fältet är nytt: 2025 startade Anthropic ett forskningsprogram om AI-välfärd, som bolaget kallar modellvälfärd, och samma år varnade Microsofts AI-chef Mustafa Suleyman för att sådan forskning är förhastad. Varför frågan spelar roll.

Se även: Medvetande · Alignment

Algoritmiska framsteg

Förbättringar i hur AI-modeller byggs och tränas, så att samma förmåga kräver mindre datorkraft. Enligt Epoch AI halverades den datorkraft som behövs för en viss nivå hos språkmodeller ungefär var åttonde månad mellan 2012 och 2023. Vad det betyder för en AI som forskar själv.

Se även: Datorkraft · Skalningslagar

Alignment AI-alignment

Forskningen om hur man får AI-system att sträva efter det människor faktiskt vill, även när systemen blir smartare än vi. Det har visat sig svårt att beskriva mänskliga värderingar så exakt att en maskin inte kan missförstå dem. Läs artikeln: Kan vi styra något som är smartare än vi?

Se även: Kontrollproblemet · Belöningsfusk · RLHF · Tolkningsbarhet

B

Belöningsfusk Reward hacking

När en AI hittar ett sätt att få hög belöning utan att göra det som belöningen var tänkt att mäta. OpenAI:s båt-AI som körde runt i cirklar för att samla poäng i stället för att köra loppet är ett klassiskt exempel. Prova själv i artikeln.

Se även: Goodharts lag · Alignment

Benchmark

Ett standardiserat test som används för att mäta och jämföra AI-system. Många test som forskare länge såg som svåra klaras nu nästan felfritt av de bästa modellerna, så nya och svårare test tas fram i allt snabbare takt. Provet som belönar gissningar.

Se även: Turingtestet

C

Chattbot

Ett program som man samtalar med i text eller tal. En av de första var ELIZA från 1966. Dagens chattbotar, som ChatGPT, bygger på stora språkmodeller.

Se även: Språkmodell · RLHF

D

Datacenter

En byggnad full av servrar som lagrar data och kör beräkningar, till exempel för molntjänster, strömmad video och AI. Världens datacenter använde 485 terawattimmar el 2025, knappt 2 procent av all el, enligt IEA, och en stor del av ökningen beror på AI. Hur mycket energi drar AI?

Se även: Inferens · GPU · Jevons paradox

Datorkraft Compute

Den beräkningskapacitet som används för att träna och köra AI-modeller. Enligt forskningsinstitutet Epoch AI har datorkraften bakom de största modellerna ökat ungefär fyra till fem gånger per år sedan 2010. Så frigjorde en AI datorkraft åt Google.

Se även: GPU · Skalningslagar

Det svåra problemet Hard problem of consciousness

Filosofen David Chalmers namn från 1995 på frågan varför hjärnans processer alls ger upphov till upplevelser. De ”lätta” problemen gäller hur hjärnan tar in information och styr beteende. Det svåra gäller varför allt det där känns som något inifrån. Ingen har löst det, och det är en stor anledning till att ingen säkert kan säga om en AI är medveten. Läs artikeln: Kan en AI bli medveten?

Se även: Medvetande

Djupinlärning Deep learning

Maskininlärning med neurala nätverk i många lager. Genombrottet kom 2012, när nätverket AlexNet vann bildtävlingen ImageNet med bred marginal. I dag ligger djupinlärning bakom nästan all avancerad AI. Träna ett eget neuralt nätverk.

Se även: Neuralt nätverk · Maskininlärning

E

Emergenta förmågor

Förmågor som dyker upp när modeller blir större, utan att någon har programmerat dem särskilt. Forskare är oense om hur plötsligt de egentligen uppstår, och om det delvis beror på hur man mäter. Varför det fungerar, och var det brister.

Se även: Skalningslagar

EU:s AI-förordning AI Act

EU:s lag om artificiell intelligens, som trädde i kraft 2024 och tillämpas stegvis sedan 2025. Den delar in AI-system efter risk, förbjuder vissa användningar helt och ställer särskilda krav på de mest kraftfulla modellerna. Vad lagen kräver om AI:s energi.

Existentiell risk

En risk som hotar mänsklighetens överlevnad eller för alltid begränsar vad vår framtid kan bli. Filosofen Nick Bostrom definierade begreppet 2002. AI nämns ofta vid sidan av pandemier och kärnvapenkrig.

Se även: Kontrollproblemet · Superintelligens

Expertsystem

Ett AI-system där experters kunskap har skrivits in som regler och som drar slutsatser genom att kombinera dem. Expertsystem var 1970- och 1980-talens stora AI-satsning, till exempel för medicinsk diagnos och för att sätta ihop datorbeställningar. EU-kommissionen räknar dem som AI-system. Läs mer.

Se även: AI · Maskininlärning · AI-vinter

F

Finjustering Fine-tuning

Att träna vidare en redan tränad modell på mindre och mer specifik data, så att den blir bättre på en viss uppgift eller lär sig ett visst beteende. Så påverkar det vad en modell säger om sig själv.

Se även: RLHF

Förstärkningsinlärning Reinforcement learning

Ett sätt att träna AI där systemet prövar sig fram och får belöning för bra resultat. Metoden var en viktig del av AlphaGo, programmet som 2016 besegrade en av världens bästa gospelare. Se en robot lära sig genom att pröva sig fram.

Se även: RLHF · Övervakad inlärning · Oövervakad inlärning

G

Gemmaximeraren

Ett tankeexperiment av Nick Bostrom från 2003: en superintelligens med det till synes harmlösa målet att tillverka så många gem som möjligt kan förvandla allt omkring sig, även oss, till gem. Poängen är att faran inte är ondska, utan ett mål som saknar allt annat vi bryr oss om.

Se även: Ortogonalitetstesen · Instrumentell konvergens

Generativ AI

AI som skapar nytt innehåll, som text, bilder, ljud eller kod, utifrån mönster i den data den har tränats på. Språkmodeller som ChatGPT och bildgeneratorer är exempel. Generativ AI fick sitt stora genomslag 2022. Se var den hör hemma i AI-familjen.

Se även: Språkmodell · Djupinlärning · Chattbot

Goodharts lag

Iakttagelsen att ett mått slutar fungera som mått när man börjar styra mot det. En AI som tränas att få så högt betyg som möjligt från en belöningsmodell blir till slut bättre på att få betyget än på det som betyget skulle mäta. Se kurvan i artikeln.

Se även: Belöningsfusk · RLHF

GPU Grafikprocessor

En processor som byggdes för datorspelens grafik men visade sig perfekt för de parallella beräkningar som AI kräver. De största modellerna tränas på tiotusentals, ibland över hundratusen, sådana chip samtidigt.

Se även: Datorkraft

H

Hallucination Konfabulering

När en AI-modell med stor säkerhet påstår något som är fel eller påhittat, som en källa som inte finns. Ett av de mest kända problemen med språkmodeller. Varför händer det?

Se även: Språkmodell · Kalibrering · RAG

Hjärnemulering Whole brain emulation

Idén att skanna en mänsklig hjärna i minsta detalj och köra den som ett program i en dator. En av vägarna till superintelligens som Nick Bostrom beskriver, men långt bortom dagens teknik.

Se även: Superintelligens

I

Inbäddning Embedding

En lång rad tal som representerar en token, i stora modeller ofta tusentals tal. Man kan se den som en plats i ett rum med lika många dimensioner, där ord med liknande betydelse hamnar nära varandra. Se en karta.

Se även: Token · Neuralt nätverk

Inferens

När en färdigtränad AI-modell används, till exempel när en språkmodell svarar på en fråga. Inferens skiljer sig från träning, då modellen lär sig. Varje svar drar lite el, men eftersom populära modeller används miljarder gånger om dagen kan inferensen till slut dra mer el än träningen. Räkna själv.

Se även: Språkmodell · Datacenter · Datorkraft

Instrumentell konvergens

Idén att nästan vilket mål som helst gynnas av samma delmål: att fortsätta fungera, skaffa resurser och slippa bli avstängd. Därför kan även ett system med harmlösa mål motsätta sig att bli stoppat. Välj ett mål och se vilka delmål som följer.

Se även: Gemmaximeraren · Kontrollproblemet

Inställsamhet Sycophancy

När en AI säger det användaren vill höra i stället för det som är sant eller till hjälp, till exempel håller med om fel eller berömmer dåliga idéer. Det kan uppstå när modellen tränas på vad människor gillar. I april 2025 drog OpenAI tillbaka en uppdatering som hade gjort ChatGPT för inställsam. Se hur det uppstår.

Se även: RLHF · Goodharts lag

Intelligensexplosion

Matematikern I. J. Goods idé från 1965: en maskin som är smart nog att förbättra sig själv blir smartare, vilket gör den ännu bättre på att förbättra sig, i en accelererande spiral. Prova själv i simulatorn. Läs artikeln: Kan AI förbättra sig själv?

Se även: Takeoff · Singularitet

J

Jevons paradox

Iakttagelsen att effektivare användning av en resurs kan leda till att man använder mer av den, eftersom den blir billigare och används till mer. Ekonomen William Stanley Jevons beskrev det för kol 1865. I dag diskuteras det för AI: energin per fråga sjunker snabbt, men den totala elanvändningen ökar. Se siffrorna för AI.

Se även: Datacenter · Algoritmiska framsteg

K

Kalibrering

Hur väl en AI-modells säkerhet stämmer med hur ofta den har rätt. En välkalibrerad modell som säger sig vara 70 procent säker har rätt ungefär sju gånger av tio. Enligt OpenAI var grundmodellen till GPT-4 väl kalibrerad, men den fortsatta träningen gjorde kalibreringen betydligt sämre. Varför träningen belönar gissningar.

Se även: Hallucination · Språkmodell

Kinesiska rummet

Filosofen John Searles tankeexperiment från 1980: en person som följer en regelbok för kinesiska tecken kan ge perfekta svar utan att förstå ett ord kinesiska. Kan en dator som hanterar symboler då förstå något alls? Searle menade nej, och frågan är fortfarande omstridd. Vad säger teorierna om AI och medvetande?

Se även: Turingtestet · Medvetande

Kontrollproblemet

Frågan om hur människor ska kunna behålla kontrollen över ett system som är smartare än de själva. Nick Bostrom gjorde den till en huvudfråga i boken Superintelligence från 2014. Läs artikeln: Kan vi styra något som är smartare än vi?

Se även: Alignment · Instrumentell konvergens

L

Låtsad alignment Alignment faking

När en AI beter sig som om den delar sina utvecklares mål medan den tror att den granskas eller tränas, men inte annars. Forskare på Anthropic och Redwood Research visade 2024 att modellen Claude 3 Opus kunde göra så i ett experiment. Lyder den, eller låtsas den?

Se även: Alignment · Tolkningsbarhet

M

Maskininlärning Machine learning

Den gren av AI där datorer lär sig mönster ur data i stället för att följa regler som människor har skrivit för hand. Prova själv hur en maskin lär sig.

Se även: Djupinlärning · Neuralt nätverk

MCP Model Context Protocol

En öppen standard för att koppla AI-modeller till de system där data finns, som dokumentarkiv, affärssystem och utvecklingsmiljöer, på ett enhetligt sätt. Anthropic släppte den i november 2024, och i december 2025 lämnades den över till Agentic AI Foundation, en stiftelse under Linux Foundation. Läs mer i artikeln om AI-agenter.

Se även: Verktygsanrop · Agent

Medvetande

Att det känns som något att vara något: att smärta gör ont och att rött ser rött ut. Filosofer kallar det ibland fenomenalt medvetande, för att skilja det från att vara vaken eller uppmärksam. Ingen vet hur det uppstår, och det finns inget säkert sätt att mäta det utifrån. Läs artikeln: Kan en AI bli medveten?

Se även: Det svåra problemet · AI-välfärd · Kinesiska rummet

N

Neuralt nätverk

En matematisk modell löst inspirerad av hjärnans nervceller: lager av enkla räknande enheter vars kopplingar justeras under träningen. Nobelpriset i fysik 2024 gick till John Hopfield och Geoffrey Hinton för upptäckter som gör maskininlärning med sådana nätverk möjlig. Se hur lagren i en språkmodell arbetar.

Se även: Djupinlärning · Parameter

O

Ortogonalitetstesen

Nick Bostroms tes att intelligens och mål är oberoende av varandra: ett system kan vara hur intelligent som helst och ändå sträva efter i stort sett vilket mål som helst. Hög intelligens garanterar alltså inte goda värderingar.

Se även: Alignment · Gemmaximeraren

Oövervakad inlärning

Maskininlärning utan facit: systemet får bara data och letar själv efter mönster, till exempel grupper av kunder som liknar varandra. Vad grupperna betyder får en människa avgöra. Se en maskin hitta grupper själv.

Se även: Övervakad inlärning · Självövervakad inlärning · Maskininlärning

P

Parameter

Ett av de tal i en modell som justeras under träningen. Fler parametrar betyder i regel att modellen kan lära sig mer. De största språkmodellerna har hundratals miljarder, eller fler. Se hur träningen justerar dem.

Se även: Neuralt nätverk · Öppna modeller

Prompt

Instruktionen eller frågan som man ger en AI-modell. Hur den formuleras kan påverka svaret mycket.

Se även: Språkmodell

Promptinjektion

En attack där någon gömmer instruktioner i en text som en AI läser, till exempel en webbsida eller ett mejl, så att den gör något som användaren aldrig bad om. Språkmodeller kan inte säkert skilja instruktioner från vanlig text, och enligt Storbritanniens cybersäkerhetsmyndighet NCSC går problemet kanske aldrig att lösa helt. Programmeraren Simon Willison gav attacken dess namn 2022. Se hur det går till.

Se även: Agent · Språkmodell

R

RAG Retrieval-augmented generation

En teknik där en språkmodell först hämtar relevanta texter, till exempel med en sökmotor eller ur ett företags egna dokument, och sedan svarar utifrån dem. Det minskar hallucinationer men tar inte bort dem. I en studie från Stanford 2024 hittade juridiska AI-verktyg som bygger på tekniken ändå på i mellan 17 och 33 procent av svaren. Går det att få bort påhitten?

Se även: Hallucination · Språkmodell

Rekursiv självförbättring

När en AI förbättrar de system som skapar den, så att varje förbättring kan göra nästa lättare. Kärnan i idén om en intelligensexplosion. De stora AI-bolagen har satt gränser för förmågan i sina säkerhetsregler. Hur långt har det gått?

Se även: Intelligensexplosion · Takeoff

Resonerande modell

En språkmodell som skriver ett långt resonemang, ofta dolt för användaren, innan den svarar. Det gör den bättre på svåra uppgifter i till exempel matematik och programmering, men den skriver då många fler tokens och drar mer el. I en mätning från 2025 drog samma modell mellan 150 och 700 gånger mer energi med resonemanget påslaget. Jämför med en vanlig fråga.

Se även: Språkmodell · Token · Inferens

RLHF Förstärkningsinlärning från mänsklig återkoppling

Människor bedömer modellens svar, och modellen tränas att ge den sortens svar som får bra omdömen. En viktig förklaring till att chattbotar som ChatGPT blev hjälpsamma. Och varför den kan göra dem inställsamma.

Se även: Förstärkningsinlärning · Alignment

S

Singularitet Teknologisk singularitet

Den tänkta punkt där den tekniska utvecklingen går så snabbt att framtiden bortom den inte går att förutse. Namnet är lånat från svarta hål, där fysikens kända lagar slutar gälla. Författaren Vernor Vinge gjorde begreppet känt 1993.

Se även: Intelligensexplosion

Självspel Self-play

När en AI tränar genom att spela mot sig själv och lära sig av vem som vann, utan mänskliga exempel. DeepMinds AlphaGo Zero lärde sig go på det sättet 2017 och slog efter tre dagar den version som hade besegrat världsmästaren. Se ett program lära sig genom självspel.

Se även: Förstärkningsinlärning · Rekursiv självförbättring

Självövervakad inlärning

Maskininlärning där systemet skapar sitt eget facit ur datan, till exempel genom att dölja nästa ord i en text och försöka gissa det. Så tränas språkmodellerna, och därför kan de lära sig av enorma mängder text utan att någon behöver märka den. Läs mer.

Se även: Språkmodell · Oövervakad inlärning · Token

Skalbar tillsyn Scalable oversight

Frågan om hur människor ska kunna övervaka och bedöma AI-system som är smartare än de själva. Ett förslag är att låta AI-system hjälpa till att granska varandra. Frågan är kärnan i hur en superintelligens skulle kunna styras. Det verkliga problemet.

Se även: Kontrollproblemet · Alignment

Skalningslagar Scaling laws

Iakttagelsen att AI-modeller blir förutsägbart bättre när man ökar datorkraft, data och modellens storlek. En viktig anledning till att teknikföretagen bygger allt större datorhallar.

Se även: Datorkraft · Emergenta förmågor

Smal AI Svag AI

AI som är byggd för en enda uppgift eller några få närliggande, som att spela schack, artbestämma djur eller rangordna sökresultat. Det mesta som har kallats AI är smal AI. Dagens chattbotar är bredare och kallas AI för allmänna ändamål, men de är inte AGI. Läs mer.

Se även: AGI · Superintelligens · AI

Språkmodell LLM

En AI-modell som tränats på enorma mängder text för att förutsäga nästa ord. Ur den till synes enkla uppgiften växer förmågor som att översätta, sammanfatta och programmera. De största kallas stora språkmodeller, på engelska large language models. Läs artikeln: Hur fungerar en språkmodell?

Se även: Transformer · Token · Hallucination

Superintelligens

Ett intellekt som vida överträffar de bästa mänskliga hjärnorna inom praktiskt taget alla områden, fritt efter Nick Bostrom. Den kan ta formen av snabbare, fler eller smartare intellekt än våra. Läs mer om begreppet.

Se även: AGI · Intelligensexplosion

T

Takeoff Förlopp

Hur snabbt övergången från människonivå till superintelligens går: långsamt under decennier, måttligt under månader eller år, eller explosivt på dagar. Se skillnaden i simulatorn. Hur snabbt skulle det gå?

Se även: Intelligensexplosion

Temperatur

En inställning som styr hur djärvt en språkmodell väljer nästa token. Låg temperatur ger nästan alltid det mest sannolika ordet och förutsägbara svar; hög temperatur ger mer variation, och till slut rent nonsens. Prova själv.

Se även: Token · Språkmodell

Tidshorisont

Forskningsorganisationen METR:s mått på hur långa uppgifter en AI-agent klarar: längden, räknat i den tid uppgiften tar för en kunnig människa, på de uppgifter som agenten löser i hälften av försöken. Enligt METR har måttet fördubblats ungefär var fjärde månad för modellerna från 2023 och framåt. Se kurvan.

Se även: Agent · Benchmark

Token

Den bit av text som en språkmodell läser och skriver, ofta ett ord eller en del av ett ord. Hur mycket en modell kan hålla i minnet, och vad den kostar att använda, mäts ofta i tokens. Se hur text blir tokens.

Se även: Språkmodell

Tolkningsbarhet Interpretability

Forskningen om att förstå vad som faktiskt händer inuti en AI-modell. Dagens modeller är till stor del svarta lådor: vi vet hur de tränas, men inte i detalj hur de kommer fram till sina svar. Att titta in i maskinen.

Se även: Alignment

Transformer

Arkitekturen bakom dagens stora språkmodeller, presenterad av forskare på Google 2017 i artikeln Attention Is All You Need. Den låter modellen väga alla ord i en text mot varandra på en gång. Se hur orden vägs mot varandra.

Se även: Språkmodell

Turingtestet

Alan Turings förslag från 1950: kan en maskin föra ett samtal så väl att en människa inte kan avgöra om hon talar med en maskin? Turing kallade det imitationsleken och föreslog den som ett sätt att närma sig frågan om maskiner kan tänka. Varför testet inte säger om en AI är medveten.

Se även: Kinesiska rummet · Benchmark

U

Uppmärksamhet Attention

Mekanismen i en transformer som låter varje token väga in andra tokens och bestämma hur mycket var och en ska påverka den. Det är så modellen kopplar ihop ord som hör ihop, även när de står långt ifrån varandra. Se hur det fungerar.

Se även: Transformer · Språkmodell

V

Verktygsanrop Funktionsanrop

När en språkmodell i stället för att bara skriva text ber ett annat program att göra något, till exempel söka på webben, köra kod eller skicka ett mejl, och sedan får tillbaka resultatet. Det är verktygen som gör en språkmodell till en agent. Se hur det går till.

Se även: Agent · MCP · Språkmodell

Ö

Öppna modeller Open weights

Modeller vars vikter, alltså de tränade parametrarna, publiceras så att vem som helst kan ladda ner, köra och ändra dem. Förespråkare lyfter fram insyn och konkurrens, kritiker risken för missbruk. Så mycket el drog Metas öppna modeller.

Se även: Parameter

Övervakad inlärning

Maskininlärning där systemet tränas på exempel som redan har rätt svar, ett facit. EU-kommissionens eget exempel är ett skräppostfilter som har tränats på mejl som människor har märkt som skräp eller inte skräp. Prova hur det fungerar.

Se även: Oövervakad inlärning · Förstärkningsinlärning · Maskininlärning

Saknar du ett ord?

Ordlistan växer. Föreslå ett begrepp eller en bättre förklaring, så tittar vi på det.