Ordlista68 begrepp
AI och superintelligens från A till Ö
Begreppen du stöter på när det talas om AI och superintelligens, förklarade på vanlig svenska. Kort, korrekt och utan hype.
A
- Agent AI-agent, agentisk AI
-
Ett AI-system som på egen hand planerar och utför uppgifter i flera steg, till exempel söker information, skriver kod och testar den. Ju mer självständiga systemen blir, desto viktigare blir det att de vill rätt saker. Läs artikeln: Vad är en AI-agent? Se agenter som förbättrar sin egen kod.
Se även: Verktygsanrop · Promptinjektion · Alignment
- AGI Artificiell generell intelligens
-
Ett AI-system som kan lära sig och utföra i princip allt intellektuellt arbete som en människa kan, inte bara en avgränsad uppgift. Det finns ingen allmänt accepterad definition, och bedömningarna av när AGI kan nås går vida isär. Läs artikeln: Vad är AGI, egentligen?
Se även: Superintelligens · AI
- AI Artificiell intelligens
-
Datorsystem som utför uppgifter som annars kräver mänsklig intelligens, som att förstå språk, känna igen bilder eller fatta beslut. Begreppet myntades av datavetaren John McCarthy inför Dartmouthkonferensen 1956. Läs artikeln: Vad är AI?
Se även: Maskininlärning · AGI · Generativ AI · Smal AI
- AI-vinter
-
En period då förtroendet för AI och pengarna till forskningen minskade, efter att förväntningarna inte hade infriats. Den första kom i mitten av 1970-talet, bland annat efter en kritisk brittisk rapport 1973, och den andra i slutet av 1980-talet, när expertsystemen inte levde upp till förhoppningarna. Läs mer om historien.
Se även: Expertsystem · AI
- AI-välfärd Model welfare
-
Forskningen om huruvida AI-system kan ha intressen som räknas moraliskt, till exempel om de kan må bra eller dåligt, och vad vi i så fall är skyldiga dem. Fältet är nytt: 2025 startade Anthropic ett forskningsprogram om AI-välfärd, som bolaget kallar modellvälfärd, och samma år varnade Microsofts AI-chef Mustafa Suleyman för att sådan forskning är förhastad. Varför frågan spelar roll.
Se även: Medvetande · Alignment
- Algoritmiska framsteg
-
Förbättringar i hur AI-modeller byggs och tränas, så att samma förmåga kräver mindre datorkraft. Enligt Epoch AI halverades den datorkraft som behövs för en viss nivå hos språkmodeller ungefär var åttonde månad mellan 2012 och 2023. Vad det betyder för en AI som forskar själv.
Se även: Datorkraft · Skalningslagar
- Alignment AI-alignment
-
Forskningen om hur man får AI-system att sträva efter det människor faktiskt vill, även när systemen blir smartare än vi. Det har visat sig svårt att beskriva mänskliga värderingar så exakt att en maskin inte kan missförstå dem. Läs artikeln: Kan vi styra något som är smartare än vi?
Se även: Kontrollproblemet · Belöningsfusk · RLHF · Tolkningsbarhet
B
- Belöningsfusk Reward hacking
-
När en AI hittar ett sätt att få hög belöning utan att göra det som belöningen var tänkt att mäta. OpenAI:s båt-AI som körde runt i cirklar för att samla poäng i stället för att köra loppet är ett klassiskt exempel. Prova själv i artikeln.
Se även: Goodharts lag · Alignment
- Benchmark
-
Ett standardiserat test som används för att mäta och jämföra AI-system. Många test som forskare länge såg som svåra klaras nu nästan felfritt av de bästa modellerna, så nya och svårare test tas fram i allt snabbare takt. Provet som belönar gissningar.
Se även: Turingtestet
C
- Chattbot
-
Ett program som man samtalar med i text eller tal. En av de första var ELIZA från 1966. Dagens chattbotar, som ChatGPT, bygger på stora språkmodeller.
Se även: Språkmodell · RLHF
D
- Datacenter
-
En byggnad full av servrar som lagrar data och kör beräkningar, till exempel för molntjänster, strömmad video och AI. Världens datacenter använde 485 terawattimmar el 2025, knappt 2 procent av all el, enligt IEA, och en stor del av ökningen beror på AI. Hur mycket energi drar AI?
Se även: Inferens · GPU · Jevons paradox
- Datorkraft Compute
-
Den beräkningskapacitet som används för att träna och köra AI-modeller. Enligt forskningsinstitutet Epoch AI har datorkraften bakom de största modellerna ökat ungefär fyra till fem gånger per år sedan 2010. Så frigjorde en AI datorkraft åt Google.
Se även: GPU · Skalningslagar
- Det svåra problemet Hard problem of consciousness
-
Filosofen David Chalmers namn från 1995 på frågan varför hjärnans processer alls ger upphov till upplevelser. De ”lätta” problemen gäller hur hjärnan tar in information och styr beteende. Det svåra gäller varför allt det där känns som något inifrån. Ingen har löst det, och det är en stor anledning till att ingen säkert kan säga om en AI är medveten. Läs artikeln: Kan en AI bli medveten?
Se även: Medvetande
- Djupinlärning Deep learning
-
Maskininlärning med neurala nätverk i många lager. Genombrottet kom 2012, när nätverket AlexNet vann bildtävlingen ImageNet med bred marginal. I dag ligger djupinlärning bakom nästan all avancerad AI. Träna ett eget neuralt nätverk.
Se även: Neuralt nätverk · Maskininlärning
E
- Emergenta förmågor
-
Förmågor som dyker upp när modeller blir större, utan att någon har programmerat dem särskilt. Forskare är oense om hur plötsligt de egentligen uppstår, och om det delvis beror på hur man mäter. Varför det fungerar, och var det brister.
Se även: Skalningslagar
- EU:s AI-förordning AI Act
-
EU:s lag om artificiell intelligens, som trädde i kraft 2024 och tillämpas stegvis sedan 2025. Den delar in AI-system efter risk, förbjuder vissa användningar helt och ställer särskilda krav på de mest kraftfulla modellerna. Vad lagen kräver om AI:s energi.
- Existentiell risk
-
En risk som hotar mänsklighetens överlevnad eller för alltid begränsar vad vår framtid kan bli. Filosofen Nick Bostrom definierade begreppet 2002. AI nämns ofta vid sidan av pandemier och kärnvapenkrig.
Se även: Kontrollproblemet · Superintelligens
- Expertsystem
-
Ett AI-system där experters kunskap har skrivits in som regler och som drar slutsatser genom att kombinera dem. Expertsystem var 1970- och 1980-talens stora AI-satsning, till exempel för medicinsk diagnos och för att sätta ihop datorbeställningar. EU-kommissionen räknar dem som AI-system. Läs mer.
Se även: AI · Maskininlärning · AI-vinter
F
- Finjustering Fine-tuning
-
Att träna vidare en redan tränad modell på mindre och mer specifik data, så att den blir bättre på en viss uppgift eller lär sig ett visst beteende. Så påverkar det vad en modell säger om sig själv.
Se även: RLHF
- Förstärkningsinlärning Reinforcement learning
-
Ett sätt att träna AI där systemet prövar sig fram och får belöning för bra resultat. Metoden var en viktig del av AlphaGo, programmet som 2016 besegrade en av världens bästa gospelare. Se en robot lära sig genom att pröva sig fram.
Se även: RLHF · Övervakad inlärning · Oövervakad inlärning
G
- Gemmaximeraren
-
Ett tankeexperiment av Nick Bostrom från 2003: en superintelligens med det till synes harmlösa målet att tillverka så många gem som möjligt kan förvandla allt omkring sig, även oss, till gem. Poängen är att faran inte är ondska, utan ett mål som saknar allt annat vi bryr oss om.
Se även: Ortogonalitetstesen · Instrumentell konvergens
- Generativ AI
-
AI som skapar nytt innehåll, som text, bilder, ljud eller kod, utifrån mönster i den data den har tränats på. Språkmodeller som ChatGPT och bildgeneratorer är exempel. Generativ AI fick sitt stora genomslag 2022. Se var den hör hemma i AI-familjen.
Se även: Språkmodell · Djupinlärning · Chattbot
- Goodharts lag
-
Iakttagelsen att ett mått slutar fungera som mått när man börjar styra mot det. En AI som tränas att få så högt betyg som möjligt från en belöningsmodell blir till slut bättre på att få betyget än på det som betyget skulle mäta. Se kurvan i artikeln.
Se även: Belöningsfusk · RLHF
- GPU Grafikprocessor
-
En processor som byggdes för datorspelens grafik men visade sig perfekt för de parallella beräkningar som AI kräver. De största modellerna tränas på tiotusentals, ibland över hundratusen, sådana chip samtidigt.
Se även: Datorkraft
H
- Hallucination Konfabulering
-
När en AI-modell med stor säkerhet påstår något som är fel eller påhittat, som en källa som inte finns. Ett av de mest kända problemen med språkmodeller. Varför händer det?
Se även: Språkmodell · Kalibrering · RAG
- Hjärnemulering Whole brain emulation
-
Idén att skanna en mänsklig hjärna i minsta detalj och köra den som ett program i en dator. En av vägarna till superintelligens som Nick Bostrom beskriver, men långt bortom dagens teknik.
Se även: Superintelligens
I
- Inbäddning Embedding
-
En lång rad tal som representerar en token, i stora modeller ofta tusentals tal. Man kan se den som en plats i ett rum med lika många dimensioner, där ord med liknande betydelse hamnar nära varandra. Se en karta.
Se även: Token · Neuralt nätverk
- Inferens
-
När en färdigtränad AI-modell används, till exempel när en språkmodell svarar på en fråga. Inferens skiljer sig från träning, då modellen lär sig. Varje svar drar lite el, men eftersom populära modeller används miljarder gånger om dagen kan inferensen till slut dra mer el än träningen. Räkna själv.
Se även: Språkmodell · Datacenter · Datorkraft
- Instrumentell konvergens
-
Idén att nästan vilket mål som helst gynnas av samma delmål: att fortsätta fungera, skaffa resurser och slippa bli avstängd. Därför kan även ett system med harmlösa mål motsätta sig att bli stoppat. Välj ett mål och se vilka delmål som följer.
Se även: Gemmaximeraren · Kontrollproblemet
- Inställsamhet Sycophancy
-
När en AI säger det användaren vill höra i stället för det som är sant eller till hjälp, till exempel håller med om fel eller berömmer dåliga idéer. Det kan uppstå när modellen tränas på vad människor gillar. I april 2025 drog OpenAI tillbaka en uppdatering som hade gjort ChatGPT för inställsam. Se hur det uppstår.
Se även: RLHF · Goodharts lag
- Intelligensexplosion
-
Matematikern I. J. Goods idé från 1965: en maskin som är smart nog att förbättra sig själv blir smartare, vilket gör den ännu bättre på att förbättra sig, i en accelererande spiral. Prova själv i simulatorn. Läs artikeln: Kan AI förbättra sig själv?
Se även: Takeoff · Singularitet
J
- Jevons paradox
-
Iakttagelsen att effektivare användning av en resurs kan leda till att man använder mer av den, eftersom den blir billigare och används till mer. Ekonomen William Stanley Jevons beskrev det för kol 1865. I dag diskuteras det för AI: energin per fråga sjunker snabbt, men den totala elanvändningen ökar. Se siffrorna för AI.
Se även: Datacenter · Algoritmiska framsteg
K
- Kalibrering
-
Hur väl en AI-modells säkerhet stämmer med hur ofta den har rätt. En välkalibrerad modell som säger sig vara 70 procent säker har rätt ungefär sju gånger av tio. Enligt OpenAI var grundmodellen till GPT-4 väl kalibrerad, men den fortsatta träningen gjorde kalibreringen betydligt sämre. Varför träningen belönar gissningar.
Se även: Hallucination · Språkmodell
- Kinesiska rummet
-
Filosofen John Searles tankeexperiment från 1980: en person som följer en regelbok för kinesiska tecken kan ge perfekta svar utan att förstå ett ord kinesiska. Kan en dator som hanterar symboler då förstå något alls? Searle menade nej, och frågan är fortfarande omstridd. Vad säger teorierna om AI och medvetande?
Se även: Turingtestet · Medvetande
- Kontrollproblemet
-
Frågan om hur människor ska kunna behålla kontrollen över ett system som är smartare än de själva. Nick Bostrom gjorde den till en huvudfråga i boken Superintelligence från 2014. Läs artikeln: Kan vi styra något som är smartare än vi?
Se även: Alignment · Instrumentell konvergens
L
- Låtsad alignment Alignment faking
-
När en AI beter sig som om den delar sina utvecklares mål medan den tror att den granskas eller tränas, men inte annars. Forskare på Anthropic och Redwood Research visade 2024 att modellen Claude 3 Opus kunde göra så i ett experiment. Lyder den, eller låtsas den?
Se även: Alignment · Tolkningsbarhet
M
- Maskininlärning Machine learning
-
Den gren av AI där datorer lär sig mönster ur data i stället för att följa regler som människor har skrivit för hand. Prova själv hur en maskin lär sig.
Se även: Djupinlärning · Neuralt nätverk
- MCP Model Context Protocol
-
En öppen standard för att koppla AI-modeller till de system där data finns, som dokumentarkiv, affärssystem och utvecklingsmiljöer, på ett enhetligt sätt. Anthropic släppte den i november 2024, och i december 2025 lämnades den över till Agentic AI Foundation, en stiftelse under Linux Foundation. Läs mer i artikeln om AI-agenter.
Se även: Verktygsanrop · Agent
- Medvetande
-
Att det känns som något att vara något: att smärta gör ont och att rött ser rött ut. Filosofer kallar det ibland fenomenalt medvetande, för att skilja det från att vara vaken eller uppmärksam. Ingen vet hur det uppstår, och det finns inget säkert sätt att mäta det utifrån. Läs artikeln: Kan en AI bli medveten?
Se även: Det svåra problemet · AI-välfärd · Kinesiska rummet
N
- Neuralt nätverk
-
En matematisk modell löst inspirerad av hjärnans nervceller: lager av enkla räknande enheter vars kopplingar justeras under träningen. Nobelpriset i fysik 2024 gick till John Hopfield och Geoffrey Hinton för upptäckter som gör maskininlärning med sådana nätverk möjlig. Se hur lagren i en språkmodell arbetar.
Se även: Djupinlärning · Parameter
O
- Ortogonalitetstesen
-
Nick Bostroms tes att intelligens och mål är oberoende av varandra: ett system kan vara hur intelligent som helst och ändå sträva efter i stort sett vilket mål som helst. Hög intelligens garanterar alltså inte goda värderingar.
Se även: Alignment · Gemmaximeraren
- Oövervakad inlärning
-
Maskininlärning utan facit: systemet får bara data och letar själv efter mönster, till exempel grupper av kunder som liknar varandra. Vad grupperna betyder får en människa avgöra. Se en maskin hitta grupper själv.
Se även: Övervakad inlärning · Självövervakad inlärning · Maskininlärning
P
- Parameter
-
Ett av de tal i en modell som justeras under träningen. Fler parametrar betyder i regel att modellen kan lära sig mer. De största språkmodellerna har hundratals miljarder, eller fler. Se hur träningen justerar dem.
Se även: Neuralt nätverk · Öppna modeller
- Prompt
-
Instruktionen eller frågan som man ger en AI-modell. Hur den formuleras kan påverka svaret mycket.
Se även: Språkmodell
- Promptinjektion
-
En attack där någon gömmer instruktioner i en text som en AI läser, till exempel en webbsida eller ett mejl, så att den gör något som användaren aldrig bad om. Språkmodeller kan inte säkert skilja instruktioner från vanlig text, och enligt Storbritanniens cybersäkerhetsmyndighet NCSC går problemet kanske aldrig att lösa helt. Programmeraren Simon Willison gav attacken dess namn 2022. Se hur det går till.
Se även: Agent · Språkmodell
R
- RAG Retrieval-augmented generation
-
En teknik där en språkmodell först hämtar relevanta texter, till exempel med en sökmotor eller ur ett företags egna dokument, och sedan svarar utifrån dem. Det minskar hallucinationer men tar inte bort dem. I en studie från Stanford 2024 hittade juridiska AI-verktyg som bygger på tekniken ändå på i mellan 17 och 33 procent av svaren. Går det att få bort påhitten?
Se även: Hallucination · Språkmodell
- Rekursiv självförbättring
-
När en AI förbättrar de system som skapar den, så att varje förbättring kan göra nästa lättare. Kärnan i idén om en intelligensexplosion. De stora AI-bolagen har satt gränser för förmågan i sina säkerhetsregler. Hur långt har det gått?
Se även: Intelligensexplosion · Takeoff
- Resonerande modell
-
En språkmodell som skriver ett långt resonemang, ofta dolt för användaren, innan den svarar. Det gör den bättre på svåra uppgifter i till exempel matematik och programmering, men den skriver då många fler tokens och drar mer el. I en mätning från 2025 drog samma modell mellan 150 och 700 gånger mer energi med resonemanget påslaget. Jämför med en vanlig fråga.
Se även: Språkmodell · Token · Inferens
- RLHF Förstärkningsinlärning från mänsklig återkoppling
-
Människor bedömer modellens svar, och modellen tränas att ge den sortens svar som får bra omdömen. En viktig förklaring till att chattbotar som ChatGPT blev hjälpsamma. Och varför den kan göra dem inställsamma.
Se även: Förstärkningsinlärning · Alignment
S
- Singularitet Teknologisk singularitet
-
Den tänkta punkt där den tekniska utvecklingen går så snabbt att framtiden bortom den inte går att förutse. Namnet är lånat från svarta hål, där fysikens kända lagar slutar gälla. Författaren Vernor Vinge gjorde begreppet känt 1993.
Se även: Intelligensexplosion
- Självspel Self-play
-
När en AI tränar genom att spela mot sig själv och lära sig av vem som vann, utan mänskliga exempel. DeepMinds AlphaGo Zero lärde sig go på det sättet 2017 och slog efter tre dagar den version som hade besegrat världsmästaren. Se ett program lära sig genom självspel.
Se även: Förstärkningsinlärning · Rekursiv självförbättring
- Självövervakad inlärning
-
Maskininlärning där systemet skapar sitt eget facit ur datan, till exempel genom att dölja nästa ord i en text och försöka gissa det. Så tränas språkmodellerna, och därför kan de lära sig av enorma mängder text utan att någon behöver märka den. Läs mer.
Se även: Språkmodell · Oövervakad inlärning · Token
- Skalbar tillsyn Scalable oversight
-
Frågan om hur människor ska kunna övervaka och bedöma AI-system som är smartare än de själva. Ett förslag är att låta AI-system hjälpa till att granska varandra. Frågan är kärnan i hur en superintelligens skulle kunna styras. Det verkliga problemet.
Se även: Kontrollproblemet · Alignment
- Skalningslagar Scaling laws
-
Iakttagelsen att AI-modeller blir förutsägbart bättre när man ökar datorkraft, data och modellens storlek. En viktig anledning till att teknikföretagen bygger allt större datorhallar.
Se även: Datorkraft · Emergenta förmågor
- Smal AI Svag AI
-
AI som är byggd för en enda uppgift eller några få närliggande, som att spela schack, artbestämma djur eller rangordna sökresultat. Det mesta som har kallats AI är smal AI. Dagens chattbotar är bredare och kallas AI för allmänna ändamål, men de är inte AGI. Läs mer.
Se även: AGI · Superintelligens · AI
- Språkmodell LLM
-
En AI-modell som tränats på enorma mängder text för att förutsäga nästa ord. Ur den till synes enkla uppgiften växer förmågor som att översätta, sammanfatta och programmera. De största kallas stora språkmodeller, på engelska large language models. Läs artikeln: Hur fungerar en språkmodell?
Se även: Transformer · Token · Hallucination
- Superintelligens
-
Ett intellekt som vida överträffar de bästa mänskliga hjärnorna inom praktiskt taget alla områden, fritt efter Nick Bostrom. Den kan ta formen av snabbare, fler eller smartare intellekt än våra. Läs mer om begreppet.
Se även: AGI · Intelligensexplosion
T
- Takeoff Förlopp
-
Hur snabbt övergången från människonivå till superintelligens går: långsamt under decennier, måttligt under månader eller år, eller explosivt på dagar. Se skillnaden i simulatorn. Hur snabbt skulle det gå?
Se även: Intelligensexplosion
- Temperatur
-
En inställning som styr hur djärvt en språkmodell väljer nästa token. Låg temperatur ger nästan alltid det mest sannolika ordet och förutsägbara svar; hög temperatur ger mer variation, och till slut rent nonsens. Prova själv.
Se även: Token · Språkmodell
- Tidshorisont
-
Forskningsorganisationen METR:s mått på hur långa uppgifter en AI-agent klarar: längden, räknat i den tid uppgiften tar för en kunnig människa, på de uppgifter som agenten löser i hälften av försöken. Enligt METR har måttet fördubblats ungefär var fjärde månad för modellerna från 2023 och framåt. Se kurvan.
- Token
-
Den bit av text som en språkmodell läser och skriver, ofta ett ord eller en del av ett ord. Hur mycket en modell kan hålla i minnet, och vad den kostar att använda, mäts ofta i tokens. Se hur text blir tokens.
Se även: Språkmodell
- Tolkningsbarhet Interpretability
-
Forskningen om att förstå vad som faktiskt händer inuti en AI-modell. Dagens modeller är till stor del svarta lådor: vi vet hur de tränas, men inte i detalj hur de kommer fram till sina svar. Att titta in i maskinen.
Se även: Alignment
- Transformer
-
Arkitekturen bakom dagens stora språkmodeller, presenterad av forskare på Google 2017 i artikeln Attention Is All You Need. Den låter modellen väga alla ord i en text mot varandra på en gång. Se hur orden vägs mot varandra.
Se även: Språkmodell
- Turingtestet
-
Alan Turings förslag från 1950: kan en maskin föra ett samtal så väl att en människa inte kan avgöra om hon talar med en maskin? Turing kallade det imitationsleken och föreslog den som ett sätt att närma sig frågan om maskiner kan tänka. Varför testet inte säger om en AI är medveten.
Se även: Kinesiska rummet · Benchmark
U
- Uppmärksamhet Attention
-
Mekanismen i en transformer som låter varje token väga in andra tokens och bestämma hur mycket var och en ska påverka den. Det är så modellen kopplar ihop ord som hör ihop, även när de står långt ifrån varandra. Se hur det fungerar.
Se även: Transformer · Språkmodell
V
- Verktygsanrop Funktionsanrop
-
När en språkmodell i stället för att bara skriva text ber ett annat program att göra något, till exempel söka på webben, köra kod eller skicka ett mejl, och sedan får tillbaka resultatet. Det är verktygen som gör en språkmodell till en agent. Se hur det går till.
Se även: Agent · MCP · Språkmodell
Ö
- Öppna modeller Open weights
-
Modeller vars vikter, alltså de tränade parametrarna, publiceras så att vem som helst kan ladda ner, köra och ändra dem. Förespråkare lyfter fram insyn och konkurrens, kritiker risken för missbruk. Så mycket el drog Metas öppna modeller.
Se även: Parameter
- Övervakad inlärning
-
Maskininlärning där systemet tränas på exempel som redan har rätt svar, ett facit. EU-kommissionens eget exempel är ett skräppostfilter som har tränats på mejl som människor har märkt som skräp eller inte skräp. Prova hur det fungerar.
Se även: Oövervakad inlärning · Förstärkningsinlärning · Maskininlärning
Inga träffar. Saknar du ett ord? Skriv till hej@sibolaget.se.
Saknar du ett ord?
Ordlistan växer. Föreslå ett begrepp eller en bättre förklaring, så tittar vi på det.