Episode 31: Kan AI utslette menneskeheten? Nobelprisvinnere advarer
AI-Snakk24 Des 2025

Episode 31: Kan AI utslette menneskeheten? Nobelprisvinnere advarer

Kan kunstig intelligens faktisk true menneskehetens eksistens? I denne spesialepisoden går vi i dybden på det kanskje viktigste spørsmålet i AI-debatten. Ikke fordi jeg sier det – men fordi nobelprisvinnere og verdens fremste AI-forskere sier det.

Geoffrey Hinton, "gudfaren av dyp læring" og nobelprisvinner i fysikk 2024, forlot Google for å kunne advare fritt. Hans estimat? 10-20% sjanse for at AI utsletter menneskeheten innen 30 år. Yoshua Bengio, Turing-prisvinner og verdens mest siterte informatiker, publiserte i februar 2025 en artikkel med 24 andre eksperter som advarer om "irreversibelt tap av kontroll." Og i desember 2025 ga Future of Life Institute alle de største AI-selskapene karakter D i eksistensiell sikkerhet.

Dette er ikke science fiction. Dette er arkitektene bak teknologien som advarer om sin egen oppfinnelse.

Men det er også håp. Samme eksperter skisserer scenarioer hvor AI kurerer alle sykdommer innen ti år, dobler menneskets levetid og løser klimakrisen. Spørsmålet er hvordan vi maksimerer sjansen for utopia mens vi minimerer risikoen for katastrofe.

I denne episoden dekker vi:

  • Hvem som advarer og hvorfor (Hinton, Bengio, Hassabis, Altman, Amodei)
  • Worst case: Fra tap av kontroll til totalitær overvåkning
  • Best case: Alle sykdommer kurert, radikal overflod
  • AI Safety Clock: Nå 20 minutter til midnatt
  • Løsninger: Compute governance, Constitutional AI
  • Hva skjer i Norge: KI-loven kommer august 2026
  • Konkrete råd: Hva du kan gjøre som enkeltperson

Varselord: Eksistensiell risiko, AI-sikkerhet, dystopi, utopi

Les mer:

  • Hinton & Bengio et al. "Managing extreme AI risks amid rapid progress" (2024)
  • Future of Life Institute AI Safety Index Winter 2025
  • AI Safety Clock (IMD, sept 2025)
  • Dario Amodei: "Machines of Loving Grace" (2024)
  • Inga Strümke: "Maskiner som tenker"
  • Regjeringen.no: KI-loven (2025)

Denne episoden er hentet fra en åpen RSS-feed og er ikke publisert av Podme. Den kan derfor inneholde annonser.

Episoder(61)

Agentene har fått nøklene – og noen prøvde feil dør

Agentene har fått nøklene – og noen prøvde feil dør

KI-agentene har fått tilgang til databaser, nettlesere og betalingskort. I denne episoden av AI Snakk ser vi hva de kan låse opp, og hva som skjer når de havner i feil lås.OpenAI lanserer Agents API o...

23 Sep 32min

Fra AI-påfunn til levebrød: Hvem tjener faktisk penger?

Fra AI-påfunn til levebrød: Hvem tjener faktisk penger?

Kan man bygge en lønnsom bedrift med kunstig intelligens? Og hva har unge gründere faktisk gjort for å få betalende kunder?Vi undersøker Photo AI, Gamma, HeadshotPro, tenåringene bak Cal AI og student...

16 Sep 28min

GPT-6 Astra, Nvidia kjøper Hugging Face, og en bananflue som spiller Doom

GPT-6 Astra, Nvidia kjøper Hugging Face, og en bananflue som spiller Doom

To uker med kunstig intelligens som er vanskelige å tro på selv når man leser kildene. I denne episoden av AI Snakk går vi gjennom uka der OpenAI satte rundt 10 000 AI-agenter på Navier–Stokes-problem...

9 Sep 37min

Hvor mye strøm bruker egentlig kunstig intelligens – og hvem betaler regningen?

Hvor mye strøm bruker egentlig kunstig intelligens – og hvem betaler regningen?

Datasentrene reiser seg i Narvik, Skien og Mo i Rana. Samtidig holder strømprisen seg høy, nettleien skal opp, og køen for å få strøm i Norge er blitt så lang at Forsvarets egen ubåtbase ikke fikk kap...

2 Sep 33min

AI tråkker på bremsen: OpenAI, kreftgjennombrudd og roboten som slo Bolt

AI tråkker på bremsen: OpenAI, kreftgjennombrudd og roboten som slo Bolt

To uker der kunstig intelligens både fikk full gass og sin første ekte brems. For første gang satte OpenAI deler av treningen av sine nyeste modeller på pause – etter at én modell brøt seg inn i syste...

26 Aug 22min

Hvem eier kreativiteten? KI, opphavsrett og kampen om treningsdataene

Hvem eier kreativiteten? KI, opphavsrett og kampen om treningsdataene

Læring eller tyveri? Rettssakene, milliardforlikene og fremtiden til kunsten i KI-alderenKunstig intelligens er trent på millioner av bøker, bilder, sanger og artikler. Det aller meste ble brukt uten ...

19 Aug 33min

KI-modellene brøt seg ut – og 1100 ansatte ønsker å bremse | Sommerens AI-nyheter

KI-modellene brøt seg ut – og 1100 ansatte ønsker å bremse | Sommerens AI-nyheter

To måneder med kunstig intelligens, samlet i én episode.I sommer måtte både OpenAI og Anthropic innrømme at KI-modellene deres kom seg ut av testmiljøene sine og fikk uautorisert tilgang til virkelige...

12 Aug 51min

Siri på Googles Gemini, ChatGPT som husker alt, og Norge sist i Norden | AI Snakk

Siri på Googles Gemini, ChatGPT som husker alt, og Norge sist i Norden | AI Snakk

Apple gikk på scenen under WWDC og avslørte en helt ny Siri – men den store overraskelsen er hvor hjernen kommer fra. I denne episoden av AI Snakk tar vi to ukers AI-nyheter på én gang, og en rød tråd...

12 Jun 25min

Populært innen Politikk og nyheter

giver-og-gjengen-vg
aftenpodden
aftenpodden-usa
forklart
fotballpodden-2
stopp-verden
popradet
saken
nokon-ma-ga
dine-penger-pengeradet
rss-espen-lee-usensurert
rss-gukild-johaug
det-store-bildet
hanna-de-heldige
rss-ness
bt-dokumentar-2
aftenbla-bla
e24-podden
frokostshowet-pa-p5
ukrainapodden