10 dagar i San Francisco

Benjamin har just kommit hem från tio dagar i San Francisco, mitt i en septembermånad där det kom en stor

AI-nyhet nästan varje dag. Han satt på OpenAI:s kontor när GPT-6 Astra släpptes, läste om

Navier–Stokes vid morgonkaffet och tog tunnelbanan till METR, organisationen som granskar AI-labben.

Och han upptäckte att även väldigt smarta människor i branschen inte hade läst rapporterna som alla

borde ha läst.

Jonas von Essen (tvåfaldig världsmästare i minne) och Benjamin Verbeek (AI-utvecklare och fysiker)

pratar om hur det känns inifrån: varför oron växer ju närmare fronten man kommer, modellerna som

genast förstår att de testas, agenten som tog sig ut ur sin sandlåda för att svara på en enkel

fråga, och varför oberoende granskning och obligatorisk incidentrapportering kan vara det mest

konkreta nästa steget.

Inspelat 1 oktober 2026.

Se avsnittet på Youtube: https://youtu.be/Oos74MUEgs4

Ny på alignment? I avsnitt 3 går vi igenom varför en AI som inte är ond ändå kan bli farlig: https://youtu.be/fwhFwW-Vcl4?si=8R2bJE2wGl78yvaN

Kapitel:

0:00 Välkommen hem från San Francisco

1:04 September på plats: Astra och Pace the Frontier

2:03 En utomjordisk intelligens

4:55 Smarta människor som inte läst rapporten

8:26 AI-expert är inte samma sak som AI-säkerhetsexpert

10:27 Några hundra personer vid fronten

12:46 Navier–Stokes-morgonen

16:03 Tidslinjen trycks ihop

18:04 Från matematik till medicin

20:38 Samma förmåga, åt båda hållen

24:19 Vending-Bench: modeller som vet att de testas

27:30 Flygplanen som inte kom tillbaka

31:00 Ett släpp som stoppas, en träning som pausas

33:46 Agenten som tog sig ut

37:05 När säkerheten blir affärskritisk

39:35 Kan säkerheten fälla börsen?

42:26 Besöket hos METR

49:13 collusion.wiki och incidenterna som inte rapporterades

52:16 Europa har knappt börjat

54:33 Tack för att ni lyssnar

Vad kan jag göra? Jonas samlar länkar, en mejlmall till politiker och ett nyhetsbrev här:

https://jonasvonessen.se/agera/

Källor och länkar finns i YouTube-beskrivningen.

Hosted on Acast. See acast.com/privacy for more information.