#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Avsnitt(349)

#325 Sista året med osäkra anslutningar

#325 Sista året med osäkra anslutningar

Under 2010-talet började ett av internets största säkerhetsproblem nå sin lösning. Fram till mitten av 2010-talet var det mindre än hälften av världens webbsidesbesök som gjordes över säkra anslutning...

7 Nov 202538min

#324 Google har inte läckt miljoner lösenord

#324 Google har inte läckt miljoner lösenord

Under veckan har det rapporterats frekvent om en ny stor lösenordsläcka. Mejladresser och lösenord till 183 miljoner konton påstås ha läckt ut. Brittiska Independent publicerade en brådskande varning ...

31 Okt 202536min

#323 En dubbelagent i webbläsaren

#323 En dubbelagent i webbläsaren

OpenAI har lanserat en ny webbläsare vid namn ”ChatGPT Atlas”. Webbläsaren har en inbyggd AI-agent. Till skillnad från traditionella chattbotar kan AI-agenten göra mer än att bara generera, översätta ...

24 Okt 202534min

#322 En inte helt vansinnig åldersverifiering

#322 En inte helt vansinnig åldersverifiering

Runt omkring i världen införs krav på åldersverifiering på nätet. Storbritannien gick i bräschen och införde sådana krav innan det ens fanns lämpliga lösningar. Resultatet blev att många britter behöv...

17 Okt 202538min

#321 Microsoft lämnar walkover till Linux

#321 Microsoft lämnar walkover till Linux

I över 20 år har det talats om ”the year of the Linux desktop”, det vill säga året då Linux börjar plocka stora marknadsandelar från Windows och Mac OS. Linux har sedan länge slagit igenom bland servr...

10 Okt 202532min

#320 Windows 10 går i pension

#320 Windows 10 går i pension

Det tioåriga operativsystemet Windows 10 går snart i pension. Den 14:e oktober slutar Microsoft att förse operativsystemet med kostnadsfria säkerhetsuppdateringar. Privatpersoner och organisationer up...

3 Okt 202539min

#319 Chat Control 2.0 är tillbaka

#319 Chat Control 2.0 är tillbaka

I mitten av sommaren tog Danmark över EU:s ordförandeskap. Danskarna började direkt arbeta med en ny version av det kontroversiella massövervakningsförslaget Chat Control 2.0. Förslaget togs ursprungl...

26 Sep 202536min

#318 Miljödata-läckan och Cybercampus

#318 Miljödata-läckan och Cybercampus

Tjänsteleverantören Miljödata levererar tjänster till cirka 80 procent av Sveriges kommuner och regioner. Den 23:e augusti drabbades Miljödata av ett dataintrång. Angriparna stal bland annat över en m...

19 Sep 202534min

Populärt inom Politik & nyheter

aftonbladet-krim
rss-krimstad
p3-krim
svenska-fall
spar
aftonbladet-daily
politiken
flashback-forever
rss-sanning-konsekvens
rss-expressen-dok
rss-krimreportrarna
motiv
rss-vad-fan-hande
kungligt
ett-rent-noje
blenda-2
grans
rss-frandfors-horna
rss-flodet
svd-ledarredaktionen