#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Avsnitt(349)

#245 Dåliga utsikter för Microsoft Outlook

#245 Dåliga utsikter för Microsoft Outlook

Microsoft stöper om grunden för sin trotjänare Outlook. Nu ska Outlook bli enhetligt. Webbversionen, Windows-versionen och Mac OS-versionen av Outlook ska förenas till en enda app. Den appen, internt ...

19 Apr 202438min

#244 Riktigt elaka annonser

#244 Riktigt elaka annonser

I förrförra veckans avsnitt av Bli säker-podden pratade vi om hur Facebooks annonsgranskare ansåg att hundratals bluffannonser var förenliga med deras annonsregler. Den här veckan avslöjar vi att prob...

12 Apr 202433min

#243 Ryssland och Kina kapar routrar

#243 Ryssland och Kina kapar routrar

I veckan avslöjade Säpo att kinesiska Judgement Panda (även kallade APT 31) hade utnyttjat svenska privatpersoners routrar för att spionera och utföra cyberattacker. Avslöjandet kom i samband med att ...

5 Apr 202439min

#242 Facebooks regler tillåter bluffannonser

#242 Facebooks regler tillåter bluffannonser

Problemet med bluffannonser på Facebook tar inte slut. Bedragare fortsätter att utnyttja svenska kändisar i annonser för investeringsbedrägerier. Annonserna leder ofta till klonade versioner av populä...

29 Mars 202436min

#241 Censurera mera!?

#241 Censurera mera!?

Medborgares fria tillgång till oberoende information hotar makten i totalitära stater. Länder såsom Kina, Ryssland, Egypten, Saudiarabien och Pakistan nöjer sig därför inte längre med att censurera in...

22 Mars 202435min

#240 Min mobil är inte en smörgås

#240 Min mobil är inte en smörgås

Hur länge kan en mobil förväntas förses med säkerhetsuppdateringar? Under smartphone-erans första decennium hade Apple och Android-mobiltillverkarna vitt skilda åsikter kring sitt underhållsansvar. Än...

15 Mars 202436min

#239 Attacker och sammanträffanden

#239 Attacker och sammanträffanden

De senaste veckorna har många svenska organisationer drabbats av driftstörningar till följd av IT-attacker. Dessa attacker har varit av varierande slag och av olika allvarlighetsgrad. I ena änden av a...

8 Mars 202436min

#238 Säkra meddelanden blir säkrare

#238 Säkra meddelanden blir säkrare

Världens meddelandetjänster blir allt bättre. Sedan några år tillbaka stödjer alla meddelandetjänster värda namnet totalsträckskryptering (end-to-end-kryptering). Det gör att ingen annan än konversati...

23 Feb 202436min

Populärt inom Politik & nyheter

aftonbladet-krim
rss-krimstad
p3-krim
spar
svenska-fall
aftonbladet-daily
politiken
flashback-forever
rss-expressen-dok
rss-sanning-konsekvens
rss-krimreportrarna
kungligt
ett-rent-noje
rss-vad-fan-hande
motiv
blenda-2
grans
rss-frandfors-horna
rss-flodet
krimmagasinet