#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Avsnitt(349)

#285 Försvarsmakten varnar för bakdörrar

#285 Försvarsmakten varnar för bakdörrar

Svenska politiker vill att säkra meddelandeappar såsom Signal ska förses med bakdörrar. Genom dessa bakdörrar ska brottsbekämpande myndigheter kunna ta del av konversationerna trots att de är totalstr...

31 Jan 202538min

#284 Borde Tiktok tillåtas på jobbmobilen?

#284 Borde Tiktok tillåtas på jobbmobilen?

Under flera år har USA hotat att förbjuda Tiktok om appen inte säljs till ett amerikanskt bolag. Den gångna helgen blev förbudet verklighet. Tiktok plockades bort från appbutikerna och inloggade ameri...

24 Jan 202538min

#283 Digitala fingeravtryck lämnar fotspår

#283 Digitala fingeravtryck lämnar fotspår

Annonsnätverken har många metoder för att spåra användare på nätet. De ofta omdebatterade spårningskakorna är långt ifrån det enda sättet. IP-adresserna är ett annat sätt. Webbläsarnas så kallade ”fin...

17 Jan 202534min

#282 Mobilnummer kan fortfarande spoofas

#282 Mobilnummer kan fortfarande spoofas

Så kallad ”spoofing” är ett återkommande problem. Bedragare kan ringa från ett helt annat telefonnummer än det som visas på mobilskärmen. PTS kräver att svenska operatörer ska motverka spoofing. Sedan...

10 Jan 202537min

#281 800 000 tyska bilar (Volkswagen-läckan)

#281 800 000 tyska bilar (Volkswagen-läckan)

På årets upplaga av Chaos Communication Congress avslöjades en stor dataläcka. Volkswagen Group hade samlat in bilars GPS-positioner och sparat dessa utan totalsträckskryptering. De etiska hackarna i ...

3 Jan 202536min

#280 Detta händer (kanske) 2025

#280 Detta händer (kanske) 2025

Ett nytt år står för dörren – ett nytt år då mycket kan hända. Traditionsenligt dedikerar Peter och Nikka huvudämnet i årsskiftespodden åt att spana in i framtiden. De presenterar i vanlig ordning fem...

27 Dec 202433min

#279 Rätt eller fel – så gick året 2024

#279 Rätt eller fel – så gick året 2024

Året går mot sitt slut. Runt om i samhället lyser julbelysningen upp hem och hus på ett traditionsenligt vis. Lika traditionsenligt passar Peter och Nikka på att följa upp årets fem profetior. Har pro...

20 Dec 202432min

#278 Peter föll offer för nätfiskeattack

#278 Peter föll offer för nätfiskeattack

Förra veckan hände det som inte fick hända. Peter föll offer för en nätfiskeattack! Han råkade ge angripare åtkomst till Youtube-kontot där han publicerar bilrelaterade nyheter och recensioner. Angrip...

13 Dec 202433min

Populärt inom Politik & nyheter

aftonbladet-krim
rss-krimstad
p3-krim
spar
svenska-fall
aftonbladet-daily
politiken
flashback-forever
rss-expressen-dok
rss-sanning-konsekvens
rss-krimreportrarna
kungligt
ett-rent-noje
rss-vad-fan-hande
motiv
blenda-2
grans
rss-frandfors-horna
rss-flodet
krimmagasinet