#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Avsnitt(349)

#253 Chat Control och automatisk webbplatsgranskning

#253 Chat Control och automatisk webbplatsgranskning

SSF Stöldskyddsföreningen har lanserat en förhandsversion av ett nytt verktyg som kallas “Testa hemsidan”. Med hjälp av verktyget kan användare undersöka om olika webbplatser ser ut att vara legitima ...

21 Juni 202435min

#252 IOS 18 och Apple Intelligence

#252 IOS 18 och Apple Intelligence

Den här veckan gick Apples årliga utvecklarkonferens av stapeln. I vanlig ordning presenterade Apple flera nyheter som stärker säkerheten och den personliga integriteten för Iphone-, Ipad- och Mac-anv...

14 Juni 202437min

#251 Läget med fisken 2024

#251 Läget med fisken 2024

E-postbaserade nätfiskeattacker är fortfarande ett av angriparnas vanligaste verktyg för att ta sig in i organisationer. IT-säkerhetsföretaget Proofpoint håller ett vakande öga på vad nätfiskarna pyss...

31 Maj 202438min

#250 Visuella minnen dyker upp igen

#250 Visuella minnen dyker upp igen

När Apple släppte IOS 17.5-uppdateringen inträffade något mycket oväntat. En oroväckande stor skara Iphone-användare rapporterade att raderade bilder började dyka upp igen. Att raderade bilder plötsli...

24 Maj 202433min

#249 Nya säkrare Android 15

#249 Nya säkrare Android 15

Den här veckan gick Googles årliga utvecklingskonferens Google IO av stapeln. I samma traditionsenliga anda följer Bli säker-podden upp med årets avsnitt om säkerhets- och integritetsförbättringarna s...

17 Maj 202433min

#248 Alternativ appdistribution för Iphone

#248 Alternativ appdistribution för Iphone

Nu finns ett nytt sätt att installera appar på Iphone. Efter krav från EU har Apple tvingats tillåta andra appbutiker än App Store och förra månaden lanserades den första sådana: Altstore Pal. Än så l...

10 Maj 202436min

#247 Lösennycklar idag och imorgon

#247 Lösennycklar idag och imorgon

Framfarten för lösennycklar (passkeys) fortsätter. Listan över webbplatser som erbjuder inloggning med lösennycklar växer. Lösenordshanterarna 1password, Proton Pass och Bitwarden kan allihop skapa, a...

3 Maj 202434min

#246 Säkerhetskollen och Digitala varningsgruppen

#246 Säkerhetskollen och Digitala varningsgruppen

Veckans poddavsnitt bjuder på stora nyheter. Från och med den här veckan publiceras Bli säker-podden av Nikka Systems och SSF Stöldskyddsföreningen. Stöldskyddsföreningen är en helt oberoende organisa...

26 Apr 202435min

Populärt inom Politik & nyheter

aftonbladet-krim
rss-krimstad
p3-krim
spar
svenska-fall
aftonbladet-daily
politiken
flashback-forever
rss-expressen-dok
rss-sanning-konsekvens
rss-krimreportrarna
kungligt
ett-rent-noje
rss-vad-fan-hande
motiv
blenda-2
grans
rss-frandfors-horna
rss-flodet
krimmagasinet