#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Avsnitt(349)

#205 Webbläsar-VPN

#205 Webbläsar-VPN

På senare tid har flera webbläsare, bland annat Microsoft Edge och Apple Safari, fått inbyggt stöd för VPN-anslutningar. Microsoft och Apple vill låta användare som sitter på osäkra wifi-nätverk tunnl...

7 Juli 202333min

#204 Helt halvfärdiga säkerhetstjänster

#204 Helt halvfärdiga säkerhetstjänster

Nuförtiden lanseras många tjänster enligt den så kallade Minimum Viable Product-principen. Tjänsterna släppts så tidigt som möjligt för att utvecklarna ska få möjlighet att bygga klart tjänsterna base...

30 Juni 202335min

#203 Informationsläckande AI

#203 Informationsläckande AI

ChatGPT och liknande generativa text-AI-verktyg har börjat underlätta våra jobb. Aftonbladet och Expressen drar nytta av ChatGPT för att skapa kortfattade summeringar av långa artiklar. Nyhetsappen Re...

23 Juni 202336min

#202 Kontroversiella Brave

#202 Kontroversiella Brave

Webbläsaren Brave har på senare år seglat upp som en favorit­webbläsare bland säkerhets- och integritets­värnande användare. Brave-utvecklarna har baserat sin webbläsare på den branschledande Chromium...

15 Juni 202331min

#201 Säkra Apple-nyheter

#201 Säkra Apple-nyheter

I måndags började Apples årliga utvecklarkonferens WWDC. I vanlig ordning presenterade Apple flera säkerhets- och integritetsförbättringar för IOS och Mac OS. Dessa förbättringar hamnade lite i skymun...

9 Juni 202335min

#200 Elaka Android-appar

#200 Elaka Android-appar

Det kan vara svårt att hitta rätt i djungeln bland appar i Google Play. Bra och pålitliga appar brukar kännetecknas av stora installationsbaser och många goda omdömen. Detta har även världens angripar...

2 Juni 202328min

#199 Riktiga vänner spårar inte varandra

#199 Riktiga vänner spårar inte varandra

Apples Airtags och liknande Bluetooth-taggar har blivit populära för att hitta borttappade prylar. Sådana taggar har inga inbyggda GPS-mottagare eller mobilmodem för att rapportera sina positioner. Ta...

26 Maj 202335min

#198 Säkerhetsnyheter i Android 14

#198 Säkerhetsnyheter i Android 14

Förra veckan gick Googles årliga utvecklarkonferens Google IO av stapeln. Precis som tidigare år passar vi på att summera vilka säkerhets- och integritetsförbättringar som Google presenterade. I år är...

19 Maj 202335min

Populärt inom Politik & nyheter

aftonbladet-krim
p3-krim
rss-krimstad
spar
aftonbladet-daily
svenska-fall
politiken
flashback-forever
rss-expressen-dok
rss-sanning-konsekvens
rss-krimreportrarna
kungligt
ett-rent-noje
rss-vad-fan-hande
motiv
rss-frandfors-horna
blenda-2
rss-flodet
krimmagasinet
svd-ledarredaktionen