#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Avsnitt(349)

#197 Fler USB-minnen, fler problem Part II

#197 Fler USB-minnen, fler problem Part II

I förra veckans avsnitt av Bli säker-podden pratade vi om incidenten hos Region Skåne där en forskare hade råkat tappa bort ett okrypterat USB-minne med personuppgifter. Av IMY:s rapport framgår det a...

12 Maj 202338min

#196 Fler USB-minnen, fler problem

#196 Fler USB-minnen, fler problem

USB-minnen är problematiska. De är små, de är lätta att tappa bort och de används oftast för tillfällig kopiering eller flytt av data. I organisationer där USB-minnen tillåts är det därför lätt hänt a...

4 Maj 202337min

#195 Mot nästa DNS

#195 Mot nästa DNS

DNS-systemet fungerar som internets telefonkatalog. Det är tack vare DNS som vi slipper komma ihåg krångliga IP-adresser till servrarna som vi vill besöka. Vi behöver bara komma ihåg lättihågkomliga d...

28 Apr 202336min

#194 Kungens bonde och flygande hästen

#194 Kungens bonde och flygande hästen

Problematiken med stater som utnyttjar kommersiella spionprogram för att spionera på folket har gjort sig påmind igen. Citizen Lab vid University of Toronto har upptäckt hur den ökända Pegasus-trojane...

21 Apr 202336min

#193 Integritetsvärnande sökmotorer

#193 Integritetsvärnande sökmotorer

Googles sökmotor är det självklara valet för att söka på webben. Google är inte bara den förvalda sökmotorn i Googles egen webbläsare. Det är också den förvalda sökmotorn i konkurrerande webbläsare så...

14 Apr 202334min

#192 I stället för Chat Control 2.0

#192 I stället för Chat Control 2.0

Avsnitt 183 av Bli säker-podden fokuserade på säkerhetsproblematiken med EU-kommissionär Ylva Johanssons kontroversiella förslag ”Chat Control 2.0”. I det avsnittet konstaterade Peter och Nikka att fö...

7 Apr 202335min

#191 Kapade Youtube-kanaler

#191 Kapade Youtube-kanaler

För två år sedan fick Peter Esse ett misstänkt mejl angående sin Youtube-kanal. Ett företag som påstod sig representera Epic Games ville betala en orimlig summa för att han skulle testa ett nytt spel....

31 Mars 202334min

#190 Tillitsribba

#190 Tillitsribba

I avsnitt 187 av Bli säker-podden förklarade vi varför det är så lämpligt att använda Iphones biometriska upplåsningsfunktioner (Touch-ID och Face-ID). Vi meddelade också att den insamlade biometriska...

24 Mars 202333min

Populärt inom Politik & nyheter

aftonbladet-krim
p3-krim
rss-krimstad
spar
aftonbladet-daily
svenska-fall
politiken
flashback-forever
rss-expressen-dok
rss-sanning-konsekvens
rss-krimreportrarna
kungligt
ett-rent-noje
rss-vad-fan-hande
motiv
rss-frandfors-horna
blenda-2
rss-flodet
krimmagasinet
svd-ledarredaktionen