#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Avsnitt(349)

#277 Kändismingel på 90-årsfest (special)

#277 Kändismingel på 90-årsfest (special)

I slutet av november firade SSF Stöldskyddsföreningen 90 år. Vänner och kollegor från hela säkerhetsbranschen minglade bland ballonger, dansgolv och tilltugg av alla dess slag. Mitt i firandet fanns o...

6 Dec 202434min

#276 En webb utan krom

#276 En webb utan krom

I somras slog en amerikansk domstol fast att Google hade ett olagligt monopol på sökmotorsmarknaden. Nu har Department of Justice framfört sitt förslag på lösning. De vill att Google ska sluta betala ...

29 Nov 202437min

#275 Falska digitala ID-kort i mobilen

#275 Falska digitala ID-kort i mobilen

Idag kan svenskar skaffa digitala ID-kort via Bank-ID eller Freja. Dessa digitala ID-kort är visserligen inte lika brett accepterade som pass eller nationella ID-kort, men flera stora butikskedjor ser...

22 Nov 202438min

#274 Vem kan hacka Iphone?

#274 Vem kan hacka Iphone?

Företaget Cellebrite har gjort sig kända för sitt mobilupplåsningsverktyg. Cellebrite hjälpte bland annat FBI att ta sig in i mobilen som tillhörde skytten som i somras sköt Donald Trump i örat. Huruv...

15 Nov 202432min

#273 Ohälsosamt osäkra hälsoprylar

#273 Ohälsosamt osäkra hälsoprylar

Smarta hälsoprylar samlar in stora mängder personuppgifter. Det är rent av deras huvuduppgift. Smarta hälsoprylar ska hjälpa användarna att hålla koll på rörelseaktivitet, viktförändringar och mycket ...

8 Nov 202437min

#272 Molntjänster regnar bort

#272 Molntjänster regnar bort

En app som installeras på datorn finns alltid kvar på datorn. En fil som sparas på datorns hårddisk finns alltid kvar på datorns hårddisk. Det kan jämföras med molntjänster. Dagen då företaget som dri...

1 Nov 202435min

#271 Dumma smarta dammsugare

#271 Dumma smarta dammsugare

I mitten av oktober rapporterade australiensiska ABC News om kapade robotdammsugare. Angripare hade lyckats komma åt robotdammsugarnas fjärrstyrningsfunktioner och börjat skrika rasistiska obscenitete...

25 Okt 202436min

#270 Nätfiske med QR-koder

#270 Nätfiske med QR-koder

QR-koder har en stor fördel: de är synnerligen lättlästa för datorer och mobiler. Tyvärr är de samtidigt helt oläsbara för oss människor. Det gör QR-koder till ett ypperligt verktyg för nätfiskeattack...

18 Okt 202436min

Populärt inom Politik & nyheter

aftonbladet-krim
rss-krimstad
p3-krim
spar
svenska-fall
aftonbladet-daily
politiken
flashback-forever
rss-expressen-dok
rss-sanning-konsekvens
rss-krimreportrarna
kungligt
ett-rent-noje
rss-vad-fan-hande
motiv
blenda-2
grans
rss-frandfors-horna
rss-flodet
krimmagasinet