#339 En vansinnig AI-agent på din dator

#339 En vansinnig AI-agent på din dator

De senaste veckorna har AI-botten Openclaw skapat många rubriker. Openclaw fungerar som en AI-agent på datorn. Den chattar med sin ägare via valfri chattapp och utför uppgifterna som den blir instruerad att göra. Den gör dem dessutom förvånansvärt bra. Openclaw gör det som Siri och Google Assistant alltid har strävat efter att kunna erbjuda, men aldrig lyckats leverera.

Den extremt kompetenta AI-botten är samtidigt vansinnigt riskfylld. Openclaws utvecklare är helt öppna med detta faktum. De varnar användare som installerar botten för att den kan bli lurad att göra osäkra saker. Utvecklarna klassar dessutom Openclaw som ett hobbyprojekt och koden har ännu inte lämnat beta-stadiet.

I veckans poddavsnitt pratar Peter och Nikka om Openclaws förträffliga funktionalitet och undermåliga cybersäkerhet. Nikka lyfter fem problem som gör att han avråder alla från att använda botten i annat än test- och leksammanhang.

Openclaw dras bland annat med samma problem som ChatGPT:s AI-agentwebbläsare: risken för promptinjektionsattacker. Angripare skulle kunna lura Openclaw att tolka information på webben eller i meddelanden som instruktioner att följa. Då är det plötsligt angriparen som styr vad AI-agenten ska göra på datorn där Openclaw har släppts loss.

Hur pass väl skyddad Openclaw är mot promptinjektionsattacker beror på vilken underliggande AI-modell som ägaren väljer. Utvecklarna har gjort sitt bästa för att skydda botten, men de är samtidigt öppna med att risken kvarstår. Än så länge vet faktiskt ingen om problemet ens går att lösa.

Se fullständiga shownotes på https://go.nikkasystems.com/podd339.

Avsnitt(349)

#189 Salt och peppar

#189 Salt och peppar

En av de stora utmaningarna med lösenordbaserad inloggning är behovet av att hemlighålla lösenorden. Det är framför allt en utmaning för alla webbplatser som du registrerar dig på. Webbplatserna måste...

17 Mars 202336min

#188 Epokalypsen och QR-koden

#188 Epokalypsen och QR-koden

Veckans poddavsnitt tar avstamp i frågan om hur tvåfaktorsautentisering med Authenticator-metoden fungerar. Peter och Nikka konstaterar att det enda som behövs är en slumpad tvåfaktorsautentiseringshe...

10 Mars 202335min

#187 Borde Tiktok förbjudas?

#187 Borde Tiktok förbjudas?

De senaste månaderna har varningarna om Tiktok duggat tätt. Företag och myndigheter har förbjudit medarbetare att ha appen installerad på jobbmobilerna. I veckans podd pratar Peter och Nikka om bakgru...

3 Mars 202334min

#186 Cloaking lurar Facebook

#186 Cloaking lurar Facebook

Hur kommer det sig att bluffannonser för investeringsbedrägerier slinker igenom Facebooks granskningsprocess? Bedragarna använder så kallade cloaking-metoder för att dölja de faktiska budskapen. I vec...

24 Feb 202333min

#185 Harmlösa attacker mot Sverige

#185 Harmlösa attacker mot Sverige

Under den senaste veckan har svenska organisationer plågats av överbelastningsattacker. Webbplatser tillhörande allt från regioner och lärosäten till transportföretag och mediaföretag har gjorts oåtko...

17 Feb 202336min

#184 Säker webbläsarsynk

#184 Säker webbläsarsynk

Dagens webbläsare gör det enkelt att hålla en profil i synk mellan dator och mobil. Oavsett om du väljer Chrome, Safari, Edge eller Firefox ombesörjer din webbläsare att du alltid har med dig din webb...

10 Feb 202333min

#183 Chat Control 2.0

#183 Chat Control 2.0

I syfte att stoppa spridning av barnporr presenterade Apple, sommaren 2021, en kontroversiell lösning. Apple ville skanna efter kända barnporrbilder på klientsidan innan bilderna laddades upp till mol...

3 Feb 202338min

#182 Säkrare webbläsartillägg

#182 Säkrare webbläsartillägg

En av Bli säker-poddens återkommande rekommendationer är att vara restriktiv med vilka tillägg som installeras i webbläsaren. Dagens webbläsartillägg är extremt kraftfulla, men de har också lite för f...

27 Jan 202333min

Populärt inom Politik & nyheter

aftonbladet-krim
p3-krim
rss-krimstad
spar
aftonbladet-daily
svenska-fall
politiken
flashback-forever
rss-expressen-dok
rss-sanning-konsekvens
rss-krimreportrarna
kungligt
ett-rent-noje
rss-vad-fan-hande
motiv
rss-frandfors-horna
blenda-2
rss-flodet
krimmagasinet
svd-ledarredaktionen