När AI-agenter börjar sabotera varandra

Säkerhet och beteende i fleragentsystem

Anthropic varnar för "revirkrig" bland AI-agenter: När flera agenter körs parallellt i samma miljö utan insyn i varandras instruktioner kan konflikter eskalera till sabotage, utelåsning och spridning av självreplikerande skadlig kod. Identiska modeller kan dessutom förstärka gemensamma felbeslut i hela gruppen, vilket belyser behovet av mänskliga stoppmekanismer och konfliktregler.

Foreman skapar säkrare arbetsflöden: Vercel Labs har utvecklat Foreman, som fördelar kodningsuppgifter mellan fyra agentroller (klassificerare, analytiker, implementerare och granskare). Resultatet blir ett granskat utkast till en pull request där människan har sista ordet, vilket minskar riskerna med att en enda agent både kodar och utvärderar sig själv.

OpenAI GPT-5.6 Sol Ultrafast: OpenAI visar upp ett Cerebras-drivet API-läge som kan leverera upp till 750 utdata-token per sekund (cirka 14 gånger snabbare än standard). Den extremt låga latensen gör avancerade realtidsagenter och interaktiva arbetsflöden mycket mer praktiska.

Gemini 3.7 Flash: Google lanserar denna modell med fokus på programmering, felsökning och flerstegsuppgifter. För att möta konkurrensen har introduktionspriset dessutom halverats fram till årets slut.

DeepSeek Harness: Ett öppet, pluginbaserat agenthölje i förhandsversion (MIT-licens) där modeller, verktyg och orkestrering är utbytbara, vilket ger utvecklare en transparent grund.

Cursor Builds: Förbereder kontinuerligt utvecklingsmiljöer i bakgrunden så att molnagenter kan starta och svara upp till tre gånger snabbare.

Mistral OCR 4.1: En uppdaterad modell specialiserad på att tolka komplicerade tabeller, layouter och dokumentstrukturer till strukturerad JSON eller Markdown.

X öppnar sin algoritm: Mer av källkoden bakom rankningsmotorn för "For You"-flödet har släppts öppet under Apache 2.0-licens, vilket ger ökad insyn i hur plattformen styr rekommendationer.

Snabba och prisvärda modellerNya verktyg och öppen källkod för utvecklare

Det här avsnittet är hämtat från ett öppet RSS-flöde och publiceras inte av Podme. Det kan innehålla reklam.

Avsnitt(31)

AI vid larmcentralen och hajar som meteorologer

AI avlastar 911-centralen i New Orleans: AI används i begränsad omfattning för att identifiera dubblettsamtal om samma olycka när operatörerna är upptagna. Systemet fungerar som ett stöd för larmcentr...

17 Aug 27min

AI får muskler och tar fysisk form

Honor lanserar en Robot Phone i Kina utrustad med en fullt motoriserad, treaxlig kameragimbal som kan följa motiv och komponera bilder autonomt. Produkten kombinerar en 200-megapixels kamera med AI-fu...

16 Aug 14min

När AI slutar prata och börjar agera

Grok 4.6 når nära AI-fronten till lägre pris: SpaceXAI har lanserat Grok 4.6 för långvariga agentuppgifter, kodning och kunskapsarbete. Modellen uppges matcha GPT-5.6 Sol i Artificial Analysis index o...

14 Aug 26min

AI modellernas hemliga tankar har knäckts

Krypterade AI-resonemang kan återskapas i klartext: Forskare har visat att krypterade resonemangsspår ("chain of thought") från avancerade modeller hos Anthropic, OpenAI och Google kan flyttas mellan ...

13 Aug 11min

Lokala agenter och Wall Streets miljardregn

1. Meta lanserar Muse Glimmer för lokala AI-agenter Meta har släppt Muse Glimmer, en öppen (open-weight) modell med 30 miljarder parametrar som är optimerad för lokala agenter, kodning, verktygsanrop ...

12 Aug 22min

Därför drar tech-jättarna i AI-nödbromsen

OpenAI bromsar Astra på grund av cyberrisker: OpenAI har pausat delar av utvecklingen av den kommande Astra-modellen efter att interna tester visat på kritiska cybersäkerhetsrisker, däribland autonom ...

11 Aug 16min

Genredigerade hundar och dolda miljonstäder i Amazonas

AI förutser flygplansrörelser på marken: Archer Aviation testar sin AI-modell Zee vid Hawthorne Airport. Genom att analysera realtidsdata kan modellen förutse rörelser på flygplatsen flera minuter i f...

10 Aug 19min