Google utmanar tyskt beslut och säger sig vara ansvariga för falska påståenden som genererats av AI ↗
Google planerar att överklaga ett domstolsbeslut i München som klassificerar AI-översikter som företagets eget publicerade innehåll, vilket gör dem juridiskt ansvariga när dessa sammanfattningar innehåller falska påståenden.
Fallet väcktes av två tyska utgivare som felaktigt hade kopplats till bedrägerier och tvivelaktiga affärsmetoder. Google beskriver felen som begränsade, men domen kan lägga en förvånansvärt tung juridisk ryggsäck på varje AI-svarsmotor. (Reuters)
Teknikchefer deltar i G7-toppmötet där ledarna diskuterar AI och onlinesäkerhet ↗
Ledare från OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere och Meta förväntas delta i G7-tjänstemäns diskussioner om AI-reglering, infrastruktur och onlinesäkerhet.
Skydd för barn online är också aktuellt. Så ja, AI-industrin tar plats bredvid världsledare – men huruvida det medför verklig ansvarsskyldighet eller bara en exceptionellt utsmyckad lunch är fortfarande oklart. (Reuters)
Anthropic säger att de tar Claude Fable 5 offline för att följa amerikansk regeringsorder ↗
Anthropic inaktiverade Claude Fable 5 och Mythos 5 efter att ha mottagit ett amerikanskt exportkontrolldirektiv som var avsett att blockera åtkomst för utländska medborgare, inklusive Anthropics anställda.
Företaget drog tillbaka åtkomsten för alla samtidigt som de ifrågasatte regeringens motivering. Tjänstemän ska ha hänvisat till oro över en jailbreak, men Anthropic säger att den demonstrerade kringgången var smal och avslöjade endast relativt mindre, tidigare kända sårbarheter ... besvärligt, för att uttrycka det milt. (WIRED)
Metas nya AI-enhet är enligt uppgift i kaos ↗
Metas organisation för tillämpad AI möter bred intern frustration, enligt diskussioner med anställda och företag som WIRED granskat. Gruppen på cirka 6 500 personer samlades för att stödja Metas superintelligensforskare.
Personalen uppges känna att de har dragits in i repetitivt modellförbättringsarbete mitt i oklart ledarskap och oregelbundna prioriteringar. Spänningarna blev ganska spektakulära när en anställd avbröt en stor intern presentation med ett svordomsfyllt utbrott – subtilt var det inte. (WIRED)
Kinesisk cyberbrottsoperation som använde AI för att lura "hundratusentals offer" stämd av Google ↗
Google stämmer Outsider Enterprise, ett påstått cyberbrottsnätverk som anklagas för att ha använt AI-stödda verktyg för att skapa övertygande nätfiskesajter och skicka bluffmeddelanden som utger sig för att vara stora varumärken.
Google säger att operationen använde tusentals falska webbplatser, ungefär en miljon bedrägliga domäner och miljontals meddelanden. Dess programvara ska ha gjort det möjligt för personer med begränsade tekniska färdigheter att skapa nätfiskeinfrastruktur inom några minuter – cyberbrottslighet med stödhjulen ordentligt påsvetsade. (TechCrunch)
Vanliga frågor
Varför överklagar Google det tyska beslutet om AI-översikter?
Google planerar att överklaga ett domstolsbeslut i München som behandlar AI-översikter som innehåll publicerat av Google självt. Domen kom efter falska sammanfattningar som kopplade två tyska utgivare till bedrägerier och tvivelaktiga affärsmetoder. Om beslutet upprätthålls kan det göra AI-svarsleverantörer juridiskt ansvariga för felaktiga påståenden som genereras i deras söksammanfattningar.
Vad skulle det tyska beslutet kunna innebära för AI:s ansvar?
Beslutet kan komma att etablera en bredare standard för AI-ansvar genom att hålla en plattform ansvarig för uttalanden som produceras genom dess egna AI-funktioner. Domstolar i många jurisdiktioner avgör fortfarande huruvida genererade sammanfattningar ska behandlas som innehåll från tredje part eller som direkt publicering. Överklagandet kan därför påverka hur jämförbara tvister hanteras på andra håll.
Varför deltar teknikchefer i G7-toppmötet?
Chefer från OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere och Meta förväntas delta i diskussioner med G7-ledarna. Dagordningen inkluderar AI-reglering, infrastruktur, onlinesäkerhet och skydd för barn. Deras närvaro ger regeringar en chans att ställa frågor direkt till stora AI-utvecklare om risker, ansvar och framtida politik.
Varför tog Anthropic Claude Fable 5 och Mythos 5 offline?
Anthropic inaktiverade båda modellerna efter att ha mottagit ett amerikanskt exportkontrolldirektiv som syftar till att förhindra åtkomst för vissa utländska medborgare, inklusive vissa anställda. Företaget tog bort åtkomsten för alla samtidigt som de ifrågasatte regeringens resonemang. Tjänstemän ska ha hänvisat till oro för en jailbreak, även om Anthropic beskrev den demonstrerade kringgången som smal och involverade relativt mindre sårbarheter som redan var kända.
Vad orsakar den rapporterade oroligheten inom Metas AI-enhet?
Anställda beskriver enligt uppgift oklart ledarskap, skiftande prioriteringar och repetitivt modellförbättringsarbete inom Metas organisation för tillämpad AI. Gruppen skapades för att stödja företagets superintelligensforskare och omfattar ungefär 6 500 personer. Frustrationen blev särskilt synlig när en anställd avbröt en stor intern presentation med ett ilsket, svordomsfyllt klagomål.
Hur använder brottslingar AI för nätfiskebedrägerier?
Enligt Googles stämningsansökan använde det påstådda Outsider Enterprise-nätverket AI-assisterad programvara för att skapa övertygande nätfiskewebbplatser och bedrägliga meddelanden som utgav sig för att vara stora varumärken. Verktygen ska ha hjälpt användare med begränsad teknisk erfarenhet att snabbt bygga upp en nätfiskeinfrastruktur. Google säger att operationen involverade tusentals falska webbplatser, cirka en miljon bedrägliga domäner och miljontals meddelanden.