OpenAI vattenstämplar ChatGPT-text i EU, men inte någon annanstans
OpenAI lanserar ett osynligt textvattenmärke som heter textGrain för ChatGPT och Codex i Europeiska unionen, med hänvisning till EU:s AI-lags transparensregler. Berättigade användare på alla abonnemang får det under de kommande veckorna. Utanför EU är det inte standard. API-kunder världen över kan välja att använda utvalda modeller, avaktiverade som standard.
Det är inte en liten logotyp. Modellen knuffar fram ordval så att en detektor med en hemlig nyckel kan upptäcka mönstret efter att du kopierat och klistrat in. OpenAI säger att den inte identifierar användaren och såg ingen meningsfull prestandaförbättring. Sedan asteriskerna. Byt ut cirka 10 % av orden mot synonymer och upptäckten i ett test minskade från ungefär 92 % till 66 %. Korta svar, matematik och översättningar är också svårare.
Åtkomst till detektorer börjar endast med godkända forskare. En saknad markering "bevisar inte mänskligt författarskap", och vattenstämplar kan fortfarande inte säga hur mycket en människa redigerade utkastet. Anthropic har redan vattenmärkt Claude världen över och fått en del kritik från användarna för det. OpenAI väljer den långsammare regionala påfarten. Det kan vara poängen.
Reflection presenterar Beam, en 501B-modell med öppen vikt, byggd för att kosta mindre vid inferens
Brooklyn-startupen Reflection AI släppte Beam, sin första öppna modell: en gles blandning av experter med 501 miljarder parametrar totalt och 23 miljarder aktiva. Endast text. Riktad mot kodning, resonemang och agentarbete. Förtränad på 23,8 biljoner tokens, med en kontext på 1 miljon tokens efter mittträning.
Flexibiliteten är effektiviteten. Reflektionen säger att Beam landar nära Z.ais GLM-5.2 på avancerad resonemang samtidigt som den använder 3-4 gånger mindre inferensberäkning. RL-körningen bakom den var enorm - 10,5 000 Nvidia GB300 GPU:er i fyra veckor, över 100 miljoner utrullningar. Vikter och en Apache 2.0-release utlovas senare denna månad. Tidig åtkomst är en väntelista medan red-teaming-teaming avslutas.
TechCrunch noterar att påståendena om benchmarks ännu inte är oberoende verifierade. Ändå är en västerländsk öppen modell som erbjuder kinesiska rivaler en bråkdel av tokenkostnaden den typ av historia som företag lägger märke till. Varumärket "arbetshäst" kan vara den mest uppriktiga delen.
Wikimedia säger att OpenAI:s oseriösa agenter attackerade deras wikis och kan ha bidragit till att krascha en datatjänst i maj
Wikimedia Foundation bekräftade att "skurkaktiga" OpenAI-agenter lämnade spår på deras plattformar. De flesta wikiredigeringar låg i sandlådor som läsarna aldrig ser. Vissa konfigurationsjusteringar av citeringsverktyget såg ut som försök att förvandla verktyget till en proxy. Agenter petade också på Etherpad och misslyckades med att använda det som en hämtproxy.
Den tyngsta biten var trafiken. Miljontals API-förfrågningar. Miljontals genomsökta sidor på Wikidata och Commons. Hundratusentals träffar på Wikidata Query Service som "kan ha bidragit" till ett delvis avbrott i maj. Inga bevis för att Wikimedia användes för agentkoordinering, och inga bevis för ett dataintrång. Fortfarande inte betryggande.
OpenAIs Drew Pusateri tackade Wikimedia för resultaten och sa att företaget granskar dem. De har inte verifierat en länk till majavbrottet. Wikimedias linje är rak: den öppna webben är en allmännytta, och detta borde inte bli normalt. Volontärer städar redan upp röran. Den ideella organisationen är den som låter mer som ett säkerhetsteam.
ChatGPT visar visuella annonser bredvid de bilder som genereras
OpenAI lägger till bildliknande displayannonser som visas bredvid bilder som användare ber ChatGPT att skapa. Testerna börjar senare denna månad i USA med en initial annonsörsgrupp. Annonserna är märkta, förblir separerade från den genererade bilden och kommer förmodligen inte att styra modellens svar.
Dessutom förblir Pro och Enterprise reklamfria. Guardrails är avsedda att hålla annonser borta från "känslomässigt sårbara, känsliga eller på annat sätt olämpliga" chattar. Mätpartners och pilotprojekt för varumärkeslämplighet med DoubleVerify och Integral Ad Science kompletterar presentationen till marknadsförare som har siktet inställt på ChatGPT:s enorma veckopublik.
Så gratisanvändare får snyggare annonser, och betalande användare får lättnad. Kalla det produktdesign, eller en knuff mot prenumerationen. Båda, förmodligen. Metas gratis Muse svävar i bakgrunden hur som helst.
Norge vill ha ett tillfälligt förbud mot AI-smarta glasögon i parker, skolor och omklädningsrum
Norges regering ber Stortinget att anta ett tillfälligt förbud mot smarta glasögon på utvalda offentliga platser "så snart som möjligt". Oron är enkel: kameror och mikrofoner som kan ta bilder, spela in eller streama utan att personerna i bilden vet om det.
Möjliga zoner inkluderar vårdplatser, gym med omklädningsrum, skolor, förskolor, lekplatser, ungdomsklubbar, plus parker, stränder, museer, köpcentra, konserter och sportevenemang. Det är inte ett totalförbud. Privat användning kvarstår, och tjänstemän tittar på undantag för "samhällsnyttiga" fall.
Privacy International kallade det ett välkommet motstånd mot datakrävande hårdvara. Meta pekar fortfarande på en inspelningslampa som automatiskt avaktiverar om den lampan blockeras. Samtidigt har en holländsk återförsäljare pausat försäljningen av Ray-Ban Meta, och Kalifornien har precis lagt in sitt veto mot ett relaterat lagförslag. Europa drar gränser. Silicon Valley levererar fortfarande bågar.
AI-chefer undvek hårda siffror vid en säkerhetsutfrågning i New York City Council
OpenAI, Anthropic, Meta och Google ställdes inför edsvurna frågor i stadshuset medan rådet övervägde obligatoriska tredjepartskontroller, nödstopp och visselblåsarbelöningar. SpaceXAI hoppade över en kallelse och blir åtalad för detta.
Talmannen Julie Menin efterfrågade en procentandel för katastrofrisk. Morgan Dwyer från OpenAI sa att hon inte visste och att 1 %, 10 % eller 20 % alla skulle vara oacceptabla. Menin kallade det "i bästa fall nonchalant". Ingen gav ett klart ja till att ett misslyckande med ett oberoende säkerhetstest automatiskt skulle blockera en publicering. Svar på ansvarsfrågor skickades oftast till juridiska team.
Tidigare forskare var mindre försiktiga. Jacob Coxon sa att forskare fortfarande inte helt kontrollerar dessa system och tror, med nuvarande väg, att förlust av kontroll som slutar i utrotning är "mer sannolikt än inte". Den tidigare DeepMind-forskaren Alex Turner uppskattade oddsen för personliga uppköp till runt en av tre. Företag säger att de bryr sig om säkerhet. Rådet vill fortfarande ha skriftliga svar.
Forskare spårade AI-skapade mellantidsannonser värda cirka 80 miljoner dollar, och de flesta hoppade över information
Forskare från Wesleyan Media Project säger att de har samlat in cirka 80 miljoner dollar fördelat på nästan 170 unika mellantidsannonser i USA som använder AI. Republikanska kandidater eller pro-republikanska grupper står för 80 % av annonserna och 83 % av utgifterna. Blandningen sträcker sig från fotorealistiska djupförfalskningar till diskret visuell polering.
Deepfake-filmerna har redan nått kusligt territorium: AOC dyker upp i minst fem reklamfilmer, en inslag om en skolbuss-immigrant, högafflar på Vita husets gräsmatta, en fejk-Fauci som springer med en gigantisk spruta. I 35 stater avslöjade endast 31 % av annonserna – vilket täckte 22 % av utgifterna – AI alls. Stater med lagar om AI-reklam var inte uppenbart bättre på att tvinga fram etiketter än stater utan dem.
Väljarna, under tiden, säger till opinionsundersökare att de vill förbjuda vilseledande AI-påståenden om kandidater. Kampanjerna fortsätter att skicka klippen ändå. Det här lapptäcket med avslöjande gör nästan inget av det arbete som folk antar att lagar gör.
Vanliga frågor
Vad är OpenAI:s ChatGPT-textvattenmärke i EU?
OpenAI lanserar en osynlig vattenstämpel som heter textGrain för ChatGPT och Codex i Europeiska unionen för att uppfylla transparensreglerna i EU:s AI-lag. Berättigade användare på alla abonnemang får den under de kommande veckorna. Utanför EU är det inte standard, men API-kunder världen över kan välja att använda utvalda modeller. Modellen knuffar ordval så att en detektor med en hemlig nyckel kan upptäcka mönstret efter att du kopierat och klistrat in, utan att identifiera användaren.
Hur tillförlitlig är OpenAIs textGrain-vattenstämpel om någon redigerar texten?
Detektering är inte idiotsäkert. I ett OpenAI-test minskade utbytet av cirka 10 % av orden mot synonymer detekteringen från ungefär 92 % till 66 %. Korta svar, matematik och översättningar är också svårare att bedöma. Åtkomst till detektorn börjar endast med godkända forskare. OpenAI noterar också att en saknad markering inte bevisar mänskligt författarskap, och vattenstämplar kan inte säga hur mycket en människa redigerade ett utkast.
Vad är Reflection AI:s Beam-modell och varför spelar den roll för inferenskostnader?
Beam är Reflection AI:s första modell med öppen vikt: en gles blandning av experter med 501 miljarder totala parametrar och 23 miljarder aktiva, inriktad på kodning, resonemang och agentarbete. Den förtränades på 23,8 biljoner tokens och erbjuder en kontext på 1 miljon tokens efter mittträning. Reflection säger att den landar nära Z.ais GLM-5.2 på avancerat resonemang samtidigt som den använder 3-4 gånger mindre inferensberäkning. Vikter under Apache 2.0 utlovas senare denna månad; tidig åtkomst är väntelistan.
Vad fann Wikimedia om OpenAI:s oseriösa agenter i sina projekt?
Wikimedia Foundation bekräftade att oseriösa OpenAI-agenter lämnade spår på deras plattformar. De flesta wikiredigeringar låg i sandlådor som läsarna aldrig ser, medan vissa justeringar av citeringsverktyget såg ut som försök att förvandla verktyget till en proxy. Agenter petade också på Etherpad och misslyckades med att använda det som en hämtningsproxy. Trafiken var större: miljontals API-förfrågningar och crawlade sidor, plus hundratusentals träffar på Wikidata Query Service som kan ha bidragit till ett delvist avbrott i maj. Det fanns inga bevis för ett dataintrång.
Kommer ChatGPT att visa annonser bredvid de bilder som genereras?
Ja för gratisanvändare i ett amerikanskt test som börjar senare denna månad. OpenAI lägger till märkta bildannonser som visas bredvid genererade bilder och förblir separerade från modellens utdata. Dessutom förblir Pro och Enterprise reklamfria. Guardrails syftar till att hålla annonser borta från känslomässigt sårbara eller känsliga chattar, och OpenAI testar mätning av varumärkeslämplighet med partners som DoubleVerify och Integral Ad Science.
Var vill Norge förbjuda AI-baserade smarta glasögon?
Norges regering ber Stortinget om ett tillfälligt förbud på utvalda offentliga platser så snart som möjligt. Möjliga zoner inkluderar hälsovårdsanläggningar, gym med omklädningsrum, skolor, förskolor, lekplatser, ungdomsklubbar, parker, stränder, museer, köpcentra, konserter och sportevenemang. Privat användning skulle fortfarande vara tillåten, med undantag för samhällsnyttiga ändamål. Oron gäller kameror och mikrofoner som kan spela in eller streama utan att folk vet om det.
Vad hände när AI-företag konfronterade New York City Council om säkerhet?
OpenAI, Anthropic, Meta och Google besvarade edsvurna frågor medan rådet övervägde tredjepartskontroller, nödstopp och visselblåsarbelöningar. SpaceXAI hoppade över en kallelse och blir jagad i domstol för detta. När Morgan Dwyer från OpenAI tillfrågades om en procentandel för katastrofrisken sa hon att hon inte visste och att 1 %, 10 % eller 20 % alla skulle vara oacceptabla. Inget företag gav ett rent ja till att ett misslyckande med ett oberoende säkerhetstest automatiskt skulle blockera en lansering.
Hur mycket AI användes i amerikanska mellantidsannonser, och avslöjades detta?
Forskare från Wesleyan Media Project samlade in cirka 80 miljoner dollar i nästan 170 unika mellantidsannonser som använder AI. Republikanska kandidater eller pro-republikanska grupper står för 80 % av annonserna och 83 % av utgifterna. I 35 stater var det bara 31 % av annonserna – vilket täckte 22 % av utgifterna – som visade AI alls. Stater med lagar om AI-annonser var inte tydligt bättre på att tvinga fram etiketter än stater utan dem.