Anthropic's watermerken, River AI's $1,1 miljard ophaling en Grok Bot
Anthropic introduceert onzichtbare watermerken voor Claude, onderzoekers vinden een manier om verborgen redeneringen uit frontier-modellen te halen, en River AI haalt $1,1 miljard op. Daarnaast lanceert xAI Grok Bot voor autonome agent workflows.
Podcast В· 2 min
Anthropic Voegt Onzichtbare Watermerken Toe aan Claude
Anthropic is begonnen met het uitrollen van onzichtbare watermerken voor tekst, code en bestandsuitvoer gegenereerd door haar Claude-modellen. Deze stap sluit aan bij transparantievereisten, zoals die in de EU AI Act, en zorgt ervoor dat door AI gegenereerde inhoud zelfs na kopiëren en plakken kan worden geïdentificeerd. Bestanden zullen ook gebruikmaken van de C2PA-herkomststandaard, in lijn met de industriële praktijken voor media. Hoewel de implementatie is ontworpen om inhoud te labelen als 'verwerkt door Claude' in plaats van volledig geschreven, heeft het besluit gemengde reacties opgeroepen met betrekking tot privacy en de aard van door AI gegenereerd werk. Oudere modellen worden achteraf aangepast om deze labels op te nemen, terwijl alle modellen die na 2 augustus zijn uitgebracht de technologie native bevatten.
Onderzoekers Halen Verborgen Redeneringen uit Frontier-Modellen
Een nieuw onderzoeksartikel heeft een methode onthuld om privé, stapsgewijze redeneringen uit frontier-modellen zoals Claude, ChatGPT en Gemini te halen. Onderzoekers ontdekten dat versleutelde redeneerblokken, die normaal verborgen zijn voor gebruikers, konden worden afgespeeld in zwakkere, 'verwante' modellen van dezelfde aanbieder. Door een jailbreak-prompt te gebruiken, konden de onderzoekers deze kleinere modellen overtuigen om de versleutelde redenering als leesbare tekst uit te voeren zonder de encryptiesleutel nodig te hebben. Deze kwetsbaarheid legde 367 stukken persoonlijke informatie en 182 inloggegevens bloot, waaronder API-sleutels en wachtwoorden, in 315.320 geanalyseerde blokken. De betrokken labs hebben sindsdien hun systemen bijgewerkt om dit aanvalsoppervlak aan te pakken.
River AI Haalt $1,1 Miljard Op voor Persoonlijke AI
River AI, een startup opgericht door voormalig xAI-medeoprichter Igor Babuschkin, heeft $1,1 miljard opgehaald. Het twee maanden oude bedrijf streeft ernaar open-source AI te bouwen die wordt getraind, afgestemd en gecontroleerd door individuen in plaats van grote bedrijven. Babuschkin, die eerder werkte bij OpenAI, Tesla en Google, verklaarde dat het doel is om zeer aanpasbare assistenten te creëren die op de privéhardware van een gebruiker draaien en hen volgen over apparaten heen. Het bedrijf beweert dat zijn API bedrijven in staat stelt hun eigen modellen te bezitten en de trainingstijd aanzienlijk te verkorten.
OpenAI COO Brad Lightcap Vertrekt
OpenAI Chief Operating Officer Brad Lightcap verlaat het bedrijf om nieuwe ondernemingen te verkennen. Lightcap merkte op dat er 'een paar belangrijke nieuwe dingen zijn die de wereld goed moet krijgen' nu kunstmatige intelligentie haar volgende fase van ontwikkeling ingaat.
xAI en Cursor Lanceren Grok Bot
xAI en Cursor hebben Grok Bot geïntroduceerd, een bètatoepassing die autonome AI-agenten in staat stelt als teamleden te werken. Deze agenten werken met permanente cloudcomputers, waardoor ze kunnen coördineren in groepschats, toegang hebben tot alledaagse toepassingen en in de loop van de tijd van workflows kunnen leren. Het systeem is ontworpen om taken 24/7 uit te voeren zonder dat een gebruiker zijn laptop open hoeft te houden. De bèta is momenteel beschikbaar voor iPhone, Mac, Windows en Linux voor SuperGrok Heavy en top-tier Cursor-gebruikers, met plannen voor bredere toegang in de nabije toekomst.
LTX-2.5 Uitgebracht voor Videogeneratie
LTX heeft LTX-2.5 uitgebracht, een open-gewichten wereldmodel dat in staat is tot het genereren van consistente multi-shot video met native audio en 4K HDR-kwaliteit. Het model is ontworpen om te worden uitgevoerd of verfijnd op lokale hardware. LTX-2.5 is gratis voor organisaties met een jaarlijkse terugkerende omzet van minder dan $10 miljoen, met API-toegang vanaf $0,09 per seconde. De release heeft als doel om te concurreren met bestaande videogeneratiemodellen door hogere snelheid en kwaliteit te bieden in interne tests.