Anthropics Wasserzeichen, River AIs 1,1-Milliarden-Dollar-Finanzierung und Grok Bot
Anthropic führt unsichtbare Wasserzeichen für Claude ein, Forscher finden einen Weg, versteckte Schlussfolgerungen aus Frontier-Modellen zu extrahieren, und River AI sichert sich 1,1 Milliarden Dollar Finanzierung. Zudem startet xAI den Grok Bot für autonome Agenten-Workflows.
Podcast В· 2 min
Anthropic fügt Claude unsichtbare Wasserzeichen hinzu
Anthropic hat damit begonnen, unsichtbare Wasserzeichen für Text-, Code- und Dateiausgaben seiner Claude-Modelle einzuführen. Dieser Schritt entspricht Transparenzanforderungen wie denen des EU AI Acts und stellt sicher, dass KI-generierte Inhalte auch nach dem Kopieren und Einfügen identifiziert werden können. Dateien nutzen zudem den C2PA-Provenienzstandard, der in der Medienbranche üblich ist. Während die Implementierung darauf ausgelegt ist, Inhalte als „von Claude verarbeitet“ zu kennzeichnen, anstatt als vollständig verfasst, hat die Entscheidung gemischte Reaktionen hinsichtlich Datenschutz und der Natur KI-generierter Arbeit hervorgerufen. Ältere Modelle werden nachgerüstet, um diese Kennzeichnungen zu enthalten, während alle nach dem 2. August veröffentlichten Modelle die Technologie nativ unterstützen.
Forscher extrahieren versteckte Schlussfolgerungen aus Frontier-Modellen
Ein neues Forschungspapier hat eine Methode offengelegt, um private, schrittweise Schlussfolgerungen aus Frontier-Modellen wie Claude, ChatGPT und Gemini zu extrahieren. Forscher fanden heraus, dass verschlüsselte Schlussfolgerungsblöcke, die normalerweise vor Benutzern verborgen sind, in schwächere „Geschwister“-Modelle desselben Anbieters eingespeist werden konnten. Durch die Verwendung eines Jailbreak-Prompts gelang es den Forschern, diese kleineren Modelle dazu zu bringen, die verschlüsselten Schlussfolgerungen als lesbaren Text auszugeben, ohne den Verschlüsselungsschlüssel zu benötigen. Diese Schwachstelle legte 367 persönliche Informationen und 182 Anmeldedaten, darunter API-Schlüssel und Passwörter, in 315.320 analysierten Blöcken offen. Die beteiligten Labore haben seitdem ihre Systeme aktualisiert, um diese Angriffsfläche zu schließen.
River AI sammelt 1,1 Milliarden Dollar für persönliche KI
River AI, ein Startup, das vom ehemaligen xAI-Mitbegründer Igor Babuschkin gegründet wurde, hat 1,1 Milliarden Dollar eingesammelt. Das zwei Monate alte Unternehmen hat zum Ziel, Open-Source-KI zu entwickeln, die von Einzelpersonen und nicht von großen Konzernen trainiert, abgestimmt und kontrolliert wird. Babuschkin, der zuvor bei OpenAI, Tesla und Google arbeitete, erklärte, dass das Ziel darin besteht, hochgradig anpassbare Assistenten zu schaffen, die auf der privaten Hardware eines Benutzers laufen und ihm über verschiedene Geräte hinweg folgen. Das Unternehmen gibt an, dass seine API es Unternehmen ermöglicht, ihre Modelle zu besitzen und die Trainingszeit erheblich zu verkürzen.
OpenAI-COO Brad Lightcap verlässt das Unternehmen
Brad Lightcap, Chief Operating Officer von OpenAI, verlässt das Unternehmen, um sich neuen Projekten zu widmen. Lightcap merkte an, dass es „einige wichtige neue Dinge gibt, die die Welt richtig machen muss“, während die künstliche Intelligenz in ihre nächste Entwicklungsphase eintritt.
xAI und Cursor starten Grok Bot
xAI und Cursor haben Grok Bot vorgestellt, eine Beta-Anwendung, die es autonomen KI-Agenten ermöglicht, als Teammitglieder zu arbeiten. Diese Agenten arbeiten mit persistenten Cloud-Computern, sodass sie sich in Gruppenchats koordinieren, auf alltägliche Anwendungen zugreifen und im Laufe der Zeit aus Arbeitsabläufen lernen können. Das System ist darauf ausgelegt, Aufgaben rund um die Uhr zu erledigen, ohne dass der Benutzer seinen Laptop offen lassen muss. Die Beta ist derzeit für iPhone, Mac, Windows und Linux für SuperGrok Heavy und Top-Tier-Cursor-Benutzer verfügbar, mit Plänen für einen breiteren Zugang in naher Zukunft.
LTX-2.5 für Videogenerierung veröffentlicht
LTX hat LTX-2.5 veröffentlicht, ein Open-Weights-Weltmodell, das konsistente Multi-Shot-Videos mit nativen Audio- und 4K-HDR-Qualität generieren kann. Das Modell ist darauf ausgelegt, auf lokaler Hardware ausgeführt oder feinabgestimmt zu werden. LTX-2.5 ist für Organisationen mit einem jährlich wiederkehrenden Umsatz von unter 10 Millionen Dollar kostenlos, der API-Zugang beginnt bei 0,09 Dollar pro Sekunde. Die Veröffentlichung zielt darauf ab, mit bestehenden Videogenerierungsmodellen zu konkurrieren, indem sie in internen Tests höhere Geschwindigkeit und Qualität bietet.