Znaki wodne Anthropic, 1,1 miliarda dolarów dla River AI i bot Grok
Anthropic wprowadza niewidoczne znaki wodne dla Claude'a, badacze znajdują sposób na wydobycie ukrytego rozumowania z modeli granicznych, a River AI zdobywa 1,1 miliarda dolarów finansowania. Dodatkowo xAI uruchamia bota Grok do autonomicznych przepływów pracy agentów.
Podcast В· 2 min
Anthropic dodaje niewidoczne znaki wodne do Claude'a
Anthropic rozpoczął wdrażanie niewidocznych znaków wodnych dla tekstu, kodu i plików generowanych przez swoje modele Claude. Ten krok jest zgodny z wymogami przejrzystości, takimi jak te zawarte w unijnym akcie o sztucznej inteligencji, zapewniając, że treści generowane przez AI mogą być identyfikowane nawet po skopiowaniu i wklejeniu. Pliki będą również wykorzystywać standard pochodzenia C2PA, zgodny z praktykami branżowymi dla mediów. Chociaż implementacja ma na celu oznaczenie treści jako „przetworzone przez Claude'a”, a nie w pełni autorstwa, decyzja wywołała mieszane reakcje dotyczące prywatności i charakteru pracy generowanej przez AI. Starsze modele są modernizowane, aby zawierały te etykiety, a wszystkie modele wydane po 2 sierpnia będą miały tę technologię natywnie.
Badacze wydobywają ukryte rozumowanie z modeli granicznych
Nowy artykuł badawczy ujawnił metodę wydobywania prywatnego, krok po kroku rozumowania z modeli granicznych, takich jak Claude, ChatGPT i Gemini. Badacze odkryli, że zaszyfrowane bloki rozumowania, które są zazwyczaj ukryte przed użytkownikami, mogą być odtwarzane w słabszych, „siostrzanych” modelach tego samego dostawcy. Używając podpowiedzi jailbreak, badacze byli w stanie przekonać te mniejsze modele do wyprowadzenia zaszyfrowanego rozumowania jako czytelnego tekstu bez potrzeby posiadania klucza szyfrowania. Ta luka ujawniła 367 elementów danych osobowych i 182 dane uwierzytelniające, w tym klucze API i hasła, wśród 315 320 przeanalizowanych bloków. Laboratoria, których to dotyczy, zaktualizowały swoje systemy, aby rozwiązać ten problem.
River AI zbiera 1,1 miliarda dolarów na osobistą AI
River AI, startup założony przez byłego współzałożyciela xAI Igora Babuschkina, zebrał 1,1 miliarda dolarów. Dwumiesięczna firma ma na celu budowę open-source'owej AI, która jest szkolona, dostrajana i kontrolowana przez osoby fizyczne, a nie duże korporacje. Babuschkin, który wcześniej pracował w OpenAI, Tesli i Google, stwierdził, że celem jest stworzenie wysoce konfigurowalnych asystentów, którzy działają na prywatnym sprzęcie użytkownika i podążają za nim między urządzeniami. Firma twierdzi, że jej API pozwala firmom posiadać własne modele i znacznie skrócić czas szkolenia.
COO OpenAI Brad Lightcap odchodzi
Brad Lightcap, dyrektor operacyjny OpenAI, opuszcza firmę, aby podjąć nowe przedsięwzięcia. Lightcap zauważył, że „jest kilka ważnych nowych rzeczy, które świat będzie musiał zrobić dobrze”, gdy sztuczna inteligencja wchodzi w następną fazę rozwoju.
xAI i Cursor uruchamiają bota Grok
xAI i Cursor wprowadzili Grok Bot, aplikację beta, która umożliwia autonomicznym agentom AI pracę jako członkowie zespołu. Ci agenci działają na stałych komputerach w chmurze, co pozwala im koordynować działania w czatach grupowych, uzyskiwać dostęp do codziennych aplikacji i uczyć się na podstawie przepływów pracy z czasem. System jest zaprojektowany do obsługi zadań 24/7 bez konieczności pozostawiania laptopa otwartego przez użytkownika. Beta jest obecnie dostępna dla iPhone'a, Maca, Windowsa i Linuxa dla użytkowników SuperGrok Heavy i najwyższej klasy Cursor, z planami szerszego dostępu w najbliższej przyszłości.
Wydano LTX-2.5 do generowania wideo
LTX wydał LTX-2.5, model świata o otwartej wadze, zdolny do generowania spójnego, wieloujęciowego wideo z natywnym dźwiękiem i jakością 4K HDR. Model jest zaprojektowany do uruchamiania lub dostrajania na lokalnym sprzęcie. LTX-2.5 jest darmowy dla organizacji z rocznym przychodem poniżej 10 milionów dolarów, z dostępem do API zaczynającym się od 0,09 dolara za sekundę. Wydanie ma na celu konkurowanie z istniejącymi modelami generowania wideo, oferując wyższą prędkość i jakość w testach wewnętrznych.