Watermark di Anthropic, raccolta fondi da 1,1 miliardi di dollari di River AI e Grok Bot
Anthropic introduce filigrane invisibili per Claude, i ricercatori trovano un modo per estrarre il ragionamento nascosto dai modelli di frontiera e River AI ottiene un finanziamento di 1,1 miliardi di dollari. Inoltre, xAI lancia Grok Bot per flussi di lavoro con agenti autonomi.
Podcast В· 2 min
Anthropic aggiunge filigrane invisibili a Claude
Anthropic ha iniziato a implementare filigrane invisibili per testo, codice e file generati dai suoi modelli Claude. Questa mossa è in linea con i requisiti di trasparenza, come quelli dell'AI Act dell'UE, garantendo che i contenuti generati dall'IA possano essere identificati anche dopo essere stati copiati e incollati. I file utilizzeranno anche lo standard di provenienza C2PA, coerentemente con le pratiche del settore per i media. Sebbene l'implementazione sia progettata per etichettare i contenuti come "elaborati da Claude" piuttosto che come completamente creati, la decisione ha suscitato reazioni contrastanti per quanto riguarda la privacy e la natura del lavoro generato dall'IA. I modelli più vecchi vengono aggiornati per includere queste etichette, mentre tutti i modelli rilasciati dopo il 2 agosto avranno la tecnologia nativamente integrata.
Ricercatori estraggono il ragionamento nascosto dai modelli di frontiera
Un nuovo articolo di ricerca ha rivelato un metodo per estrarre il ragionamento privato passo-passo da modelli di frontiera come Claude, ChatGPT e Gemini. I ricercatori hanno scoperto che i blocchi di ragionamento crittografati, tipicamente nascosti agli utenti, potevano essere riprodotti in modelli "fratelli" più deboli dello stesso fornitore. Utilizzando un prompt di jailbreak, i ricercatori sono riusciti a convincere questi modelli più piccoli a restituire il ragionamento crittografato come testo leggibile senza bisogno della chiave di crittografia. Questa vulnerabilità ha esposto 367 informazioni personali e 182 credenziali, tra cui chiavi API e password, su 315.320 blocchi analizzati. I laboratori coinvolti hanno da allora aggiornato i loro sistemi per affrontare questa superficie d'attacco.
River AI raccoglie 1,1 miliardi di dollari per l'IA personale
River AI, una start-up fondata dall'ex co-fondatore di xAI Igor Babuschkin, ha raccolto 1,1 miliardi di dollari. L'azienda, vecchia di due mesi, mira a costruire un'IA open-source che sia addestrata, ottimizzata e controllata dai singoli individui piuttosto che dalle grandi aziende. Babuschkin, che in precedenza ha lavorato presso OpenAI, Tesla e Google, ha dichiarato che l'obiettivo è creare assistenti altamente personalizzabili che funzionino sull'hardware privato dell'utente e lo seguano su tutti i dispositivi. L'azienda afferma che la sua API consente alle aziende di possedere i propri modelli e ridurre significativamente i tempi di addestramento.
Il COO di OpenAI Brad Lightcap lascia l'azienda
Il Chief Operating Officer di OpenAI, Brad Lightcap, lascia l'azienda per intraprendere nuove iniziative. Lightcap ha notato che ci sono "alcune cose importanti nuove che il mondo dovrà risolvere" mentre l'intelligenza artificiale entra nella sua prossima fase di sviluppo.
xAI e Cursor lanciano Grok Bot
xAI e Cursor hanno presentato Grok Bot, un'applicazione beta che consente agli agenti IA autonomi di lavorare come membri del team. Questi agenti operano con computer cloud persistenti, consentendo loro di coordinarsi in chat di gruppo, accedere ad applicazioni quotidiane e imparare dai flussi di lavoro nel tempo. Il sistema è progettato per gestire attività 24 ore su 24, 7 giorni su 7, senza che l'utente debba tenere aperto il proprio laptop. La beta è attualmente disponibile per iPhone, Mac, Windows e Linux per gli utenti di SuperGrok Heavy e Cursor di alto livello, con piani per un accesso più ampio nel prossimo futuro.
Rilasciato LTX-2.5 per la generazione video
LTX ha rilasciato LTX-2.5, un modello mondiale open-weight capace di generare video multi-inquadratura coerenti con audio nativo e qualità 4K HDR. Il modello è progettato per essere eseguito o ottimizzato su hardware locale. LTX-2.5 è gratuito per organizzazioni con un fatturato annuo ricorrente inferiore a 10 milioni di dollari, con accesso API a partire da 0,09 dollari al secondo. Il rilascio mira a competere con i modelli di generazione video esistenti offrendo maggiore velocità e qualità nei test interni.