Filigranes d'Anthropic, levée de fonds de 1,1 milliard $ de River AI et Grok Bot
Anthropic introduit des filigranes invisibles pour Claude, des chercheurs trouvent un moyen d'extraire le raisonnement caché des modèles de pointe, et River AI obtient un financement de 1,1 milliard $. De plus, xAI lance Grok Bot pour les workflows d'agents autonomes.
Podcast В· 2 min
Anthropic ajoute des filigranes invisibles à Claude
Anthropic a commencé à déployer des filigranes invisibles pour les sorties de texte, de code et de fichiers générées par ses modèles Claude. Cette mesure s'aligne sur les exigences de transparence, comme celles de la loi européenne sur l'IA, garantissant que le contenu généré par l'IA peut être identifié même après avoir été copié et collé. Les fichiers utiliseront également la norme de provenance C2PA, conformément aux pratiques industrielles pour les médias. Bien que la mise en œuvre soit conçue pour étiqueter le contenu comme « traité par Claude » plutôt que comme entièrement rédigé, la décision a suscité des réactions mitigées concernant la confidentialité et la nature du travail généré par l'IA. Les modèles plus anciens sont en cours de mise à niveau pour inclure ces étiquettes, tous les modèles publiés après le 2 août intégrant nativement cette technologie.
Des chercheurs extraient le raisonnement caché des modèles de pointe
Un nouvel article de recherche a révélé une méthode pour extraire le raisonnement privé, étape par étape, des modèles de pointe comme Claude, ChatGPT et Gemini. Les chercheurs ont découvert que les blocs de raisonnement cryptés, généralement cachés aux utilisateurs, pouvaient être rejoués dans des modèles « frères » plus faibles du même fournisseur. En utilisant une invite de jailbreak, les chercheurs ont réussi à convaincre ces modèles plus petits de produire le raisonnement crypté sous forme de texte lisible sans avoir besoin de la clé de cryptage. Cette vulnérabilité a exposé 367 éléments d'informations personnelles et 182 identifiants, y compris des clés API et des mots de passe, sur 315 320 blocs analysés. Les laboratoires concernés ont depuis mis à jour leurs systèmes pour remédier à cette surface d'attaque.
River AI lève 1,1 milliard $ pour l'IA personnelle
River AI, une startup fondée par l'ancien co-fondateur de xAI, Igor Babuschkin, a levé 1,1 milliard de dollars. La société, âgée de deux mois, vise à construire une IA open-source qui est entraînée, ajustée et contrôlée par des individus plutôt que par de grandes entreprises. Babuschkin, qui a précédemment travaillé chez OpenAI, Tesla et Google, a déclaré que l'objectif est de créer des assistants hautement personnalisables qui fonctionnent sur le matériel privé d'un utilisateur et le suivent sur tous les appareils. La société affirme que son API permet aux entreprises de posséder leurs modèles et de réduire considérablement le temps d'entraînement.
Le COO d'OpenAI, Brad Lightcap, quitte ses fonctions
Brad Lightcap, directeur de l'exploitation d'OpenAI, quitte l'entreprise pour poursuivre de nouvelles aventures. Lightcap a noté qu'il y a « quelques nouvelles choses importantes que le monde devra bien faire » alors que l'intelligence artificielle entre dans sa prochaine phase de développement.
xAI et Cursor lancent Grok Bot
xAI et Cursor ont introduit Grok Bot, une application bêta qui permet aux agents d'IA autonomes de travailler comme des coéquipiers. Ces agents fonctionnent avec des ordinateurs cloud persistants, leur permettant de se coordonner dans des discussions de groupe, d'accéder à des applications quotidiennes et d'apprendre des workflows au fil du temps. Le système est conçu pour gérer des tâches 24h/24 et 7j/7 sans que l'utilisateur ait besoin de garder son ordinateur portable ouvert. La version bêta est actuellement disponible pour iPhone, Mac, Windows et Linux pour les utilisateurs de SuperGrok Heavy et de Cursor de premier plan, avec des plans pour un accès plus large dans un avenir proche.
LTX-2.5 publié pour la génération vidéo
LTX a publié LTX-2.5, un modèle mondial à poids ouverts capable de générer des vidéos multi-plans cohérentes avec audio natif et qualité 4K HDR. Le modèle est conçu pour être exécuté ou affiné sur du matériel local. LTX-2.5 est gratuit pour les organisations dont le chiffre d'affaires annuel récurrent est inférieur à 10 millions de dollars, avec un accès API à partir de 0,09 $ par seconde. La publication vise à concurrencer les modèles de génération vidéo existants en offrant une vitesse et une qualité supérieures lors des tests internes.