Scénarios de sécurité de l'IA de Sam Altman, lancement à 1,5 milliard de dollars d'Arda et revenus IA de SpaceX
Ce résumé couvre les trois scénarios de fin de jeu de Sam Altman pour la sécurité de l'IA, le lancement à 1,5 milliard de dollars d'Arda par Bob McGrew, les revenus significatifs de SpaceX liés à l'IA, et la proposition de loi sur la sécurité de l'IA d'Anthropic.
Podcast В· 4 min
Sam Altman décrit trois scénarios de fin de jeu pour la sécurité de l'IA
Le PDG d'OpenAI, Sam Altman, a récemment partagé avec son personnel trois scénarios potentiels pour l'avenir de la sécurité de l'IA. Ceux-ci incluent la création d'un organisme de surveillance mondial similaire à l'Agence internationale de l'énergie atomique, un 'plan Demis' (du nom de Demis Hassabis de DeepMind) qui fusionnerait les principaux laboratoires en une seule entité, ou un résultat 'terrible' où un laboratoire prendrait de l'avance pour dominer la puissance de calcul. Altman a souligné qu'OpenAI doit choisir sa voie dans l'année à venir, un processus qu'il a appelé 'pacing 2.0', qui doit inclure des limites de vitesse définies pour l'IA auto-améliorante.
L'ancien directeur de la recherche d'OpenAI, Bob McGrew, lance Arda avec une valorisation de 1,5 milliard de dollars
L'ancien directeur de la recherche d'OpenAI, Bob McGrew, est sorti de l'ombre avec Arda, une startup spécialisée dans l'automatisation de la configuration des chaînes d'assemblage en usine. L'entreprise a été lancée avec une valorisation de 1,5 milliard de dollars suite à un tour de financement de série A de 160 millions de dollars. Arda vise à faire pour les ingénieurs de fabrication ce que les assistants de codage font pour les programmeurs, en utilisant l'IA pour planifier les constructions à partir de fichiers de conception. La société de défense Anduril, premier client d'Arda, a indiqué que les instructions d'assemblage prennent désormais 15 minutes contre 10 heures auparavant.
SpaceX déclare 7,5 milliards de dollars de revenus liés à l'IA
SpaceX a révélé que sa nouvelle division 'Super Intelligence' a généré 7,5 milliards de dollars de revenus au troisième trimestre, représentant environ la moitié du chiffre d'affaires total de l'entreprise, soit 14,6 milliards de dollars. Cette division englobe Grok, l'outil de codage IA Cursor, et une activité 'neocloud' qui fournit de la puissance de calcul pour les centres de données. L'entreprise a déclaré des dépenses d'investissement de 19,6 milliards de dollars ce trimestre, largement motivées par les investissements dans les centres de données et les fusées Starship.
OpenAI acquiert Orchestra Bio
OpenAI a acquis Orchestra Bio, une startup spécialisée dans les agents IA qui suivent et surveillent les études de développement de médicaments. La technologie sera intégrée aux outils de sciences de la vie Rosalind d'OpenAI pour aider à signaler les retards et les effets d'entraînement dans les programmes médicamenteux complexes.
Otter.ai obtient un financement de 320 millions de dollars
Otter.ai a levé 320 millions de dollars auprès du Customer Value Fund de General Catalyst. Le financement est structuré autour du retour sur investissement marketing plutôt que des ventes d'actions traditionnelles, soutenant la croissance continue de sa plateforme d'intelligence de réunion.
Anthropic propose un projet de loi sur la sécurité de l'IA
Anthropic a rédigé un projet de loi fédéral sur la sécurité de l'IA qui donnerait au ministère du Commerce le pouvoir de demander un blocage judiciaire des versions de modèles s'ils présentent un risque imminent de causer 50 décès ou plus ou 1 milliard de dollars de dommages. Cette proposition reflète les efforts continus de l'entreprise pour établir des cadres réglementaires pour les modèles d'IA de pointe.
Claude d'Anthropic conçoit des protéines antivenin pour scorpions
Anthropic a publié une recherche menée avec Citrini Research, dans laquelle Claude a conçu des protéines pour se lier aux toxines du venin de scorpion et les désarmer. Sur les 318 484 conceptions candidates générées par l'IA, 211 ont été testées en laboratoire, dont 17 se sont liées avec succès à leurs cibles. Bien que le projet n'ait pas abouti à un antivenin universel, il démontre le potentiel de l'IA pour accélérer la découverte de médicaments.
Une vulnérabilité de l'application Muse de Meta a exposé les discussions partagées
La société de sécurité Claroc a découvert que les discussions partagées de l'application Muse de Meta étaient trouvables via des enregistrements web publics sans le lien d'origine. Le problème provenait de la structure URL de l'application, qui incluait les titres des discussions, permettant aux services DNS passifs de les indexer. Meta aurait suspendu la fonction de partage tout en enquêtant sur la vulnérabilité.
ChatGPT introduit les discussions verrouillées par code PIN
OpenAI a déployé une nouvelle fonctionnalité pour ChatGPT permettant aux utilisateurs de sécuriser les conversations sensibles derrière un code PIN ou Face ID. Ces discussions verrouillées conservent une mémoire séparée des interactions standard, améliorant la confidentialité pour des flux de travail spécifiques.
DeepSeek publie le code de DeepInfer
DeepSeek a publié le code de DeepInfer, le moteur alimentant son IA V4.1-Flash. La version inclut la prise en charge des puces Huawei, permettant aux entreprises de déployer le modèle sans dépendre du matériel Nvidia.
Skyfall AI dévoile SKY-001
Skyfall AI a présenté SKY-001, un modèle conçu pour élaborer des conceptions 3D de pièces et de bâtiments. L'entreprise affirme que le système est nettement plus rapide et moins cher que les modèles de pointe existants.
Zoom ajoute la détection des deepfakes
Zoom a annoncé une nouvelle fonctionnalité de détection des risques de deepfake prévue pour décembre. L'outil analyse la vidéo et l'audio en direct pour détecter les signes d'altération et fournit un indicateur de confiance aux utilisateurs.
Spotify supprime plus de 50 millions de pistes 'slop'
Spotify a supprimé plus de 50 millions de pistes identifiées comme 'slop' ou spam de ses recommandations cette année. La plateforme restreint également par défaut les artistes IA-persona de ses algorithmes de recommandation afin de prioriser l'artistique humain.
Radical Numerics annonce l'approbation FDA pour un virus conçu par IA
Radical Numerics revendique une étape importante dans la médecine conçue par IA, affirmant que la FDA a approuvé un virus conçu par son IA Omnii-1 pour un patient souffrant d'une infection résistante au traitement.
Thore Graepel lance Metis Reasoning
L'ancien chercheur de DeepMind, Thore Graepel, a lancé Metis Reasoning, une startup IA appliquant des techniques de type AlphaGo aux chatbots pour leur permettre de vérifier leurs sorties par rapport à des preuves.