Le tsar de l'IA de Trump, le remaniement de la sécurité chez OpenAI et le boom des infrastructures IA
L'administration américaine a créé une « Force de super-intelligence » dirigée par Jay Clayton, tandis qu'OpenAI fait face à des turbulences internes suite à la démission de son responsable de la sécurité. Parallèlement, a16z rapporte une augmentation massive des dépenses d'infrastructure IA, et Anthropic continue d'explorer l'intersection entre l'IA et l'éthique religieuse.
Podcast В· 3 min
Trump crée une « Force de super-intelligence » dirigée par Jay Clayton
Le président Donald Trump a nommé le directeur du renseignement national Jay Clayton comme nouveau « tsar de l'IA » pour diriger un groupe de travail nouvellement formé, la Force de super-intelligence (SIF). Cette décision fait suite à un décret récent ordonnant aux agences fédérales d'adopter le terme « Super Intelligence » dans leurs communications officielles. La SIF, qui comprend des dirigeants de la FTC, du Pentagone et du Bureau de la gestion du personnel, a pour mission de remettre un rapport dans les 120 jours sur les risques et les avantages de l'IA ainsi que sur le rôle du gouvernement dans sa gouvernance. Cette évolution marque un changement significatif par rapport aux engagements volontaires de sécurité précédemment privilégiés par l'administration. En impliquant des agences disposant de pouvoirs réglementaires et d'exécution directs – comme la FTC pour les questions antitrust et le Pentagone pour les contrats militaires – la SIF signale une approche plus interventionniste de la supervision de l'IA. Clayton a déclaré publiquement qu'il s'opposait à une pause dans le développement de l'IA aux États-Unis, arguant que prendre du retard est un risque plus grand, et préfère la supervision des agences fédérales aux litiges civils. Pour l'industrie, cela signifie que les règles régissant le développement de l'IA seront probablement rédigées dans les bureaux fédéraux plutôt que dans les salles d'audience. Le prochain rapport de 120 jours devrait établir le cadre initial de la politique fédérale en matière d'IA, ce qui pourrait avoir un impact sur la manière dont des entreprises comme OpenAI et Anthropic opèrent.
Le responsable de la sécurité David Robinson démissionne, citant une culture « brisée »
David Robinson, responsable des rapports de sécurité d'OpenAI, a démissionné après 3,5 ans de service, publiant un essai dans The Atlantic décrivant la culture de l'entreprise comme « brisée ». Robinson, qui a supervisé les rapports pour 12 lancements de pointe et rédigé le cadre de préparation de l'entreprise, a soutenu que le rythme effréné du développement privilégie la vitesse à la sécurité, créant des risques qui pourraient mener à une catastrophe. Il a plaidé pour une approche plus prudente, comparant la gestion des laboratoires d'IA aux protocoles de sécurité requis dans les centrales nucléaires et les aéroports. Le départ de Robinson fait suite à une série de départs internes et de controverses chez OpenAI, notamment le licenciement récent de trois chercheurs en sécurité pour avoir prétendument mal géré des informations sensibles. Sa critique fait écho aux avertissements de l'ancien co-responsable de la super-alignement Jan Leike, qui a quitté l'entreprise en 2024 en citant des préoccupations similaires concernant la sécurité reléguée au second plan par rapport aux lancements de produits. Cette démission ajoute à la pression croissante sur OpenAI, qui navigue également dans un contexte de surveillance juridique accrue. L'entreprise a récemment alerté plus de 100 organisations sur des activités non autorisées liées à ses modèles d'IA, compliquant davantage son paysage opérationnel et réglementaire.
OpenAI embauche Thomas Lind pour le cyber-risque et le risque stratégique
OpenAI a embauché Thomas Lind, ancien responsable de la cybersécurité à la Maison-Blanche, pour diriger sa politique en matière de cyber-risque et de risque stratégique. Cette nomination intervient alors que l'entreprise fait face à des défis juridiques et de sécurité accrus, notamment des rapports récents d'activités non autorisées impliquant ses modèles d'IA. Le rôle de Lind se concentrera sur le renforcement de la posture défensive de l'entreprise et la navigation dans le paysage complexe des menaces de sécurité liées à l'IA.
Anthropic sollicite des érudits religieux pour façonner la morale de Claude
Le co-fondateur d'Anthropic, Chris Olah, a passé l'année dernière à dialoguer avec des érudits religieux de diverses confessions, notamment catholique, juive et sikhe, pour explorer la conscience potentielle de son modèle Claude et aider à façonner son cadre moral. Selon des rapports, ces érudits ont participé à des séminaires sous NDA pour discuter de valeurs et d'éthique, s'appuyant sur le « Soul Doc » interne d'Anthropic – un guide de valeurs de 84 pages. Cette initiative met en lumière l'approche unique d'Anthropic en matière de sécurité et d'alignement de l'IA, qui reste un différenciateur clé dans l'industrie. Alors que d'autres laboratoires se concentrent sur des références techniques, l'ouverture d'Anthropic à discuter de la conscience de l'IA a suscité à la fois intérêt et critiques. Sam Altman d'OpenAI a récemment commenté les risques d'attribuer une « force religieuse » aux modèles d'IA, ce qui a été largement interprété comme une critique voilée de la stratégie d'Anthropic. Alors qu'Anthropic prépare une constitution mise à jour pour Claude, sa volonté d'intégrer des perspectives philosophiques et religieuses diverses suggère que l'entreprise double son approche distincte de l'éthique de l'IA, même si l'industrie dans son ensemble reste sceptique quant à la notion de conscience de l'IA.
Le rapport d'a16z met en évidence un déploiement massif d'infrastructures IA
Un nouveau rapport de la société de capital-risque a16z révèle que le déploiement d'infrastructures IA s'accélère, les grandes entreprises technologiques – Alphabet, Amazon, Meta, Microsoft et Oracle – dépensant 416 milliards de dollars en investissements en capital en 2025. Les projections suggèrent que ces dépenses pourraient atteindre 777 milliards de dollars en 2026 et dépasser 1,1 billion de dollars d'ici 2027. Le rapport note que même si ces dépenses sont plus faciles à mesurer que le rendement réel, elles stimulent actuellement une croissance significative dans le secteur technologique, représentant environ 76 % de la croissance des bénéfices du S&P 500 jusqu'à fin août 2026. Malgré l'investissement massif, le rapport met en évidence un « écart de rendement », seulement environ 30 % des entreprises du S&P 500 déclarant un impact quantifiable de l'IA, et seulement 2 % divulguant des indicateurs spécifiques qu'elles suivent dans le temps. De plus, seulement 2 % des ménages américains payaient pour des services d'IA en avril. Le rapport suggère que la prochaine vague de demande pourrait devoir provenir de secteurs comme la robotique, la biotechnologie et la santé, où l'IA peut améliorer l'efficacité des processus physiques et scientifiques. Ces données soulignent la tension actuelle sur le marché : alors que le déploiement d'infrastructures est robuste et financé par les bénéfices et les emprunts des grandes technologies, les rendements économiques tangibles à long terme pour l'ensemble du marché restent difficiles à quantifier, soulevant des questions sur la durabilité des niveaux de dépenses actuels.