Les leaders de l'IA appellent à un ralentissement ; Apple lance Siri IA
Les leaders de l'industrie plaident pour un ralentissement du développement de l'IA, tandis qu'Apple publie iOS 27 avec Siri IA intégré. Anthropic fait état d'abus de l'IA, et de nouveaux développements géopolitiques émergent concernant les infrastructures d'IA.
Podcast В· 3 min
Les leaders de l'industrie appellent à un ralentissement du développement de l'IA
Le PDG d'Anthropic, Dario Amodei, a publié un essai plaidant pour un ralentissement délibéré du développement de l'IA, citant des préoccupations concernant l'auto-amélioration récursive et les risques potentiels pour la sécurité. Dans une rare démonstration d'alignement de l'industrie, le PDG d'OpenAI, Sam Altman, Elon Musk de xAI et le PDG de Microsoft, Satya Nadella, ont exprimé leur soutien à cette orientation. La conversation prend de l'ampleur, le roi Charles organisant apparemment un sommet en Écosse pour des dirigeants de Nvidia, Google DeepMind, OpenAI et Anthropic afin de discuter de principes de sécurité partagés. Cependant, le consensus n'est pas universel. L'ancien président Trump a qualifié ces appels de « forces négatives », arguant que les États-Unis doivent maintenir leur avance dans la course à l'IA. Pendant ce temps, OpenAI aurait approché le Congrès pour déterminer si un ralentissement à l'échelle de l'industrie pourrait violer les lois antitrust, soulignant la tension entre la coordination de la sécurité et les pratiques de marché concurrentielles. Ce changement reflète une prise de conscience croissante que la superintelligence — des systèmes d'IA capables de surpasser les humains dans la plupart des domaines — présente des défis de contrôle qui nécessitent plus que des solutions techniques. Alors que l'industrie débat de la nécessité de freins, la pression géopolitique pour rester en tête reste un obstacle important à toute pause mondiale coordonnée.
Anthropic détaille les opérations d'abus de l'IA
Anthropic a publié un nouveau rapport de renseignement sur les menaces détaillant plusieurs cas d'abus de l'IA que l'entreprise a perturbés. Le rapport met en lumière un groupe d'espionnage lié à la Russie qui a automatisé des parties de sa chaîne d'attaque et reconstruit des logiciels malveillants pour contourner les outils de sécurité. De plus, Anthropic a identifié une cellule d'armement basée au Yémen utilisant Claude Code pour aider à la conception de systèmes de guidage de roquettes et de missiles, ainsi qu'un réseau d'applications de rencontres basé en Chine exploitant plus de 4 700 personnages IA pour contacter au moins 25 000 personnes. Dans un autre cas, un consultant a utilisé Claude pour développer un logiciel de surveillance pour le renseignement malien, ciblant environ 25 millions de cartes SIM. Anthropic a déclaré avoir banni les comptes impliqués et, dans certains cas, avoir coordonné avec d'autres fournisseurs d'IA pour perturber ces opérations. Ces résultats soulignent la nature à double usage des modèles d'IA avancés et le défi persistant d'empêcher les acteurs malveillants d'exploiter ces outils pour des menaces sophistiquées cybernétiques et physiques.
Apple publie iOS 27 avec Siri IA
Apple a officiellement lancé iOS 27, avec le très attendu « Siri IA ». La mise à jour comprend une refonte complète des applications, une conscience de l'écran et un modèle de langage développé avec l'aide de Gemini de Google. Cette version marque une étape importante pour l'intégration de l'IA générative par Apple dans son écosystème mobile. La nouvelle expérience Siri IA est limitée à l'iPhone 15 Pro et aux modèles plus récents, laissant les anciens appareils avec la mise à jour standard mais sans les capacités d'IA avancées. Ce déploiement fait suite à une période de retards de développement, Apple ayant apparemment retiré les versions précédentes de l'assistant plus intelligent en raison de problèmes de fiabilité.
Microsoft Copilot permet l'échange de modèles
Microsoft a discrètement introduit une fonctionnalité permettant aux utilisateurs de Microsoft 365 Copilot d'échanger le modèle par défaut d'OpenAI contre celui d'Anthropic, Claude, pour des tâches spécifiques. Le changement est plus visible dans l'agent « Researcher », qui analyse les e-mails, les fichiers et les données web. Les utilisateurs peuvent désormais sélectionner différents modèles en fonction de leurs besoins de raisonnement spécifiques, Claude étant souvent préféré pour l'analyse de longs textes tandis que le modèle par défaut reste optimisé pour la rapidité. Cette flexibilité répond aux retours des utilisateurs concernant les performances variables des modèles sur des requêtes complexes. Les organisations peuvent gérer cette capacité via le centre d'administration Microsoft 365, bien que l'option soit désactivée par défaut dans l'UE et au Royaume-Uni.
L'IA améliore la détection des anomalies cérébrales fœtales
Un essai randomisé mené dans cinq hôpitaux en Chine a démontré que l'assistance de l'IA peut améliorer considérablement la détection des malformations cérébrales fœtales lors des échographies prénatales. L'étude a utilisé PAICS, un modèle d'apprentissage profond entraîné à signaler 10 malformations spécifiques en temps réel. Les résultats ont montré que la sensibilité de détection des échographistes est passée de 78,6 % à 87,3 % lors de l'utilisation de l'IA, sans augmentation correspondante des fausses alarmes. L'essai met en évidence le potentiel de l'IA à servir de « deuxième paire d'yeux » dans les environnements cliniques. Notamment, l'intervention humaine est restée cruciale, car les échographistes ont correctement annulé environ 60 % des erreurs de l'IA. Bien que les scans aient pris environ 40 secondes de plus en moyenne, l'amélioration de la précision diagnostique suggère une voie prometteuse pour l'intégration de l'IA dans les soins aux grossesses à haut risque.
Le Pentagone envisage un prêt de 5 milliards de dollars pour les infrastructures d'IA
Le Pentagone serait en pourparlers pour accorder un prêt de 5 milliards de dollars à la start-up de cloud IA Fluidstack. L'initiative vise à renforcer la fabrication et les chaînes d'approvisionnement américaines pour les composants de centres de données, reflétant l'importance stratégique croissante de l'infrastructure d'IA pour la sécurité nationale. Pendant ce temps, au sommet des BRICS à New Delhi, la Chine a proposé la création d'une communauté d'IA open source pour favoriser le développement partagé et l'utilisation industrielle parmi les nations membres, signalant une approche divergente de la gouvernance mondiale de l'IA.