Les règles humanistes de l'IA de Microsoft ; Trump et la Chine rejettent le ralentissement
Microsoft AI a publié un projet de code de conduite pour les futurs modèles, tandis que le président américain Trump et le gouvernement chinois ont tous deux rejeté les appels à un ralentissement du développement de l'IA. Parallèlement, OpenAI a acquis Glass Imaging, et Google a élargi l'accès de ses ingénieurs à Claude.
Podcast В· 3 min
Microsoft AI rédige un règlement « humaniste » pour les futurs modèles
Microsoft AI a publié un projet de code de conduite pour ses futurs modèles MAI, décrivant une vision où l'IA agit comme un outil subordonné plutôt qu'un agent indépendant. Les règles imposent que les modèles restent dans les limites des tâches autorisées, évitent de prétendre avoir une conscience ou des sentiments, et obéissent aux commandes d'arrêt. Ce document sert de feuille de route pour le développement jusqu'en 2027 et est actuellement ouvert aux commentaires du public.
Trump et la Chine rejettent les propositions de ralentissement de l'IA
Le président américain Donald Trump et le gouvernement chinois ont tous deux rejeté les récents appels des laboratoires d'IA de pointe à ralentir le développement. Trump a qualifié ces préoccupations de « canular » et a soutenu qu'un président à « QI élevé » est la seule garde-fou nécessaire. Simultanément, le ministère chinois des Affaires étrangères a qualifié les propositions de ralentissement de « propagande alarmiste » et de « manuel de guerre froide » pour l'IA, signalant un manque de consensus international sur le rythme à adopter.
OpenAI acquiert Glass Imaging
OpenAI a acquis Glass Imaging, une startup fondée par d'anciens ingénieurs d'Apple, pour plus de 300 millions de dollars. L'entreprise se spécialise dans l'utilisation de l'IA pour améliorer les performances des caméras de smartphones, y compris des technologies comme le mode Portrait. Cette acquisition suggère l'intérêt continu d'OpenAI pour l'intégration de ses modèles dans le matériel et les applications d'imagerie grand public.
Superhuman acquiert Fathom
La plateforme de productivité e-mail Superhuman a acquis Fathom, un preneur de notes de réunion alimenté par l'IA. L'accord permet à Superhuman d'intégrer les transcriptions de réunions, les décisions et les éléments d'action directement dans son e-mail, son calendrier et sa pile d'agents, élargissant ainsi ses capacités en tant qu'outil de productivité tout-en-un.
Google élargit l'accès à Claude pour tous les ingénieurs
Google a accordé à tous ses ingénieurs l'accès au modèle Claude d'Anthropic via son système interne « Antigravity ». Bien que Gemini reste le modèle par défaut pour les opérations de Google, cette décision représente une concession significative, permettant aux ingénieurs d'utiliser Claude pour le codage et d'autres tâches.
Les sous-traitants d'OpenAI ont examiné de vraies conversations ChatGPT
404 Media a rapporté que des sous-traitants d'OpenAI travaillant sur le « Projet Lily » ont examiné de véritables invites ChatGPT, y compris des conversations sensibles d'utilisateurs. Le projet visait à entraîner les modèles contre la flagornerie, soulignant la dépendance continue à l'examen humain pour l'alignement des modèles et la formation à la sécurité.
Nvidia, Palantir et Booz Allen limitent l'utilisation de Fable
De grandes entreprises, dont Nvidia, Palantir et Booz Allen Hamilton, limitent apparemment l'utilisation du modèle Fable d'Anthropic pour des travaux sensibles. Les restrictions découlent de préoccupations concernant la politique de conservation des journaux d'utilisation de 30 jours d'Anthropic, ce qui pousse certains clients à préférer des alternatives sur serveurs privés.
La méthode « HardFlow » du MIT améliore la sécurité de l'IA
Des chercheurs du MIT ont introduit « HardFlow », une nouvelle méthode qui permet aux modèles génératifs d'explorer librement des solutions avant d'imposer des contraintes strictes sur la sortie finale. La technique a montré son succès en robotique, en navigation et en édition d'images, offrant un moyen de garantir la sécurité sans compromettre les performances du modèle pendant le processus de génération.
L'agent Ace de la TSA gère 100 000 conversations mensuelles
L'agent « Ace » de la TSA, propulsé par Salesforce, gère désormais environ 100 000 conversations de voyageurs par mois. Salesforce rapporte que 96 % des demandes de routine sont résolues sans nécessiter d'escalade humaine, démontrant l'efficacité des flux de travail agentiques dans le service client du secteur public.
Reward AI lance la politique de robot OM-1
Reward AI a lancé OM-1, une politique de robot entraînée directement à partir de données de manipulation humaine. Le modèle a démontré sa capacité à transférer des compétences sur diverses plateformes matérielles, y compris des bras de table, des bras industriels et des humanoïdes, marquant une avancée dans le contrôle généralisé des robots.