AI-leiders roepen op tot vertraging; Apple lanceert Siri AI
Industrieleiders pleiten voor een vertraging van de AI-ontwikkeling, terwijl Apple iOS 27 uitbrengt met geïntegreerde Siri AI. Anthropic rapporteert over misbruik van AI, en er zijn nieuwe geopolitieke ontwikkelingen met betrekking tot AI-infrastructuur.
Podcast В· 3 min
Industrieleiders roepen op tot vertraging van AI-ontwikkeling
Anthropic CEO Dario Amodei heeft een essay gepubliceerd waarin hij pleit voor een bewuste vertraging van de AI-ontwikkeling, daarbij verwijzend naar zorgen over recursieve zelfverbetering en mogelijke veiligheidsrisico's. In een zeldzame blijk van eensgezindheid binnen de industrie hebben OpenAI CEO Sam Altman, xAI's Elon Musk en Microsoft CEO Satya Nadella steun uitgesproken voor deze richting. Het gesprek wint aan momentum, naar verluidt organiseert koning Charles een top in Schotland voor leiders van Nvidia, Google DeepMind, OpenAI en Anthropic om gedeelde veiligheidsprincipes te bespreken. De consensus is echter niet universeel. Voormalig president Trump heeft deze oproepen afgedaan als 'negatieve krachten' en stelt dat de VS haar voorsprong in de AI-wedloop moet behouden. Ondertussen heeft OpenAI naar verluidt het Congres benaderd om te bepalen of een vertraging van de hele industrie in strijd zou zijn met de antitrustwetgeving, wat de spanning benadrukt tussen veiligheidscoördinatie en concurrentiegerichte marktpraktijken. Deze verschuiving weerspiegelt een groeiend besef dat superintelligentie—AI-systemen die in staat zijn om mensen te overtreffen in de meeste domeinen—controle-uitdagingen met zich meebrengt die meer vereisen dan alleen technische oplossingen. Terwijl de industrie debatteert over de noodzaak van remmen, blijft de geopolitieke druk om voorop te blijven lopen een aanzienlijk obstakel voor een gecoördineerde wereldwijde pauze.
Anthropic beschrijft operaties voor misbruik van AI
Anthropic heeft een nieuw dreigingsinformatierapport uitgebracht waarin verschillende gevallen van AI-misbruik worden beschreven die het bedrijf heeft verstoord. Het rapport belicht een aan Rusland gelinkte spionagegroep die delen van haar aanvalsketen automatiseerde en malware herbouwde om beveiligingstools te omzeilen. Daarnaast identificeerde Anthropic een in Jemen gevestigde wapencel die Claude Code gebruikte om te helpen bij het ontwerpen van raket- en projectielgeleidingssystemen, evenals een in China gevestigd datingsapp-netwerk dat meer dan 4.700 AI-persona's inzette om ten minste 25.000 personen te contacteren. In een ander geval gebruikte een consultant Claude om bewakingssoftware te ontwikkelen voor de Malinese inlichtingendienst, gericht op ongeveer 25 miljoen simkaarten. Anthropic stelt dat het de betrokken accounts heeft geblokkeerd en in sommige gevallen heeft samengewerkt met andere AI-aanbieders om deze operaties te verstoren. Deze bevindingen onderstrepen het tweesnijdende karakter van geavanceerde AI-modellen en de voortdurende uitdaging om kwaadwillende actoren te verhinderen deze tools te gebruiken voor geavanceerde cyber- en fysieke dreigingen.
Apple brengt iOS 27 uit met Siri AI
Apple heeft officieel iOS 27 gelanceerd, met de langverwachte 'Siri AI'. De update bevat een uitgebreide make-over van apps, schermbewustzijn en een taalmodel dat is ontwikkeld met hulp van Google's Gemini. Deze release markeert een belangrijke stap voor Apple's integratie van generatieve AI in zijn mobiele ecosysteem. De nieuwe Siri AI-ervaring is beperkt tot de iPhone 15 Pro en nieuwere modellen, waardoor oudere apparaten de standaardupdate krijgen maar zonder de geavanceerde AI-mogelijkheden. Deze uitrol volgt op een periode van ontwikkelingsvertragingen, aangezien Apple naar verluidt eerdere versies van de slimmere assistent heeft teruggetrokken vanwege betrouwbaarheidsproblemen.
Microsoft Copilot maakt modelwisseling mogelijk
Microsoft heeft stilletjes een functie geïntroduceerd waarmee Microsoft 365 Copilot-gebruikers het standaard OpenAI-model kunnen vervangen door Anthropic's Claude voor specifieke taken. De wijziging is het meest prominent in de 'Researcher'-agent, die e-mails, bestanden en webdata analyseert. Gebruikers kunnen nu verschillende modellen selecteren op basis van hun specifieke redeneerbehoeften, waarbij Claude vaak de voorkeur krijgt voor langdurige analyses, terwijl het standaardmodel geoptimaliseerd blijft voor snelheid. Deze flexibiliteit speelt in op feedback van gebruikers over de wisselende prestaties van modellen bij complexe queries. Organisaties kunnen deze mogelijkheid beheren via het Microsoft 365-beheercentrum, hoewel de optie standaard is uitgeschakeld in de EU en het VK.
AI verbetert detectie van hersenafwijkingen bij foetus
Een gerandomiseerde studie uitgevoerd in vijf ziekenhuizen in China heeft aangetoond dat AI-assistentie de detectie van foetale hersenmisvormingen tijdens prenatale echo's aanzienlijk kan verbeteren. De studie maakte gebruik van PAICS, een deep-learningmodel dat is getraind om in realtime 10 specifieke misvormingen te signaleren. De resultaten toonden aan dat de detectiegevoeligheid van echografisten steeg van 78,6% naar 87,3% bij gebruik van de AI, zonder een overeenkomstige toename van valse alarmen. De proef benadrukt het potentieel van AI om te dienen als een 'tweede paar ogen' in klinische settings. Opvallend was dat menselijke betrokkenheid cruciaal bleef, aangezien echografisten ongeveer 60% van de fouten van de AI correct overschreven. Hoewel de scans gemiddeld ongeveer 40 seconden langer duurden, wijst de verbetering in diagnostische nauwkeurigheid op een veelbelovende weg voor AI-integratie in de zorg voor risicovolle zwangerschappen.
Pentagon overweegt lening van $5 miljard voor AI-infrastructuur
Het Pentagon is naar verluidt in gesprek om een lening van $5 miljard te verstrekken aan AI-cloudstartup Fluidstack. Het initiatief is gericht op het versterken van de Amerikaanse productie en toeleveringsketens voor datacentercomponenten, wat het groeiende strategische belang van AI-infrastructuur voor de nationale veiligheid weerspiegelt. Ondertussen heeft China op de BRICS-top in New Delhi voorgesteld een open-source AI-gemeenschap op te richten om gedeelde ontwikkeling en industrieel gebruik onder lidstaten te bevorderen, wat wijst op een uiteenlopende benadering van wereldwijd AI-bestuur.