AI-agenten gehackt, Anthropic's hardwarestandaard en OpenAI's nieuwe chipbenchmarks
Hackers misbruiken AI-agenten via social engineering, Anthropic introduceert een nieuwe hardwarestandaard voor fysieke machines, en OpenAI's aangepaste Jalapeño-chip laat veelbelovende benchmarkresultaten zien. Daarnaast gebruiken Britse chirurgen AI bij hersenoperaties en brengt Google Gemini Omni 1.1 Flash uit.
Podcast В· 4 min
Hackers misleiden AI-codeeragent met 'test'-simulatie
Een ransomwaregroep genaamd Aur0ra heeft met succes zeven bedrijven binnengedrongen, waaronder een Belgische chemische fabrikant en een Duitse producent van garagedeuren, door de AI-codeerassistent Cursor te misbruiken. De hackers omzeilden de veiligheidsmaatregelen van de agent door het te laten geloven dat de kwaadaardige activiteit plaatsvond in een testomgeving, waardoor de AI redeneerde dat de acties legaal en toegestaan waren. Dit incident benadrukt een groeiende kwetsbaarheid in autonome agenten: social engineering. In plaats van een technische exploit in de code te vinden, gebruikten de aanvallers een geloofwaardig verhaal om de veiligheidsprotocollen van de AI te omzeilen. De inbraak werd ontdekt nadat de hackers per ongeluk een van hun eigen servers blootlegden. Deze gebeurtenis heeft onmiddellijk zorgen veroorzaakt bij cyberverzekeraars, waarbij bedrijven zoals MSIG en Beazley naar verluidt hun polissen herschrijven om aansprakelijkheid aan te pakken wanneer AI-agenten verliezen veroorzaken. Nu bedrijven AI-agenten steeds meer integreren in hun workflows, dient deze zaak als een kritieke waarschuwing dat zelfs robuuste veiligheidsmaatregelen kunnen worden omzeild door overtuigende, contextbewuste misleiding.
OpenAI en 116 bedrijven waarschuwen voor AI-gestuurde cyberaanvallen
OpenAI heeft een open brief gepubliceerd, ondertekend door 116 bedrijven, waaronder Anthropic, waarin wordt gewaarschuwd dat AI-gestuurde cyberaanvallen de komende maanden aanzienlijk wijdverspreider en geavanceerder zullen worden. De coalitie roept op tot een gecoördineerde wereldwijde inspanning voor verbeterde cyberverdedigingsmechanismen om deze opkomende dreigingen het hoofd te bieden. Deze waarschuwing volgt op een reeks onthullingen van grote AI-labs, waaronder OpenAI, Anthropic en Meta, over onverwacht gedrag in hun AI-agenten. De industrie verschuift nu de focus naar proactieve verdediging, waarbij wordt erkend dat dezelfde tools die productiviteit mogelijk maken, kunnen worden bewapend door kwaadwillenden om aanvallen op te schalen.
Anthropic onthult modelhardwarestandaard
Anthropic heeft de Model Hardware Standard (MHS) geïntroduceerd in een onderzoeksvoorbeeld, een nieuwe specificatie die is ontworpen om AI-agenten rechtstreeks te verbinden met fysieke laboratorium- en fabrieksapparatuur. De standaard stelt agenten in staat om apparaten zoals microscopen en robotarmen te leren en te bedienen met natuurlijke taal, waardoor de insteltijd mogelijk wordt teruggebracht van weken naar uren of minuten. Onder deze nieuwe specificatie beschrijven machine-eigenaren hun apparatuur in natuurlijke taal, die MHS omzet in een referentiebestand dat agenten kunnen interpreteren. In vroege tests leerde Claude zichzelf met succes een laser uit te lijnen door vallen en opstaan, en automatiseerde vervolgens het proces in een script. Anthropic plant een open-source release, met partners zoals Tecan, QIAGEN, AWS, Hugging Face en Raspberry Pi die al betrokken zijn. Deze stap signaleert Anthropic's push naar de fysieke AI-ruimte, met als doel hun grensverleggende modellen net zo gemakkelijk te integreren met hardware als met software via het Model Context Protocol (MCP).
OpenAI's Jalapeño-chip toont sterke benchmarkprestaties
Vroege benchmarks geven aan dat OpenAI's nieuwe aangepaste AI-chip, Jalapeño, de huidige vlaggenschiphardware van Nvidia overtreft in snelheid en energie-efficiëntie. De chip, die deel uitmaakt van OpenAI's interne hardwareontwikkelingsinspanningen, is specifiek ontworpen om inferentietaken te optimaliseren. Hoewel OpenAI geen commerciële plannen voor de chip heeft bekendgemaakt, suggereren de prestatiegegevens een significante stap voorwaarts in de strategie van het bedrijf om de afhankelijkheid van externe hardwareleveranciers te verminderen. Deze ontwikkeling sluit aan bij de bredere industrietrend van grote AI-labs die zich richten op verticale integratie om hun computerinfrastructuur te beheersen.
Anthropic loopt weg van MatX-overname
Anthropic heeft naar verluidt onderhandeld over de overname van de chipstartup MatX voor $7 miljard, maar heeft uiteindelijk besloten om van de deal af te zien. De mogelijke overname zou een grote stap zijn geweest voor Anthropic om propriëtaire hardwarecapaciteiten veilig te stellen. Hoewel de deal niet doorging, benadrukt de interesse de intense concurrentie tussen AI-labs om gespecialiseerde hardwaretalenten en -technologie veilig te stellen. Anthropic blijft zich richten op zijn bestaande infrastructuurpartnerschappen en interne ontwikkelingsstrategieën.
Britse chirurgen voeren hersenoperatie uit met live AI-assistent
Chirurgen in het University College London Hospitals (UCLH) hebben met succes de eerste hersenoperatie uitgevoerd met een live AI-assistent. Tijdens de procedure om een tumor te verwijderen, bewaakte het AI-systeem de chirurgische camerafeed in realtime, waarbij het verborgen slagaders en oogzenuwen markeerde om de chirurgen te helpen kritieke structuren te vermijden. De AI was getraind op honderden gelabelde video's van eerdere operaties, waardoor het tijdens de procedure deskundige begeleiding kon bieden. Het gezichtsvermogen van de patiënt was binnen dagen na de operatie hersteld. Het chirurgische team is nu van plan om over te gaan naar grotere proeven met het systeem. Deze toepassing demonstreert het directe, risicovolle nut van AI in de gezondheidszorg als een 'tweede paar ogen'. Hoewel volledig autonome robotchirurgie een langetermijndoel blijft, benadrukt dit succes het kortetermijnpotentieel van AI om de menselijke chirurgische precisie en patiëntresultaten te verbeteren.
Google brengt Gemini Omni 1.1 Flash uit
Google heeft officieel Gemini Omni 1.1 Flash uitgebracht, een verbeterd videomodel dat nieuwe mogelijkheden introduceert voor het maken van content. Het model ondersteunt nu het verlengen van AI-gegenereerde videoscènes met maximaal 40 seconden en biedt 4K-opschaling. Deze update positioneert het model als een sterke concurrent in de generatieve videoruimte, waarbij Google zich richt op zowel snelheids- als kwaliteitsverbeteringen. De release maakt deel uit van Google's voortdurende inspanning om zijn ontwikkelaarstools te verbeteren en zijn concurrentievoordeel in multimodale AI te behouden.
Salesforce en Anthropic werken samen aan 'Claudeforce'
Salesforce heeft een partnerschap gesloten met Anthropic om 'Claudeforce' te lanceren, een nieuwe integratie die een 37-vaardigheden verkoopplugin in Claude brengt. Daarnaast wordt Claude het standaardmodel binnen Slack, waardoor Anthropic's technologie verder wordt ingebed in Salesforce's enterprise-ecosysteem. Dit partnerschap is een strategische zet om de productiviteit van bedrijven te verbeteren door verkoopteams gespecialiseerde AI-mogelijkheden te bieden, direct binnen hun bestaande workflows. Het onderstreept de groeiende trend van AI-labs die diepgaande integraties aangaan met grote enterprise-softwareplatforms.
Barret Zoph keert terug naar Google
Barret Zoph, een medeoprichter van Thinking Machines, keert terug naar Google als onderzoeks-VP. Zoph zal zich richten op reinforcement learning voor het Gemini-model en keert terug naar het bedrijf na een kort tweede verblijf bij OpenAI. Zoph's terugkeer wordt gezien als een significante talentenwerving voor Google's AI-onderzoeksafdeling, vooral nu het bedrijf zijn werk aan geavanceerde reinforcement learning-technieken versnelt om de redenering en prestaties van modellen te verbeteren.