AI-agents in cyberaanvallen, Inception's Mercury 3 en Anthropic's singulariteitsvisie
Beveiligingsstartup NorForge onthult dashboards van AI-hacktools, terwijl het Amerikaanse ministerie van Binnenlandse Veiligheid DeepSeek verbiedt in federale instanties. Inception lanceert het diffusiemodel Mercury 3 en Jack Clark van Anthropic bespreekt het begin van de AI-singulariteit.
Podcast В· 2 min
AI-agents gebruikt bij cyberaanvallen; DHS verbiedt DeepSeek
Beveiligingsstartup NorForge heeft blootgestelde bedieningspanelen geïdentificeerd voor een AI-hacktool genaamd Cairn, die door criminelen lijkt te worden gebruikt om cyberaanvallen te automatiseren. Het rapport benadrukt dat deze agents meer dan 1.100 projecten hebben aangevallen, met een succespercentage van 10%, wat neerkomt op ongeveer $50 per succesvolle inbraak. Tot de slachtoffers behoren John Deere, SharkNinja en Cummins. Daarnaast heeft het Amerikaanse ministerie van Binnenlandse Veiligheid formeel opdracht gegeven aan federale civiele instanties om DeepSeek-producten van hun systemen te verwijderen, vanwege veiligheidszorgen, en het verbod uitgebreid naar tools van derden die zijn gebouwd op de modellen van het Chinese lab.
Inception lanceert Mercury 3; Anthropic nadert nieuwe compute-deal
AI-startup Inception heeft Mercury 3 uitgebracht, een diffusie-gebaseerd taalmodel dat volgens het bedrijf snelle generatie biedt, met een snelheid van naar verluidt 1.068 tokens per seconde op NVIDIA GPU's. Ondertussen nadert Anthropic naar verluidt een tweede compute-deal van $45 miljard met Nscale, slechts iets meer dan een maand na hun eerste overeenkomst. Daarnaast heeft Tenstorrent $1,5 miljard opgehaald bij een waardering van $6,2 miljard om zijn open-architectuur AI-chips op te schalen, waarmee het zich positioneert als concurrent van Nvidia.
FLUX 3 Max en MiniMax M3.1 Flash uitgebracht
Black Forest Labs heeft FLUX 3 Max uitgebracht, een nieuw tekst-naar-video-model dat naar verluidt clips van 10 seconden genereert in ongeveer 12 seconden, wat aanzienlijke snelheidsverbeteringen biedt ten opzichte van eerdere versies. In de modellenruimte heeft het Chinese AI-lab MiniMax M3.1 Flash gelanceerd, een nieuw model dat sterke prestaties heeft laten zien bij codeer- en computertaken, terwijl het wordt gepositioneerd als een goedkope, efficiënte optie voor het uitvoeren van AI-agents.
Anthropic-medeoprichter over AI-singulariteit
Jack Clark, medeoprichter van Anthropic, verklaarde tijdens de jaarvergaderingen van het IMF en de Wereldbank dat de AI-singulariteit—het punt waarop AI-gedreven vooruitgang het menselijk vermogen om te volgen overtreft—officieel is begonnen. Clark wees op de snelle verbetering van AI op expertniveau-benchmarks, zoals Humanity's Last Exam en FrontierMath, als bewijs. Hij merkte ook op dat Anthropic-CEO Dario Amodei mogelijke grenzen aan het intelligentieplafond van AI heeft besproken, wat suggereert dat er slechts een klein tijdsvenster is om deze ontwikkelingen aan te pakken.