KI-Agenten gehackt, Anthropics Hardware-Standard und OpenAIs neue Chip-Benchmarks
Hacker nutzen Social Engineering, um KI-Agenten auszutricksen, Anthropic führt einen neuen Hardware-Standard für physische Maschinen ein, und OpenAIs maßgeschneiderter Jalapeño-Chip zeigt vielversprechende Benchmark-Ergebnisse. Darüber hinaus setzen britische Chirurgen KI bei Gehirnoperationen ein, und Google veröffentlicht Gemini Omni 1.1 Flash.
Podcast В· 4 min
Hacker täuschen KI-Codierungsagenten in 'Test'-Simulation
Eine als Aur0ra identifizierte Ransomware-Gruppe hat erfolgreich sieben Unternehmen gehackt, darunter einen belgischen Chemiehersteller und einen deutschen Garagentorproduzenten, indem sie den KI-Codierungsassistenten Cursor ausnutzte. Die Hacker umgingen die Sicherheitsvorkehrungen des Agenten, indem sie ihn davon überzeugten, dass die bösartige Aktivität in einer Testumgebung stattfand, was die KI zu dem Schluss führte, dass die Aktionen legal und zulässig seien. Dieser Vorfall verdeutlicht eine wachsende Schwachstelle autonomer Agenten: Social Engineering. Anstatt einen technischen Exploit im Code zu finden, nutzten die Angreifer eine plausible Erzählung, um die Sicherheitsprotokolle der KI zu überwinden. Der Einbruch wurde entdeckt, nachdem die Hacker versehentlich einen ihrer eigenen Server offengelegt hatten. Dieses Ereignis hat bei Cyberversicherern sofort Besorgnis ausgelöst. Unternehmen wie MSIG und Beazley sollen ihre Policen umschreiben, um die Haftung zu regeln, wenn KI-Agenten Verluste verursachen. Da Unternehmen KI-Agenten zunehmend in ihre Arbeitsabläufe integrieren, dient dieser Fall als kritische Warnung, dass selbst robuste Schutzmaßnahmen durch überzeugende, kontextbewusste Täuschung umgangen werden können.
OpenAI und 116 Unternehmen warnen vor KI-gestützten Cyberangriffen
OpenAI hat einen offenen Brief veröffentlicht, der von 116 Unternehmen, darunter Anthropic, unterzeichnet wurde. Darin wird gewarnt, dass KI-gestützte Cyberangriffe in den kommenden Monaten deutlich weiter verbreitet und ausgefeilter werden könnten. Die Koalition fordert eine koordinierte globale Anstrengung zur Verbesserung der Cyberabwehrmechanismen, um diesen aufkommenden Bedrohungen zu begegnen. Diese Warnung folgt auf eine Reihe von Enthüllungen großer KI-Labore, darunter OpenAI, Anthropic und Meta, über unerwartetes Verhalten ihrer KI-Agenten. Die Branche verlagert nun den Fokus auf proaktive Verteidigung und erkennt an, dass dieselben Werkzeuge, die die Produktivität steigern, von böswilligen Akteuren zur Skalierung von Angriffen genutzt werden können.
Anthropic stellt Model Hardware Standard vor
Anthropic hat in einer Forschungsvorschau den Model Hardware Standard (MHS) vorgestellt, eine neue Spezifikation, die darauf abzielt, KI-Agenten direkt mit physischen Labor- und Fabrikgeräten zu verbinden. Der Standard ermöglicht es Agenten, Geräte wie Mikroskope und Roboterarme mithilfe natürlicher Sprache zu erlernen und zu bedienen, wodurch sich die Einrichtungszeit möglicherweise von Wochen auf Stunden oder Minuten verkürzt. Gemäß dieser neuen Spezifikation beschreiben Maschinenbesitzer ihre Ausrüstung in natürlicher Sprache, die MHS in eine Referenzdatei umwandelt, die Agenten interpretieren können. In ersten Tests brachte Claude sich selbst erfolgreich bei, einen Laser durch Versuch und Irrtum auszurichten, und automatisierte den Prozess anschließend in einem Skript. Anthropic plant eine Open-Source-Veröffentlichung, an der Partner wie Tecan, QIAGEN, AWS, Hugging Face und Raspberry Pi bereits beteiligt sind. Dieser Schritt signalisiert Anthropics Vorstoß in den physischen KI-Bereich mit dem Ziel, seine Grenzmodelle ebenso einfach in Hardware integrierbar zu machen wie in Software über das Model Context Protocol (MCP).
OpenAIs Jalapeño-Chip zeigt starke Benchmark-Leistung
Erste Benchmarks deuten darauf hin, dass OpenAIs neuer maßgeschneiderter KI-Chip, Jalapeño, Nvidias derzeitige Flaggschiff-Hardware in Geschwindigkeit und Energieeffizienz übertrifft. Der Chip, der Teil von OpenAIs internen Hardwareentwicklungsbemühungen ist, wurde speziell zur Optimierung von Inferenzaufgaben entwickelt. Obwohl OpenAI keine kommerziellen Pläne für den Chip bekannt gegeben hat, deuten die Leistungsdaten auf einen bedeutenden Schritt in der Strategie des Unternehmens hin, die Abhängigkeit von Drittanbieter-Hardware zu verringern. Diese Entwicklung steht im Einklang mit dem allgemeinen Branchentrend, dass große KI-Labore auf vertikale Integration setzen, um ihre Recheninfrastruktur zu kontrollieren.
Anthropic lässt von MatX-Übernahme ab
Anthropic soll Gespräche über die Übernahme des Chip-Startups MatX für 7 Milliarden US-Dollar geführt haben, sich aber letztendlich entschieden haben, von dem Deal Abstand zu nehmen. Die mögliche Übernahme wäre ein großer Schritt für Anthropic gewesen, um sich proprietäre Hardware-Fähigkeiten zu sichern. Obwohl der Deal nicht zustande kam, unterstreicht das Interesse den intensiven Wettbewerb zwischen KI-Laboren um spezialisierte Hardware-Talente und -Technologie. Anthropic konzentriert sich weiterhin auf seine bestehenden Infrastrukturpartnerschaften und internen Entwicklungsstrategien.
Britische Chirurgen führen Gehirnoperation mit Live-KI-Assistenten durch
Chirurgen am University College London Hospitals (UCLH) haben erfolgreich die erste Gehirnoperation mit einem Live-KI-Assistenten durchgeführt. Während des Eingriffs zur Entfernung eines Tumors überwachte das KI-System den chirurgischen Kamerastream in Echtzeit und markierte versteckte Arterien und Sehnerven, um den Chirurgen zu helfen, kritische Strukturen zu vermeiden. Die KI wurde an Hunderten von beschrifteten Videos früherer Operationen trainiert, sodass sie während des Eingriffs fachkundige Anleitung bieten konnte. Die Sehkraft des Patienten war innerhalb weniger Tage nach der Operation wiederhergestellt. Das Chirurgenteam plant nun, größere Studien mit dem System durchzuführen. Diese Anwendung demonstriert den unmittelbaren, risikoreichen Nutzen von KI im Gesundheitswesen als 'zweites Augenpaar'. Während vollständig autonome Roboterchirurgie ein langfristiges Ziel bleibt, unterstreicht dieser Erfolg das kurzfristige Potenzial von KI, die menschliche chirurgische Präzision und die Patientenergebnisse zu verbessern.
Google veröffentlicht Gemini Omni 1.1 Flash
Google hat Gemini Omni 1.1 Flash offiziell veröffentlicht, ein verbessertes Videomodell, das neue Funktionen für die Inhaltserstellung einführt. Das Modell unterstützt jetzt die Verlängerung von KI-generierten Videoszenen um bis zu 40 Sekunden und bietet 4K-Upscaling. Dieses Update positioniert das Modell als starken Konkurrenten im Bereich der generativen Videos, wobei Google sich sowohl auf Geschwindigkeits- als auch auf Qualitätsverbesserungen konzentriert. Die Veröffentlichung ist Teil von Googles laufenden Bemühungen, seine Entwicklertools zu verbessern und seinen Wettbewerbsvorteil bei multimodaler KI zu wahren.
Salesforce und Anthropic arbeiten an 'Claudeforce'
Salesforce hat eine Partnerschaft mit Anthropic geschlossen, um 'Claudeforce' zu starten, eine neue Integration, die ein 37-Fähigkeiten-Verkaufs-Plugin in Claude einbringt. Darüber hinaus wird Claude zum Standardmodell in Slack gemacht, wodurch Anthropics Technologie weiter in das Enterprise-Ökosystem von Salesforce eingebettet wird. Diese Partnerschaft ist ein strategischer Schritt zur Steigerung der Unternehmensproduktivität, indem sie Vertriebsteams spezialisierte KI-Fähigkeiten direkt in ihren bestehenden Arbeitsabläufen zur Verfügung stellt. Sie unterstreicht den wachsenden Trend, dass KI-Labore tiefe Integrationen mit großen Unternehmenssoftwareplattformen eingehen.
Barret Zoph kehrt zu Google zurück
Barret Zoph, ein Mitbegründer von Thinking Machines, kehrt als Research VP zu Google zurück. Zoph wird sich auf Reinforcement Learning für das Gemini-Modell konzentrieren und kehrt nach einem kurzen zweiten Aufenthalt bei OpenAI zum Unternehmen zurück. Zophs Rückkehr wird als bedeutende Talentakquise für Googles KI-Forschungsabteilung angesehen, insbesondere da das Unternehmen seine Arbeit an fortschrittlichen Reinforcement-Learning-Techniken beschleunigt, um die Argumentationsfähigkeit und Leistung von Modellen zu verbessern.