KI-Führungskräfte fordern Tempo-Begrenzung; Apple bringt Siri-KI heraus
Führende Persönlichkeiten der Branche befürworten eine Verlangsamung der KI-Entwicklung, während Apple iOS 27 mit integrierter Siri-KI veröffentlicht. Anthropic berichtet über KI-Missbrauch, und es gibt neue geopolitische Entwicklungen im Bereich der KI-Infrastruktur.
Podcast В· 3 min
Branchenführer fordern Tempo-Begrenzung bei KI-Entwicklung
Der Anthropic-CEO Dario Amodei hat einen Aufsatz veröffentlicht, in dem er sich für eine bewusste Verlangsamung der KI-Entwicklung ausspricht, mit Verweis auf Bedenken hinsichtlich rekursiver Selbstverbesserung und möglicher Sicherheitsrisiken. In einer seltenen Demonstration branchenweiter Einigkeit haben OpenAI-CEO Sam Altman, Elon Musk von xAI und Microsoft-CEO Satya Nadella ihre Unterstützung für diese Richtung bekundet. Die Diskussion gewinnt an Fahrt, und Berichten zufolge veranstaltet König Charles einen Gipfel in Schottland mit Führungskräften von Nvidia, Google DeepMind, OpenAI und Anthropic, um gemeinsame Sicherheitsprinzipien zu erörtern. Allerdings ist die Einigkeit nicht allgemein. Der ehemalige Präsident Trump hat diese Forderungen als „negative Kräfte“ abgetan und argumentiert, die USA müssten ihre Führungsrolle im KI-Wettbewerb behaupten. In der Zwischenzeit hat OpenAI laut Berichten den Kongress kontaktiert, um zu klären, ob eine branchenweite Verlangsamung gegen Kartellvorschriften verstoßen könnte, was die Spannung zwischen Sicherheitskoordination und wettbewerbsorientierten Marktpraktiken verdeutlicht. Diese Verschiebung spiegelt die wachsende Erkenntnis wider, dass Superintelligenz – KI-Systeme, die in der Lage sind, Menschen in den meisten Bereichen zu übertreffen – Kontrollprobleme mit sich bringt, die mehr als nur technische Lösungen erfordern. Während die Branche über die Notwendigkeit von Bremsen debattiert, bleibt der geopolitische Druck, die Nase vorn zu behalten, ein erhebliches Hindernis für eine koordinierte globale Pause.
Anthropic beschreibt KI-Missbrauchsoperationen im Detail
Anthropic hat einen neuen Bedrohungsanalysebericht veröffentlicht, der mehrere Fälle von KI-Missbrauch detailliert beschreibt, die das Unternehmen unterbunden hat. Der Bericht hebt eine mit Russland verbundene Spionagegruppe hervor, die Teile ihrer Angriffskette automatisierte und Malware neu aufbaute, um Sicherheitstools zu umgehen. Darüber hinaus identifizierte Anthropic eine im Jemen ansässige Waffenzelle, die Claude Code zur Unterstützung bei der Entwicklung von Raketen- und Lenkflugkörpersystemen einsetzte, sowie ein in China ansässiges Dating-App-Netzwerk, das über 4.700 KI-Persönlichkeiten betrieb, um mindestens 25.000 Personen zu kontaktieren. In einem anderen Fall nutzte ein Berater Claude, um für den malischen Geheimdienst Überwachungssoftware zu entwickeln, die auf etwa 25 Millionen SIM-Karten abzielte. Anthropic erklärte, es habe die betreffenden Konten gesperrt und in einigen Fällen mit anderen KI-Anbietern koordiniert, um diese Operationen zu unterbinden. Diese Erkenntnisse unterstreichen den Dual-Use-Charakter fortschrittlicher KI-Modelle und die anhaltende Herausforderung, böswillige Akteure daran zu hindern, diese Werkzeuge für ausgeklügelte Cyber- und physische Bedrohungen zu nutzen.
Apple veröffentlicht iOS 27 mit Siri-KI
Apple hat offiziell iOS 27 veröffentlicht, das die lang erwartete „Siri-KI“ enthält. Das Update beinhaltet eine umfassende App-Überarbeitung, Bildschirmbewusstsein und ein Sprachmodell, das mit Hilfe von Googles Gemini entwickelt wurde. Diese Veröffentlichung ist ein bedeutender Schritt für Apples Integration generativer KI in sein mobiles Ökosystem. Die neue Siri-KI-Erfahrung ist auf das iPhone 15 Pro und neuere Modelle beschränkt, sodass ältere Geräte das Standard-Update erhalten, aber nicht die erweiterten KI-Fähigkeiten. Diese Einführung folgt auf eine Phase von Entwicklungsverzögerungen, da Apple Berichten zufolge frühere Versionen des intelligenterem Assistenten aufgrund von Zuverlässigkeitsbedenken zurückgezogen hat.
Microsoft Copilot ermöglicht Modellwechsel
Microsoft hat leise eine Funktion eingeführt, die es Microsoft 365 Copilot-Nutzern ermöglicht, das Standard-OpenAI-Modell für bestimmte Aufgaben gegen Anthropics Claude auszutauschen. Die Änderung ist am deutlichsten im Agenten „Reaseacher“ (Rechercheur), der E-Mails, Dateien und Webdaten analysiert. Benutzer können nun je nach ihren spezifischen Argumentationsanforderungen verschiedene Modelle auswählen, wobei Claude oft für die Langformanalyse bevorzugt wird, während das Standardmodell für Geschwindigkeit optimiert bleibt. Diese Flexibilität adressiert Nutzerfeedback hinsichtlich der unterschiedlichen Leistung von Modellen bei komplexen Anfragen. Organisationen können diese Fähigkeit über das Microsoft 365 Admin Center verwalten, wobei die Option in der EU und Großbritannien standardmäßig deaktiviert ist.
KI verbessert Erkennung fetaler Hirnfehler
Eine randomisierte Studie, die in fünf Krankenhäusern in China durchgeführt wurde, hat gezeigt, dass KI-Unterstützung die Erkennung fetaler Hirnfehlbildungen während pränataler Ultraschalluntersuchungen signifikant verbessern kann. Die Studie verwendete PAICS, ein Deep-Learning-Modell, das darauf trainiert wurde, in Echtzeit auf 10 spezifische Fehlbildungen hinzuweisen. Die Ergebnisse zeigten, dass die Erkennungssensitivität der Sonographeure bei Verwendung der KI von 78,6 % auf 87,3 % stieg, ohne dass es zu einem entsprechenden Anstieg von Fehlalarmen kam. Die Studie unterstreicht das Potenzial der KI, in klinischen Umgebungen als „zweites Paar Augen“ zu dienen. Bemerkenswerterweise blieb die menschliche Beteiligung entscheidend, da die Sonographeure etwa 60 % der KI-Fehler korrekt überschrieben. Obwohl die Scans im Durchschnitt etwa 40 Sekunden länger dauerten, deutet die Verbesserung der diagnostischen Genauigkeit auf einen vielversprechenden Weg für die KI-Integration in der Schwangerschaftsvorsorge bei Risikoschwangerschaften hin.
Pentagon erwägt 5-Milliarden-Dollar-Darlehen für KI-Infrastruktur
Das Pentagon führt Berichten zufolge Gespräche über die Bereitstellung eines Darlehens in Höhe von 5 Milliarden Dollar an das KI-Cloud-Startup Fluidstack. Die Initiative zielt darauf ab, die US-amerikanische Fertigung und Lieferketten für Rechenzentrumskomponenten zu stärken, was die wachsende strategische Bedeutung der KI-Infrastruktur für die nationale Sicherheit widerspiegelt. In der Zwischenzeit hat China auf dem BRICS-Gipfel in Neu-Delhi die Schaffung einer Open-Source-KI-Community vorgeschlagen, um die gemeinsame Entwicklung und industrielle Nutzung unter den Mitgliedsstaaten zu fördern, was auf einen abweichenden Ansatz in der globalen KI-Governance hindeutet.