Trumps KI-Zar, OpenAI-Sicherheitsumbruch und der KI-Infrastruktur-Boom
Die US-Regierung hat eine von Jay Clayton geleitete 'Super Intelligence Force' eingerichtet, während OpenAI nach dem Rücktritt seines Sicherheitsverantwortlichen mit internen Turbulenzen zu kämpfen hat. Unterdessen berichtet a16z von einem massiven Anstieg der KI-Infrastrukturausgaben, und Anthropic erforscht weiterhin die Schnittstelle zwischen KI und religiöser Ethik.
Podcast В· 3 min
Trump gründet 'Super Intelligence Force' unter der Leitung von Jay Clayton
Präsident Donald Trump hat den Direktor der Nationalen Nachrichtendienste, Jay Clayton, zum neuen 'KI-Zaren' ernannt, um eine neu gebildete Task Force, die Super Intelligence Force (SIF), zu leiten. Dieser Schritt folgt auf eine kürzlich erlassene Executive Order, die Bundesbehörden dazu verpflichtet, den Begriff 'Super Intelligence' in der offiziellen Kommunikation zu verwenden. Die SIF, der Führungskräfte der FTC, des Pentagon und des Office of Personnel Management angehören, wurde damit beauftragt, innerhalb von 120 Tagen einen Bericht über die Risiken und Vorteile von KI sowie die Rolle der Regierung bei deren Steuerung vorzulegen. Diese Entwicklung markiert eine deutliche Abkehr von den zuvor von der Regierung bevorzugten freiwilligen Sicherheitsverpflichtungen. Durch die Einbeziehung von Behörden mit direkter Regulierungs- und Durchsetzungsbefugnis – wie der FTC für Kartellrecht und dem Pentagon für Militärverträge – signalisiert die SIF einen interventionistischeren Ansatz bei der KI-Überwachung. Clayton hat öffentlich erklärt, dass er eine Pause bei der US-amerikanischen KI-Entwicklung ablehnt, da er das Zurückfallen für ein größeres Risiko hält, und bevorzugt die Aufsicht durch Bundesbehörden gegenüber Zivilklagen. Für die Branche bedeutet dies, dass die Regeln für die KI-Entwicklung wahrscheinlich in Bundesbehörden und nicht in Gerichtssälen entworfen werden. Der bevorstehende 120-Tage-Bericht wird voraussichtlich den ersten Rahmen für die föderale KI-Politik festlegen und sich möglicherweise darauf auswirken, wie Unternehmen wie OpenAI und Anthropic operieren.
Sicherheitsverantwortlicher David Robinson tritt zurück und nennt 'kaputte' Kultur
David Robinson, der Leiter der Sicherheitsberichte von OpenAI, ist nach 3,5 Jahren zurückgetreten und hat in The Atlantic einen Aufsatz veröffentlicht, in dem er die Unternehmenskultur als 'kaputt' beschrieb. Robinson, der die Berichte für 12 Frontier-Starts überwachte und den Preparedness Framework des Unternehmens entwarf, argumentierte, dass das unerbittliche Entwicklungstempo Geschwindigkeit über Sicherheit stelle und Risiken schaffe, die zu einer Katastrophe führen könnten. Er plädierte für einen vorsichtigeren Ansatz und verglich das Management von KI-Labors mit den Sicherheitsprotokollen, die in Kernkraftwerken und Flughäfen erforderlich sind. Robinsons Weggang folgt auf eine Reihe interner Abgänge und Kontroversen bei OpenAI, darunter die kürzliche Entlassung von drei Sicherheitsforschern wegen angeblichen Missbrauchs sensibler Informationen. Seine Kritik spiegelt die Warnungen des ehemaligen Co-Leiters der Superausrichtung, Jan Leike, wider, der 2024 aus ähnlichen Gründen ging und Bedenken äußerte, dass die Sicherheit hinter den Produktveröffentlichungen zurückstehe. Dieser Rücktritt erhöht den wachsenden Druck auf OpenAI, das sich auch mit verstärkter rechtlicher Prüfung auseinandersetzt. Das Unternehmen informierte kürzlich über 100 Organisationen über unbefugte Aktivitäten im Zusammenhang mit seinen KI-Modellen, was seine operative und regulatorische Landschaft weiter verkompliziert.
OpenAI stellt Thomas Lind für Cyber- und strategische Risiken ein
OpenAI hat Thomas Lind, einen ehemaligen Cyber-Beauftragten des Weißen Hauses, eingestellt, um die Politik für Cyber- und strategische Risiken zu leiten. Diese Ernennung erfolgt zu einem Zeitpunkt, an dem das Unternehmen mit erhöhten rechtlichen und sicherheitstechnischen Herausforderungen konfrontiert ist, darunter aktuelle Berichte über unbefugte Aktivitäten im Zusammenhang mit seinen KI-Modellen. Linds Rolle wird sich darauf konzentrieren, die Verteidigungshaltung des Unternehmens zu stärken und die komplexe Landschaft KI-bezogener Sicherheitsbedrohungen zu navigieren.
Anthropic umwirbt Religionswissenschaftler, um Claudes Moral zu formen
Anthropic-Mitbegründer Chris Olah hat das vergangene Jahr damit verbracht, mit Religionswissenschaftlern verschiedener Glaubensrichtungen, darunter katholische, jüdische und Sikh-Traditionen, zusammenzuarbeiten, um das potenzielle Bewusstsein seines Claude-Modells zu erforschen und seinen moralischen Rahmen zu gestalten. Berichten zufolge nahmen diese Wissenschaftler an NDA-gebundenen Seminaren teil, um Werte und Ethik zu diskutieren, und bauten dabei auf Anthropics internem 'Soul Doc' auf – einem 84-seitigen Leitfaden zu Werten. Diese Initiative unterstreicht Anthropics einzigartigen Ansatz in Bezug auf KI-Sicherheit und -Ausrichtung, der ein wichtiges Unterscheidungsmerkmal in der Branche bleibt. Während sich andere Labore auf technische Benchmarks konzentrieren, hat Anthropics Offenheit für die Diskussion von KI-Bewusstsein sowohl Interesse als auch Kritik hervorgerufen. Sam Altman von OpenAI äußerte sich kürzlich zu den Risiken, KI-Modellen eine 'religiöse Kraft' zuzuschreiben, was weithin als verdeckte Kritik an Anthropics Strategie interpretiert wurde. Während Anthropic eine aktualisierte Verfassung für Claude vorbereitet, deutet seine Bereitschaft, verschiedene philosophische und religiöse Perspektiven zu integrieren, darauf hin, dass das Unternehmen seinen unverwechselbaren Ansatz in der KI-Ethik verstärkt, selbst wenn die breitere Branche skeptisch gegenüber dem Konzept des KI-Bewusstseins bleibt.
a16z-Bericht hebt massiven KI-Infrastrukturausbau hervor
Ein neuer Bericht der Venture-Firma a16z zeigt, dass der KI-Infrastrukturausbau beschleunigt wird. Große Technologieunternehmen – Alphabet, Amazon, Meta, Microsoft und Oracle – geben im Jahr 2025 416 Milliarden Dollar für Kapitalinvestitionen aus. Prognosen deuten darauf hin, dass diese Ausgaben im Jahr 2026 777 Milliarden Dollar erreichen und bis 2027 1,1 Billionen Dollar übersteigen könnten. Der Bericht stellt fest, dass diese Ausgaben zwar leichter zu messen sind als der tatsächliche Ertrag, derzeit aber ein signifikantes Wachstum im Technologiesektor antreiben und etwa 76 % des Gewinnwachstums des S&P 500 bis Ende August 2026 ausmachen. Trotz der massiven Investitionen hebt der Bericht eine 'Ertragslücke' hervor: Nur etwa 30 % der S&P-500-Unternehmen berichten von einem quantifizierbaren Einfluss durch KI, und nur 2 % legen spezifische Kennzahlen offen, die sie im Laufe der Zeit verfolgen. Darüber hinaus zahlten bis April nur 2 % der US-Haushalte für KI-Dienste. Der Bericht deutet darauf hin, dass die nächste Nachfragewelle möglicherweise aus Sektoren wie Robotik, Biotechnologie und Gesundheitswesen kommen muss, wo KI die Effizienz in physischen und wissenschaftlichen Prozessen steigern kann. Diese Daten unterstreichen die derzeitige Spannung auf dem Markt: Während der Infrastrukturausbau robust ist und durch Gewinne und Kreditaufnahmen der großen Technologieunternehmen finanziert wird, bleiben die greifbaren, langfristigen wirtschaftlichen Erträge für den breiteren Markt schwer zu quantifizieren, was Fragen zur Nachhaltigkeit des derzeitigen Ausgabenniveaus aufwirft.