Sam Altmans KI-Sicherheitsszenarien, Ardas 1,5-Milliarden-Dollar-Debüt und SpaceX‘ KI-Umsatz
Diese Zusammenfassung behandelt Sam Altmans drei KI-Sicherheits-Endspiele, den 1,5-Milliarden-Dollar-Start von Bob McGrews Arda, SpaceX‘ bedeutende KI-Einnahmen und Anthropics vorgeschlagene KI-Sicherheitsgesetzgebung.
Podcast В· 4 min
Sam Altman skizziert drei KI-Sicherheits-Endspiele
OpenAI-CEO Sam Altman hat kürzlich drei mögliche Szenarien für die Zukunft der KI-Sicherheit mit Mitarbeitern geteilt. Dazu gehören die Einrichtung einer globalen Aufsichtsbehörde ähnlich der Internationalen Atomenergie-Organisation, ein „Demis-Plan“ (benannt nach DeepMinds Demis Hassabis), der die führenden Labore zu einer einzigen Einheit zusammenführt, oder ein „schreckliches“ Ergebnis, bei dem ein Labor vorprescht, um die Rechenleistung zu dominieren. Altman betonte, dass OpenAI seinen Weg innerhalb des nächsten Jahres wählen müsse, ein Prozess, den er als „Pacing 2.0“ bezeichnete und der definierte Geschwindigkeitsbegrenzungen für sich selbst verbessernde KI beinhalten müsse.
Ex-OpenAI-Forschungschef Bob McGrew startet Arda mit einer Bewertung von 1,5 Milliarden Dollar
Der ehemalige Chief Research Officer von OpenAI, Bob McGrew, ist mit Arda aus der Deckung gekommen, einem Startup, das sich auf die Automatisierung von Fabrikfließbandeinrichtungen konzentriert. Das Unternehmen startete mit einer Bewertung von 1,5 Milliarden Dollar nach einer Series-A-Finanzierungsrunde in Höhe von 160 Millionen Dollar. Arda möchte für Fertigungsingenieure das tun, was Codierungsassistenten für Programmierer tun: KI nutzen, um Builds aus Designdateien zu planen. Der Rüstungskonzern Anduril, Ardas erster Kunde, berichtete, dass die Montageanleitungen jetzt 15 Minuten dauern, verglichen mit den bisherigen 10 Stunden.
SpaceX meldet 7,5 Milliarden Dollar KI-bezogenen Umsatz
SpaceX hat bekannt gegeben, dass seine neue Abteilung „Super Intelligence“ im dritten Quartal einen Umsatz von 7,5 Milliarden Dollar erzielte, was etwa der Hälfte des Gesamtumsatzes des Unternehmens von 14,6 Milliarden Dollar entspricht. Diese Abteilung umfasst Grok, das KI-Codierungstool Cursor und ein „Neocloud“-Geschäft, das Rechenleistung für Rechenzentren bereitstellt. Das Unternehmen gab für dieses Quartal Investitionsausgaben in Höhe von 19,6 Milliarden Dollar an, die größtenteils auf Investitionen in Rechenzentren und Starship-Raketen zurückzuführen sind.
OpenAI übernimmt Orchestra Bio
OpenAI hat Orchestra Bio übernommen, ein Startup, das sich auf KI-Agenten spezialisiert hat, die Arzneimittelentwicklungsstudien verfolgen und überwachen. Die Technologie wird in OpenAIs Rosalind-Life-Science-Tools integriert, um Verzögerungen und Auswirkungen in komplexen Arzneimittelprogrammen zu erkennen.
Otter.ai sichert sich 320 Millionen Dollar Finanzierung
Otter.ai hat 320 Millionen Dollar vom Customer Value Fund von General Catalyst eingesammelt. Die Finanzierung ist an die Rendite der Marketingausgaben gekoppelt und nicht an traditionelle Aktienverkäufe, und unterstützt das weitere Wachstum seiner Meeting-Intelligence-Plattform.
Anthropic schlägt KI-Sicherheitsgesetz vor
Anthropic hat einen bundesstaatlichen KI-Sicherheitsgesetzentwurf verfasst, der das Handelsministerium ermächtigen würde, eine gerichtliche Sperrung von Modellveröffentlichungen zu beantragen, wenn diese ein unmittelbares Risiko von 50 oder mehr Todesfällen oder Schäden in Höhe von 1 Milliarde Dollar darstellen. Dieser Vorschlag spiegelt die laufenden Bemühungen des Unternehmens wider, regulatorische Rahmenbedingungen für KI-Modelle der Spitzenklasse zu schaffen.
Anthropics Claude entwirft Skorpion-Antivenin-Proteine
Anthropic veröffentlichte eine gemeinsam mit Citrini Research durchgeführte Studie, in der Claude Proteine entwarf, die an Skorpiongifttoxine binden und diese entschärfen. Von 318.484 von der KI generierten Kandidatenentwürfen wurden 211 im Labor getestet, wobei 17 erfolgreich an ihre Ziele banden. Obwohl das Projekt nicht zu einem universellen Gegengift führte, zeigt es das Potenzial von KI, die Arzneimittelforschung zu beschleunigen.
Sicherheitslücke in Metas Muse-App legte geteilte Chats offen
Die Sicherheitsfirma Claroc entdeckte, dass geteilte Chats aus Metas Muse-App über öffentliche Webaufzeichnungen ohne den ursprünglichen Link auffindbar waren. Das Problem lag in der URL-Struktur der App, die Chat-Titel enthielt, sodass passive DNS-Dienste sie indizieren konnten. Meta hat die Freigabefunktion Berichten zufolge ausgesetzt, während die Sicherheitslücke untersucht wird.
ChatGPT führt PIN-geschützte Chats ein
OpenAI hat eine neue Funktion für ChatGPT eingeführt, mit der Benutzer vertrauliche Gespräche hinter einer PIN oder Face ID sichern können. Diese gesperrten Chats behalten ein separates Gedächtnis von Standardinteraktionen und verbessern so die Privatsphäre für bestimmte Arbeitsabläufe.
DeepSeek veröffentlicht DeepInfer-Code
DeepSeek hat den Code für DeepInfer veröffentlicht, die Engine, die seine KI V4.1-Flash antreibt. Die Veröffentlichung beinhaltet Unterstützung für Huawei-Chips und ermöglicht es Unternehmen, das Modell ohne Abhängigkeit von Nvidia-Hardware einzusetzen.
Skyfall AI enthüllt SKY-001
Skyfall AI hat SKY-001 vorgestellt, ein Modell, das 3D-Designs für Teile und Gebäude entwerfen soll. Das Unternehmen behauptet, dass das System deutlich schneller und günstiger ist als bestehende Spitzenmodelle.
Zoom fügt Deepfake-Erkennung hinzu
Zoom hat eine neue Deepfake-Risiko-Erkennungsfunktion angekündigt, die für Dezember geplant ist. Das Tool analysiert Live-Video und -Audio auf Anzeichen von Veränderungen und bietet den Benutzern einen Vertrauensindikator.
Spotify entfernt über 50 Millionen 'Schrott'-Titel
Spotify hat in diesem Jahr über 50 Millionen Titel, die als 'Schrott' oder Spam identifiziert wurden, aus seinen Empfehlungen entfernt. Die Plattform schränkt auch KI-Persona-Künstler standardmäßig von seinen Empfehlungsalgorithmen ein, um menschliche Kunstschaffenschaft zu bevorzugen.
Radical Numerics meldet FDA-Zulassung für KI-designtes Virus
Radical Numerics beansprucht einen bedeutenden Meilenstein in der KI-designten Medizin und gibt an, dass die FDA ein von seiner Omnii-1 KI designtes Virus für einen Patienten mit einer behandlungsresistenten Infektion zugelassen hat.
Thore Graepel bringt Metis Reasoning auf den Markt
Der ehemalige DeepMind-Forscher Thore Graepel hat Metis Reasoning gestartet, ein KI-Startup, das AlphaGo-artige Techniken auf Chatbots anwendet, um ihnen zu ermöglichen, ihre Ausgaben anhand von Beweisen zu verifizieren.