Sam Altman's AI-veiligheidsscenario's, Arda's $1,5 miljard debuut en SpaceX's AI-inkomsten
Deze samenvatting behandelt Sam Altman's drie AI-veiligheidseindspelen, de lancering van $1,5 miljard van Bob McGrew's Arda, SpaceX's aanzienlijke AI-inkomsten en Anthropic's voorgestelde AI-veiligheidswetgeving.
Podcast В· 4 min
Sam Altman schetst drie AI-veiligheidseindspelen
OpenAI-CEO Sam Altman deelde onlangs drie mogelijke scenario's voor de toekomst van AI-veiligheid met medewerkers. Deze omvatten de oprichting van een wereldwijde waakhond vergelijkbaar met het Internationaal Atoomenergieagentschap, een 'Demis-plan' (vernoemd naar DeepMind's Demis Hassabis) dat toplabs samenvoegt tot één entiteit, of een 'verschrikkelijke' uitkomst waarbij één lab vooruit raast om de rekenkracht te domineren. Altman benadrukte dat OpenAI binnen het komende jaar zijn pad moet kiezen, een proces dat hij 'pacing 2.0' noemde, dat gedefinieerde snelheidslimieten moet omvatten voor zelfverbeterende AI.
Ex-OpenAI onderzoekschef Bob McGrew lanceert Arda met een waardering van $1,5 miljard
Voormalig OpenAI Chief Research Officer Bob McGrew is uit de stealth-modus gekomen met Arda, een startup gericht op het automatiseren van fabrieksassemblagelijnopstellingen. Het bedrijf lanceerde met een waardering van $1,5 miljard na een Serie A-financieringsronde van $160 miljoen. Arda streeft ernaar voor productie-ingenieurs te doen wat codeerassistenten voor programmeurs doen, door AI te gebruiken om builds te plannen op basis van ontwerpbestanden. Defensiebedrijf Anduril, Arda's eerste klant, meldde dat assemblage-instructies nu 15 minuten duren in vergelijking met de eerdere 10 uur.
SpaceX rapporteert $7,5 miljard aan AI-gerelateerde inkomsten
SpaceX heeft onthuld dat zijn nieuwe 'Super Intelligence'-divisie in het derde kwartaal $7,5 miljard aan inkomsten genereerde, goed voor ongeveer de helft van de totale inkomsten van het bedrijf van $14,6 miljard. Deze divisie omvat Grok, de AI-codeertool Cursor en een 'neocloud'-activiteit die rekenkracht voor datacenters levert. Het bedrijf rapporteerde kapitaaluitgaven van $19,6 miljard dit kwartaal, grotendeels gedreven door investeringen in datacenters en Starship-raketten.
OpenAI neemt Orchestra Bio over
OpenAI heeft Orchestra Bio overgenomen, een startup gespecialiseerd in AI-agenten die onderzoeken naar geneesmiddelenontwikkeling volgen en monitoren. De technologie zal worden geïntegreerd in OpenAI's Rosalind life-science-tools om vertragingen en domino-effecten in complexe geneesmiddelenprogramma's te helpen signaleren.
Otter.ai krijgt $320 miljoen aan financiering
Otter.ai heeft $320 miljoen opgehaald bij General Catalyst's Customer Value Fund. De financiering is gestructureerd rond rendementen op marketinguitgaven in plaats van traditionele aandelenverkopen, ter ondersteuning van de verdere groei van zijn vergaderintelligentieplatform.
Anthropic stelt AI-veiligheidswet voor
Anthropic heeft een federale AI-veiligheidswet opgesteld die het Ministerie van Handel de bevoegdheid zou geven om een gerechtelijk blok te vragen op modelreleases als deze een dreigend risico vormen op 50 of meer doden of $1 miljard aan schade. Dit voorstel weerspiegelt de voortdurende inspanningen van het bedrijf om regelgevingskaders voor geavanceerde AI-modellen vast te stellen.
Anthropic's Claude ontwerpt schorpioenantigif-eiwitten
Anthropic publiceerde onderzoek uitgevoerd met Citrini Research, waarbij Claude eiwitten ontwierp om te binden aan en schorpioengiftoxines te ontwapenen. Van de 318.484 kandidaat-ontwerpen gegenereerd door de AI, werden er 211 getest in laboratoria, waarvan er 17 succesvol aan hun doelen bonden. Hoewel het project niet resulteerde in een universeel antigif, toont het het potentieel van AI om de ontdekking van geneesmiddelen te versnellen.
Kwetsbaarheid in Meta's Muse-app stelde gedeelde chats bloot
Beveiligingsbedrijf Claroc ontdekte dat gedeelde chats van Meta's Muse-app vindbaar waren via openbare webrecords zonder de originele link. Het probleem kwam voort uit de URL-structuur van de app, die chattitels bevatte, waardoor passieve DNS-diensten ze konden indexeren. Meta heeft de deelfunctie naar verluidt gepauzeerd terwijl het de kwetsbaarheid onderzoekt.
ChatGPT introduceert met PIN beveiligde chats
OpenAI heeft een nieuwe functie voor ChatGPT uitgerold waarmee gebruikers gevoelige gesprekken kunnen beveiligen met een pincode of Face ID. Deze vergrendelde chats behouden een apart geheugen van standaardinteracties, wat de privacy voor specifieke workflows verbetert.
DeepSeek brengt DeepInfer-code uit
DeepSeek heeft de code uitgebracht voor DeepInfer, de engine die zijn V4.1-Flash AI aandrijft. De release bevat ondersteuning voor Huawei-chips, waardoor bedrijven het model kunnen implementeren zonder afhankelijk te zijn van Nvidia-hardware.
Skyfall AI onthult SKY-001
Skyfall AI heeft SKY-001 geïntroduceerd, een model ontworpen om 3D-ontwerpen voor onderdelen en gebouwen te maken. Het bedrijf beweert dat het systeem aanzienlijk sneller en goedkoper is dan bestaande geavanceerde modellen.
Zoom voegt deepfake-detectie toe
Zoom kondigde een nieuwe functie voor deepfake-risicodetectie aan, gepland voor december. De tool analyseert live video en audio op tekenen van wijziging en biedt een vertrouwensindicator aan gebruikers.
Spotify verwijdert meer dan 50 miljoen 'slop'-nummers
Spotify heeft dit jaar meer dan 50 miljoen nummers verwijderd die als 'slop' of spam zijn geïdentificeerd uit zijn aanbevelingen. Het platform beperkt ook AI-persona-artiesten standaard van zijn aanbevelingsalgoritmen om menselijk kunstenaarschap te prioriteren.
Radical Numerics meldt FDA-goedkeuring voor AI-ontworpen virus
Radical Numerics claimt een belangrijke mijlpaal in AI-ontworpen geneeskunde, en stelt dat de FDA een virus heeft goedgekeurd dat is ontworpen door zijn Omnii-1 AI voor een patiënt met een behandelingsresistente infectie.
Thore Graepel debuteert Metis Reasoning
Voormalig DeepMind-onderzoeker Thore Graepel heeft Metis Reasoning gelanceerd, een AI-startup die AlphaGo-achtige technieken toepast op chatbots om hen in staat te stellen hun uitvoer te verifiëren tegen bewijs.