Trumps AI-tsaar, veiligheidsschok bij OpenAI en de AI-infrastructuurbouw
De Amerikaanse regering heeft een 'Super Intelligence Force' opgericht onder leiding van Jay Clayton, terwijl OpenAI te maken heeft met interne onrust na het aftreden van zijn veiligheidschef. Ondertussen meldt a16z een enorme toename in AI-infrastructuuruitgaven, en blijft Anthropic de kruising tussen AI en religieuze ethiek verkennen.
Podcast В· 3 min
Trump richt 'Super Intelligence Force' op onder leiding van Jay Clayton
President Donald Trump heeft directeur van de Nationale Inlichtingendienst Jay Clayton benoemd tot de nieuwe 'AI-tsaar' om leiding te geven aan een nieuw gevormde taskforce, de Super Intelligence Force (SIF). Deze stap volgt op een recente uitvoeringsorder die federale agentschappen verplicht de term 'Super Intelligence' te gebruiken in officiële communicatie. De SIF, die leiderschap omvat van de FTC, het Pentagon en het Bureau voor Personeelszaken, heeft de taak om binnen 120 dagen een rapport op te leveren over de risico's en voordelen van AI en de rol van de overheid in het bestuur ervan. Deze ontwikkeling markeert een significante verschuiving ten opzichte van de vrijwillige veiligheidstoezeggingen die de regering eerder prefereerde. Door agentschappen met directe regelgevende en handhavende bevoegdheden te betrekken—zoals de FTC voor antitrust en het Pentagon voor militaire contracten—signaleert de SIF een meer interventionistische benadering van AI-toezicht. Clayton heeft publiekelijk verklaard dat hij tegen een pauze in de Amerikaanse AI-ontwikkeling is, met het argument dat achterop raken een groter risico is, en hij prefereert toezicht door federale agentschappen boven civiele rechtszaken. Voor de industrie betekent dit dat de regels die AI-ontwikkeling beheersen waarschijnlijk binnen federale kantoren worden opgesteld in plaats van in rechtszalen. Het komende 120-dagen rapport zal naar verwachting het eerste kader voor federaal AI-beleid vaststellen, wat mogelijk invloed heeft op hoe bedrijven zoals OpenAI en Anthropic opereren.
Veiligheidschef David Robinson treedt af, wijst op 'kapotte' cultuur
David Robinson, de leider van OpenAI's veiligheidsrapporten, is afgetreden na een dienstverband van 3,5 jaar en publiceerde een essay in The Atlantic waarin hij de bedrijfscultuur als 'kapot' beschreef. Robinson, die toezicht hield op rapporten voor 12 grensverleggende lanceringen en het Preparedness Framework van het bedrijf opstelde, betoogde dat het meedogenloze tempo van ontwikkeling snelheid boven veiligheid stelt, wat risico's creëert die tot een ramp kunnen leiden. Hij pleitte voor een voorzichtiger aanpak en vergeleek het beheer van AI-labs met de veiligheidsprotocollen die vereist zijn in kerncentrales en luchthavens. Robinsons vertrek volgt op een reeks interne vertrekken en controverses bij OpenAI, waaronder het recente ontslag van drie veiligheidsonderzoekers wegens vermeend verkeerd omgaan met gevoelige informatie. Zijn kritiek weerspiegelt waarschuwingen van voormalig superalignment mede-leider Jan Leike, die in 2024 vertrok met soortgelijke zorgen over veiligheid die een achterstand nam op productlanceringen. Dit aftreden voegt extra druk toe op OpenAI, dat ook te maken heeft met toenemend juridisch toezicht. Het bedrijf waarschuwde onlangs meer dan 100 organisaties voor ongeautoriseerde activiteiten die verband houden met zijn AI-modellen, wat zijn operationele en regelgevende landschap verder compliceert.
OpenAI huurt Thomas Lind in voor cyber- en strategisch risico
OpenAI heeft Thomas Lind, een voormalig cyberfunctionaris van het Witte Huis, ingehuurd om het cyber- en strategisch risicobeleid te leiden. Deze benoeming komt terwijl het bedrijf te maken heeft met toegenomen juridische en beveiligingsuitdagingen, waaronder recente rapporten over ongeautoriseerde activiteiten met zijn AI-modellen. Linds rol zal zich richten op het versterken van de defensieve houding van het bedrijf en het navigeren door het complexe landschap van AI-gerelateerde beveiligingsdreigingen.
Anthropic benadert religieuze geleerden om Claude's moraal vorm te geven
Anthropic mede-oprichter Chris Olah heeft het afgelopen jaar contact gehad met religieuze geleerden uit verschillende geloofsovertuigingen, waaronder katholieke, joodse en sikh-tradities, om de mogelijke bewustzijn van zijn Claude-model te verkennen en te helpen het morele kader vorm te geven. Volgens rapporten namen deze geleerden deel aan seminars met geheimhoudingsverklaringen om waarden en ethiek te bespreken, voortbouwend op Anthropic's interne 'Soul Doc'—een 84 pagina's tellende gids over waarden. Dit initiatief benadrukt Anthropic's unieke benadering van AI-veiligheid en -afstemming, die een belangrijk onderscheidend kenmerk in de industrie blijft. Terwijl andere labs zich richten op technische benchmarks, heeft Anthropic's openheid over het bespreken van AI-bewustzijn zowel interesse als kritiek getrokken. OpenAI's Sam Altman merkte onlangs op over de risico's van het toekennen van 'religieuze kracht' aan AI-modellen, wat breed werd geïnterpreteerd als een bedekte kritiek op Anthropic's strategie. Terwijl Anthropic een bijgewerkte grondwet voor Claude voorbereidt, suggereert de bereidheid om diverse filosofische en religieuze perspectieven te integreren dat het bedrijf zijn onderscheidende benadering van AI-ethiek verdubbelt, zelfs terwijl de bredere industrie sceptisch blijft over het idee van AI-bewustzijn.
a16z-rapport benadrukt enorme AI-infrastructuurbouw
Een nieuw rapport van durfkapitaalbedrijf a16z onthult dat de AI-infrastructuurbouw versnelt, met grote technologiebedrijven—Alphabet, Amazon, Meta, Microsoft en Oracle—die in 2025 $416 miljard uitgeven aan kapitaalinvesteringen. Projecties suggereren dat deze uitgaven in 2026 $777 miljard kunnen bereiken en in 2027 meer dan $1,1 biljoen. Het rapport merkt op dat hoewel deze uitgaven gemakkelijker te meten zijn dan de daadwerkelijke opbrengst, ze momenteel aanzienlijke groei in de technologiesector stimuleren, goed voor ongeveer 76% van de winstgroei van de S&P 500 tot eind augustus 2026. Ondanks de enorme investering benadrukt het rapport een 'opbrengstkloof', waarbij slechts ongeveer 30% van de S&P 500-bedrijven een kwantificeerbare impact van AI rapporteert, en slechts 2% specifieke statistieken openbaar maakt die ze in de loop van de tijd bijhouden. Bovendien betaalde slechts 2% van de Amerikaanse huishoudens in april voor AI-diensten. Het rapport suggereert dat de volgende golf van vraag mogelijk moet komen uit sectoren zoals robotica, biotechnologie en gezondheidszorg, waar AI efficiëntie kan stimuleren in fysieke en wetenschappelijke processen. Deze gegevens onderstrepen de huidige spanning in de markt: hoewel de infrastructuurbouw robuust is en wordt gefinancierd door winsten en leningen van grote technologiebedrijven, blijven de tastbare, langetermijn economische rendementen voor de bredere markt moeilijk te kwantificeren, wat vragen oproept over de duurzaamheid van de huidige uitgavenniveaus.