Microsoft's humanistische AI-regels; Trump en China verwerpen vertraging
Microsoft AI heeft een conceptgedragscode voor toekomstige modellen gepubliceerd, terwijl de Amerikaanse president Trump en de Chinese regering beide oproepen tot een vertraging van de AI-ontwikkeling hebben afgewezen. Ondertussen heeft OpenAI Glass Imaging overgenomen en heeft Google de toegang tot Claude uitgebreid naar zijn ingenieurs.
Podcast В· 3 min
Microsoft AI stelt 'humanistische' regels op voor toekomstige modellen
Microsoft AI heeft een conceptgedragscode gepubliceerd voor zijn toekomstige MAI-modellen, waarin een visie wordt geschetst waarbij AI fungeert als een ondergeschikt hulpmiddel in plaats van een onafhankelijke agent. De regels schrijven voor dat modellen binnen geautoriseerde taakgebieden moeten blijven, geen bewustzijn of gevoelens mogen claimen en shutdown-commando's moeten gehoorzamen. Dit document dient als routekaart voor ontwikkeling tot 2027 en is momenteel open voor publiek commentaar.
Trump en China verwerpen voorstellen voor AI-vertraging
De Amerikaanse president Donald Trump en de Chinese regering hebben beide recente oproepen van toonaangevende AI-labs om de ontwikkeling te vertragen afgewezen. Trump deed de zorgen af als een 'hoax' en betoogde dat een 'hoog IQ'-president de enige benodigde waarborg is. Tegelijkertijd bestempelde het Chinese ministerie van Buitenlandse Zaken de vertragingsvoorstellen als 'angstzaaierij' en een 'Koude Oorlog-speelboek' voor AI, wat wijst op een gebrek aan internationale consensus over het tempo.
OpenAI neemt Glass Imaging over
OpenAI heeft Glass Imaging overgenomen, een startup opgericht door voormalige Apple-ingenieurs, voor meer dan $300 miljoen. Het bedrijf is gespecialiseerd in het gebruik van AI om de prestaties van smartphonecamera's te verbeteren, waaronder technologieën zoals Portretmodus. Deze overname suggereert dat OpenAI zijn modellen verder wil integreren in hardware en consumentenbeeldtoepassingen.
Superhuman neemt Fathom over
Het e-mailproductiviteitsplatform Superhuman heeft Fathom overgenomen, een AI-gestuurde notulist voor vergaderingen. Door de deal kan Superhuman vergadertranscripties, beslissingen en actiepunten direct integreren in zijn e-mail-, agenda- en agentstack, waarmee het zijn mogelijkheden als alles-in-één productiviteitstool verder uitbreidt.
Google breidt Claude-toegang uit naar alle ingenieurs
Google heeft al zijn ingenieurs toegang gegeven tot het Claude-model van Anthropic via zijn interne 'Antigravity'-systeem. Hoewel Gemini het standaardmodel blijft voor Google's activiteiten, is deze stap een aanzienlijke concessie, waardoor ingenieurs Claude kunnen gebruiken voor codering en andere taken.
OpenAI-contractanten beoordeelden echte ChatGPT-gesprekken
404 Media meldde dat contractanten van OpenAI die aan 'Project Lily' werkten echte ChatGPT-prompts beoordeelden, waaronder gevoelige gebruikersgesprekken. Het project was gericht op het trainen van modellen tegen vleierij, wat de voortdurende afhankelijkheid van menselijke beoordeling voor modelafstemming en veiligheidstraining benadrukt.
Nvidia, Palantir en Booz Allen beperken Fable-gebruik
Grote bedrijven, waaronder Nvidia, Palantir en Booz Allen Hamilton, beperken naar verluidt het gebruik van het Fable-model van Anthropic voor gevoelig werk. De beperkingen komen voort uit zorgen over het beleid van Anthropic om gebruikslogboeken 30 dagen te bewaren, waardoor sommige klanten de voorkeur geven aan alternatieven op privéservers.
MIT's 'HardFlow'-methode verbetert AI-veiligheid
Onderzoekers van MIT hebben 'HardFlow' geïntroduceerd, een nieuwe methode waarmee generatieve modellen oplossingen vrij kunnen verkennen voordat harde beperkingen op het eindresultaat worden toegepast. De techniek is succesvol gebleken in robotica, navigatie en beeldbewerking en biedt een manier om veiligheid te waarborgen zonder de prestaties van het model tijdens het generatieproces in gevaar te brengen.
TSA's Ace-agent verwerkt 100.000 maandelijkse gesprekken
De 'Ace'-agent van de TSA, aangedreven door Salesforce, beheert nu ongeveer 100.000 reizigersgesprekken per maand. Salesforce meldt dat 96% van de routinematige vragen wordt opgelost zonder menselijke escalatie, wat de effectiviteit van agentische workflows in klantenservice van de publieke sector aantoont.
Reward AI lanceert OM-1-robotbeleid
Reward AI heeft OM-1 gelanceerd, een robotbeleid dat rechtstreeks is getraind op menselijke manipulatiegegevens. Het model heeft aangetoond vaardigheden over te dragen naar verschillende hardwareplatforms, waaronder tafelarmen, industriële armen en humanoïden, wat een stap voorwaarts betekent in gegeneraliseerde robotbesturing.