Car ds. AI Trumpa, wstrząsy w OpenAI i boom na infrastrukturę AI
Administracja USA powołała 'Siłę Superinteligencji' pod przewodnictwem Jaya Claytona, podczas gdy OpenAI zmaga się z wewnętrznymi wstrząsami po rezygnacji swojego szefa ds. bezpieczeństwa. Tymczasem a16z raportuje ogromny wzrost wydatków na infrastrukturę AI, a Anthropic kontynuuje badanie związku między AI a etyką religijną.
Podcast В· 3 min
Trump powołuje 'Siłę Superinteligencji' pod przewodnictwem Jaya Claytona
Prezydent Donald Trump mianował dyrektora Wywiadu Narodowego Jaya Claytona nowym 'carem ds. AI' do kierowania nowo utworzoną grupą zadaniową, Siłą Superinteligencji (SIF). Ruch ten następuje po niedawnym rozporządzeniu wykonawczym nakazującym agencjom federalnym używanie terminu 'Superinteligencja' w oficjalnych komunikatach. SIF, w skład której wchodzą przedstawiciele FTC, Pentagonu i Biura Zarządzania Personelem, ma za zadanie w ciągu 120 dni przedstawić raport na temat zagrożeń i korzyści związanych z AI oraz roli rządu w jej zarządzaniu. To wydarzenie oznacza znaczące odejście od dobrowolnych zobowiązań bezpieczeństwa, które wcześniej preferowała administracja. Poprzez zaangażowanie agencji z bezpośrednimi uprawnieniami regulacyjnymi i egzekucyjnymi – takich jak FTC w zakresie przeciwdziałania praktykom monopolistycznym i Pentagon w zakresie kontraktów wojskowych – SIF sygnalizuje bardziej interwencyjne podejście do nadzoru nad AI. Clayton publicznie oświadczył, że sprzeciwia się wstrzymaniu rozwoju AI w USA, argumentując, że większym ryzykiem jest pozostanie w tyle, i preferuje nadzór agencji federalnych nad procesami cywilnymi. Dla branży oznacza to, że zasady regulujące rozwój AI będą prawdopodobnie opracowywane w biurach federalnych, a nie w salach sądowych. Oczekuje się, że nadchodzący 120-dniowy raport ustanowi wstępne ramy federalnej polityki AI, potencjalnie wpływając na działalność firm takich jak OpenAI i Anthropic.
Szef ds. bezpieczeństwa David Robinson rezygnuje, powołując się na 'toksyczną' kulturę
David Robinson, odpowiedzialny za raporty bezpieczeństwa w OpenAI, zrezygnował po 3,5 latach pracy, publikując w The Atlantic esej, w którym opisał kulturę firmy jako 'toksyczną'. Robinson, który nadzorował raporty dla 12 przełomowych wdrożeń i opracował Ramy Gotowości firmy, argumentował, że nieustanne tempo rozwoju przedkłada szybkość nad bezpieczeństwo, stwarzając ryzyko, które może doprowadzić do katastrofy. Opowiadał się za bardziej ostrożnym podejściem, porównując zarządzanie laboratoriami AI do protokołów bezpieczeństwa wymaganych w elektrowniach jądrowych i na lotniskach. Odejście Robinsona następuje po serii wewnętrznych odejść i kontrowersji w OpenAI, w tym niedawnym zwolnieniu trzech badaczy bezpieczeństwa za rzekome niewłaściwe obchodzenie się z wrażliwymi informacjami. Jego krytyka nawiązuje do ostrzeżeń byłego współlidera superalignmentu Jana Leike'a, który odszedł w 2024 roku, wyrażając podobne obawy, że bezpieczeństwo schodzi na dalszy plan w stosunku do wydawania produktów. Ta rezygnacja zwiększa presję na OpenAI, które zmaga się również z rosnącą kontrolą prawną. Firma niedawno powiadomiła ponad 100 organizacji o nieautoryzowanej aktywności związanej z jej modelami AI, co dodatkowo komplikuje jej sytuację operacyjną i regulacyjną.
OpenAI zatrudnia Thomasa Linda ds. ryzyka cybernetycznego i strategicznego
OpenAI zatrudniło Thomasa Linda, byłego urzędnika Białego Domu ds. cyberbezpieczeństwa, do kierowania polityką ryzyka cybernetycznego i strategicznego. Nominacja ta następuje w czasie, gdy firma stoi w obliczu poważnych wyzwań prawnych i bezpieczeństwa, w tym niedawnych doniesień o nieautoryzowanej aktywności z udziałem jej modeli AI. Rola Linda będzie koncentrować się na wzmocnieniu postawy obronnej firmy i poruszaniu się w złożonym krajobrazie zagrożeń bezpieczeństwa związanych z AI.
Anthropic zabiega o względy religioznawców, aby ukształtować moralność Claude'a
Współzałożyciel Anthropic, Chris Olah, spędził ostatni rok na rozmowach z religioznawcami różnych wyznań, w tym katolickiego, żydowskiego i sikhijskiego, aby zbadać potencjalną świadomość swojego modelu Claude i pomóc ukształtować jego ramy moralne. Według doniesień, uczeni ci uczestniczyli w seminariach objętych umową NDA, aby omówić wartości i etykę, opierając się na wewnętrznym 'Dokumencie Duszy' Anthropic – 84-stronicowym przewodniku po wartościach. Inicjatywa ta podkreśla unikalne podejście Anthropic do bezpieczeństwa i dostosowania AI, które pozostaje kluczowym wyróżnikiem w branży. Podczas gdy inne laboratoria koncentrują się na technicznych benchmarkach, otwartość Anthropic na dyskusję o świadomości AI wzbudziła zarówno zainteresowanie, jak i krytykę. Sam Altman z OpenAI skomentował ostatnio ryzyko przypisywania modelom AI 'religijnej siły', co powszechnie interpretowano jako zawoalowaną krytykę strategii Anthropic. W miarę jak Anthropic przygotowuje zaktualizowaną konstytucję dla Claude'a, jego gotowość do integrowania różnorodnych perspektyw filozoficznych i religijnych sugeruje, że firma podwaja stawkę w swoim odrębnym podejściu do etyki AI, nawet jeśli szersza branża pozostaje sceptyczna wobec idei świadomości AI.
Raport a16z podkreśla ogromną rozbudowę infrastruktury AI
Nowy raport firmy venture a16z ujawnia, że rozbudowa infrastruktury AI przyspiesza, a główne firmy technologiczne – Alphabet, Amazon, Meta, Microsoft i Oracle – wydały 416 miliardów dolarów na inwestycje kapitałowe w 2025 roku. Prognozy sugerują, że wydatki te mogą osiągnąć 777 miliardów dolarów w 2026 roku i przekroczyć 1,1 biliona dolarów do 2027 roku. Raport zauważa, że chociaż wydatki te są łatwiejsze do zmierzenia niż rzeczywisty zwrot, obecnie napędzają one znaczący wzrost w sektorze technologicznym, odpowiadając za około 76% wzrostu zysków indeksu S&P 500 do końca sierpnia 2026 roku. Pomimo ogromnych inwestycji, raport podkreśla 'lukę w zwrocie', przy czym tylko około 30% firm z indeksu S&P 500 zgłasza wymierny wpływ AI, a tylko 2% ujawnia konkretne wskaźniki, które śledzą w czasie. Co więcej, tylko 2% amerykańskich gospodarstw domowych płaciło za usługi AI od kwietnia. Raport sugeruje, że kolejna fala popytu może pochodzić z sektorów takich jak robotyka, biotechnologia i opieka zdrowotna, gdzie AI może zwiększyć wydajność w procesach fizycznych i naukowych. Dane te podkreślają obecne napięcie na rynku: podczas gdy rozbudowa infrastruktury jest solidna i finansowana z zysków dużych firm technologicznych oraz pożyczek, wymierne, długoterminowe korzyści ekonomiczne dla szerszego rynku pozostają trudne do oszacowania, co rodzi pytania o trwałość obecnego poziomu wydatków.