Scenariusze bezpieczeństwa AI Sama Altmana, debiut Ardy za 1,5 miliarda dolarów i przychody SpaceX z AI
To zestawienie obejmuje trzy scenariusze końcowe bezpieczeństwa AI Sama Altmana, uruchomienie Ardy Boba McGrewa za 1,5 miliarda dolarów, znaczące przychody SpaceX z AI oraz proponowane przez Anthropic przepisy dotyczące bezpieczeństwa AI.
Podcast В· 4 min
Sam Altman przedstawia trzy scenariusze końcowe bezpieczeństwa AI
CEO OpenAI, Sam Altman, podzielił się ostatnio z pracownikami trzema potencjalnymi scenariuszami przyszłości bezpieczeństwa AI. Obejmują one utworzenie globalnego organu nadzorczego podobnego do Międzynarodowej Agencji Energii Atomowej, „plan Demisa” (nazwany na cześć Demisa Hassabisa z DeepMind) łączący wiodące laboratoria w jeden podmiot, lub „straszny” wynik, w którym jedno laboratorium wyprzedza inne, dominując w mocy obliczeniowej. Altman podkreślił, że OpenAI musi wybrać swoją ścieżkę w ciągu najbliższego roku, proces ten nazwał „pacing 2.0”, który musi obejmować zdefiniowane ograniczenia prędkości dla samodoskonalącego się AI.
Były szef badań OpenAI, Bob McGrew, uruchamia Ardę z wyceną 1,5 miliarda dolarów
Były dyrektor ds. badań OpenAI, Bob McGrew, wyszedł z ukrycia z Ardą, startupem skupiającym się na automatyzacji konfiguracji linii montażowych w fabrykach. Firma wystartowała z wyceną 1,5 miliarda dolarów po rundzie finansowania serii A o wartości 160 milionów dolarów. Arda ma na celu zrobienie dla inżynierów produkcji tego, co asystenci kodowania robią dla programistów, wykorzystując AI do planowania budowy na podstawie plików projektowych. Firma zbrojeniowa Anduril, pierwszy klient Ardy, poinformowała, że instrukcje montażu są teraz przygotowywane w 15 minut, w porównaniu do poprzednich 10 godzin.
SpaceX raportuje 7,5 miliarda dolarów przychodów związanych z AI
SpaceX ujawniło, że jego nowy dział „Super Intelligence” wygenerował 7,5 miliarda dolarów przychodów w trzecim kwartale, co stanowi około połowę całkowitych przychodów firmy wynoszących 14,6 miliarda dolarów. Dział ten obejmuje Grok, narzędzie do kodowania AI Cursor oraz działalność „neocloud” zapewniającą moc obliczeniową centrów danych. Firma poinformowała o nakładach inwestycyjnych w wysokości 19,6 miliarda dolarów w tym kwartale, w dużej mierze napędzanych inwestycjami w centra danych i rakiety Starship.
OpenAI przejmuje Orchestra Bio
OpenAI przejęło Orchestra Bio, startup specjalizujący się w agentach AI, które śledzą i monitorują badania nad rozwojem leków. Technologia zostanie zintegrowana z narzędziami nauk przyrodniczych Rosalind firmy OpenAI, aby pomóc w sygnalizowaniu opóźnień i efektów domina w złożonych programach lekowych.
Otter.ai pozyskuje 320 milionów dolarów finansowania
Otter.ai pozyskało 320 milionów dolarów od General Catalyst's Customer Value Fund. Finansowanie jest oparte na zwrocie z wydatków marketingowych, a nie na tradycyjnej sprzedaży udziałów, wspierając dalszy rozwój platformy do inteligencji spotkań.
Anthropic proponuje ustawę o bezpieczeństwie AI
Anthropic opracowało projekt federalnej ustawy o bezpieczeństwie AI, która upoważniłaby Departament Handlu do wystąpienia do sądu o zablokowanie wydania modelu, jeśli stwarza on bezpośrednie ryzyko spowodowania 50 lub więcej zgonów lub szkód o wartości 1 miliarda dolarów. Propozycja ta odzwierciedla ciągłe wysiłki firmy na rzecz ustanowienia ram regulacyjnych dla zaawansowanych modeli AI.
Claude od Anthropic projektuje białka przeciw jadowi skorpiona
Anthropic opublikowało badania przeprowadzone we współpracy z Citrini Research, w ramach których Claude zaprojektował białka wiążące i unieszkodliwiające toksyny jadu skorpiona. Spośród 318 484 kandydackich projektów wygenerowanych przez AI, 211 przetestowano w laboratoriach, z czego 17 skutecznie związało się ze swoimi celami. Chociaż projekt nie zaowocował uniwersalnym antidotum, pokazuje potencjał AI do przyspieszenia odkrywania leków.
Luka w aplikacji Muse od Meta ujawniła udostępnione czaty
Firma ochroniarska Claroc odkryła, że udostępnione czaty z aplikacji Muse od Meta były możliwe do znalezienia za pośrednictwem publicznych rekordów internetowych bez oryginalnego linku. Problem wynikał ze struktury URL aplikacji, która zawierała tytuły czatów, umożliwiając pasywnym usługom DNS ich indeksowanie. Meta podobno wstrzymała funkcję udostępniania podczas badania luki.
ChatGPT wprowadza czaty chronione PIN-em
OpenAI wdrożyło nową funkcję dla ChatGPT, umożliwiającą użytkownikom zabezpieczenie poufnych rozmów za pomocą PIN-u lub Face ID. Te zablokowane czaty mają oddzielną pamięć od standardowych interakcji, zwiększając prywatność w określonych przepływach pracy.
DeepSeek udostępnia kod DeepInfer
DeepSeek udostępniło kod DeepInfer, silnika napędzającego jego AI V4.1-Flash. Wydanie obejmuje wsparcie dla chipów Huawei, umożliwiając firmom wdrożenie modelu bez polegania na sprzęcie Nvidii.
Skyfall AI prezentuje SKY-001
Skyfall AI wprowadziło SKY-001, model zaprojektowany do tworzenia projektów 3D części i budynków. Firma twierdzi, że system jest znacznie szybszy i tańszy niż istniejące zaawansowane modele.
Zoom dodaje wykrywanie deepfake
Zoom ogłosił nową funkcję wykrywania ryzyka deepfake zaplanowaną na grudzień. Narzędzie analizuje wideo i audio na żywo pod kątem oznak modyfikacji i dostarcza użytkownikom wskaźnik pewności.
Spotify usuwa ponad 50 milionów utworów „śmieciowych”
Spotify usunął w tym roku ponad 50 milionów utworów zidentyfikowanych jako „śmieci” lub spam ze swoich rekomendacji. Platforma domyślnie ogranicza również artystów AI-persona w swoich algorytmach rekomendacji, aby priorytetowo traktować ludzką twórczość.
Radical Numerics informuje o zgodzie FDA na wirusa zaprojektowanego przez AI
Radical Numerics twierdzi, że osiągnął znaczący kamień milowy w medycynie projektowanej przez AI, stwierdzając, że FDA zatwierdziła wirusa zaprojektowanego przez jego AI Omnii-1 dla pacjenta z zakażeniem opornym na leczenie.
Thore Graepel debiutuje z Metis Reasoning
Były badacz DeepMind, Thore Graepel, uruchomił Metis Reasoning, startup AI stosujący techniki w stylu AlphaGo do chatbotów, umożliwiając im weryfikację wyników w oparciu o dowody.