Liderzy AI wzywają do spowolnienia; Apple uruchamia Siri AI
Liderzy branży opowiadają się za spowolnieniem rozwoju AI, podczas gdy Apple wydaje iOS 27 ze zintegrowaną Siri AI. Anthropic raportuje o nadużyciach AI, a pojawiają się nowe wydarzenia geopolityczne dotyczące infrastruktury AI.
Podcast В· 3 min
Liderzy branży wzywają do spowolnienia rozwoju AI
CEO Anthropic, Dario Amodei, opublikował esej opowiadający się za celowym spowolnieniem rozwoju AI, powołując się na obawy dotyczące rekurencyjnego samodoskonalenia i potencjalnych zagrożeń bezpieczeństwa. W rzadkim przejawie zgodności w branży, CEO OpenAI Sam Altman, Elon Musk z xAI oraz dyrektor generalny Microsoftu Satya Nadella wyrazili poparcie dla tego kierunku. Rozmowa nabiera tempa, a podobno król Karol organizuje szczyt w Szkocji dla liderów Nvidii, Google DeepMind, OpenAI i Anthropic, aby omówić wspólne zasady bezpieczeństwa. Jednak konsensus nie jest powszechny. Były prezydent Trump odrzucił te apele jako „negatywne siły”, argumentując, że USA muszą utrzymać prowadzenie w wyścigu AI. Tymczasem OpenAI podobno zwróciło się do Kongresu z pytaniem, czy ogólnobranżowe spowolnienie mogłoby naruszać przepisy antymonopolowe, co podkreśla napięcie między koordynacją bezpieczeństwa a praktykami konkurencyjnymi na rynku. Ta zmiana odzwierciedla rosnące zrozumienie, że superinteligencja – systemy AI zdolne do przewyższania ludzi w większości dziedzin – stwarza wyzwania związane z kontrolą, które wymagają czegoś więcej niż tylko rozwiązań technicznych. Podczas gdy branża debatuje nad koniecznością hamulców, presja geopolityczna, by pozostać na czele, pozostaje znaczącą przeszkodą dla jakiegokolwiek skoordynowanego globalnego wstrzymania.
Anthropic szczegółowo opisuje operacje nadużywania AI
Anthropic opublikował nowy raport wywiadu o zagrożeniach, szczegółowo opisujący kilka przypadków nadużywania AI, które firma udaremniła. Raport podkreśla grupę szpiegowską powiązaną z Rosją, która zautomatyzowała części swojego łańcucha ataku i odbudowała złośliwe oprogramowanie, aby ominąć narzędzia bezpieczeństwa. Ponadto Anthropic zidentyfikował komórkę broni z Jemenu używającą Claude Code do pomocy w projektowaniu systemów naprowadzania rakiet i pocisków, a także sieć aplikacji randkowych z siedzibą w Chinach, która obsługiwała ponad 4700 osobowości AI, aby skontaktować się z co najmniej 25 000 osób. W innym przypadku konsultant użył Claude do opracowania oprogramowania inwigilacyjnego dla wywiadu Mali, celując w około 25 milionów kart SIM. Anthropic oświadczył, że zablokował zaangażowane konta, a w niektórych przypadkach koordynował działania z innymi dostawcami AI, aby zakłócić te operacje. Te ustalenia podkreślają podwójne zastosowanie zaawansowanych modeli AI oraz ciągłe wyzwanie, jakim jest zapobieganie wykorzystywaniu tych narzędzi przez złośliwych aktorów do zaawansowanych cyberzagrożeń i zagrożeń fizycznych.
Apple wydaje iOS 27 z Siri AI
Apple oficjalnie uruchomił iOS 27, zawierający długo oczekiwaną „Siri AI”. Aktualizacja obejmuje kompleksową przebudowę aplikacji, świadomość ekranu oraz model językowy opracowany przy pomocy Google Gemini. To wydanie stanowi znaczący krok w integracji generatywnej AI przez Apple w swoim ekosystemie mobilnym. Nowe doświadczenie Siri AI jest ograniczone do iPhone'a 15 Pro i nowszych modeli, pozostawiając starsze urządzenia ze standardową aktualizacją, ale bez zaawansowanych możliwości AI. To wdrożenie następuje po okresie opóźnień w rozwoju, ponieważ Apple podobno wycofał wcześniejsze wersje inteligentniejszego asystenta z powodu obaw o niezawodność.
Microsoft Copilot umożliwia zamianę modeli
Microsoft po cichu wprowadził funkcję umożliwiającą użytkownikom Microsoft 365 Copilot zamianę domyślnego modelu OpenAI na Anthropic Claude w określonych zadaniach. Zmiana jest najbardziej widoczna w agencie „Researcher”, który analizuje e-maile, pliki i dane internetowe. Użytkownicy mogą teraz wybierać różne modele w zależności od konkretnych potrzeb związanych z rozumowaniem, przy czym Claude jest często preferowany do długich analiz, podczas gdy domyślny model pozostaje zoptymalizowany pod kątem szybkości. Ta elastyczność odpowiada na opinie użytkowników dotyczące różnej wydajności modeli w przypadku złożonych zapytań. Organizacje mogą zarządzać tą funkcją za pośrednictwem centrum administracyjnego Microsoft 365, chociaż opcja jest domyślnie wyłączona w UE i Wielkiej Brytanii.
AI poprawia wykrywanie wad mózgu płodu
Randomizowane badanie przeprowadzone w pięciu szpitalach w Chinach wykazało, że AI może znacząco poprawić wykrywanie wad rozwojowych mózgu płodu podczas prenatalnych badań ultrasonograficznych. W badaniu wykorzystano PAICS, model głębokiego uczenia wyszkolony do oznaczania w czasie rzeczywistym 10 konkretnych wad rozwojowych. Wyniki pokazały, że czułość wykrywania sonografów wzrosła z 78,6% do 87,3% przy użyciu AI, bez odpowiedniego wzrostu liczby fałszywych alarmów. Badanie podkreśla potencjał AI jako „drugiej pary oczu” w warunkach klinicznych. Co istotne, zaangażowanie człowieka pozostało kluczowe, ponieważ sonografowie poprawnie korygowali około 60% błędów AI. Chociaż skany trwały średnio około 40 sekund dłużej, poprawa dokładności diagnostycznej sugeruje obiecującą ścieżkę integracji AI w opiece nad ciążą wysokiego ryzyka.
Pentagon rozważa pożyczkę w wysokości 5 mld USD na infrastrukturę AI
Pentagon podobno prowadzi rozmowy w sprawie udzielenia pożyczki w wysokości 5 miliardów dolarów startupowi chmurowemu AI Fluidstack. Inicjatywa ma na celu wzmocnienie amerykańskiej produkcji i łańcuchów dostaw komponentów centrów danych, co odzwierciedla rosnące strategiczne znaczenie infrastruktury AI dla bezpieczeństwa narodowego. Tymczasem na szczycie BRICS w New Delhi Chiny zaproponowały utworzenie społeczności open-source AI w celu wspierania wspólnego rozwoju i zastosowań przemysłowych wśród państw członkowskich, co sygnalizuje rozbieżne podejście do globalnego zarządzania AI.