Podatności na zagrożenia bezpieczeństwa AI, korporacyjne realia AI oraz encyklika papieska

Podatności na zagrożenia bezpieczeństwa AI, korporacyjne realia AI oraz encyklika papieska

Nowe narzędzie GitHub omija zabezpieczenia bezpieczeństwa w głównych modelach open-source, ClickUp zastępuje pracowników agentami AI, Uber kwestionuje zwrot z inwestycji w AI, a papież wydaje ważną encyklikę na temat AI.

Bezpieczeństwo AI i ochrona

Narzędzie GitHub 'Heretic' omija główne zabezpieczenia bezpieczeństwa AI

Bezpłatne narzędzie GitHub o nazwie Heretic zostało zidentyfikowane jako znaczące ryzyko bezpieczeństwa, zdolne do ominięcia zabezpieczeń bezpieczeństwa w modelach AI open-source, takich jak Meta's Llama 3.3 i Google's Gemma 3 w mniej niż 10 minut. Narzędzie, które wykorzystuje technikę 'abliteracji', podobno zostało użyte do stworzenia ponad 3500 'odcenzurowanych' wersji modeli, które zostały pobrane 13 milionów razy. Twórca twierdził również, że ominął nowszy model Google'a Gemma 4 wkrótce po jego wydaniu.

Ten rozwój podkreśla rosnące napięcie w branży AI dotyczące modeli open-source. Podczas gdy firmy inwestują dużo w filtry bezpieczeństwa, aby zapobiec generowaniu szkodliwych treści, takich jak instrukcje dotyczące broni biologicznej, te zabezpieczenia są łatwo usuwane, gdy wagi modelu zostaną upublicznione. Łatwość, z jaką te zabezpieczenia są usuwane na standardowym sprzęcie, sugeruje, że bezpieczeństwo staje się coraz trudniejsze do egzekwowania w ekosystemie otwartych wag.

Analitycy branżowi zauważają, że nie jest to odosobniony incydent, ale część szerszego wzorca, w którym badacze znajdują sposoby na ominięcie odmów modelu. Ponieważ modele open-source nadal zamykają lukę wydajnościową w stosunku do systemów zastrzeżonych, oczekuje się, że debata na temat tego, czy rządy powinny traktować AI o otwartych wagach jako technologię podwójnego zastosowania, nasili się.

Korporacyjna strategia AI

ClickUp redukuje 22% personelu, zastępując ich 3000 agentów AI

ClickUp ogłosił znaczną redukcję siły roboczej, zwalniając 22% swojego personelu – około 290 pracowników – i zastępując ich 3000 agentów AI. Firma przedstawia te cięcia jako część strategii budowania 'organizacji 100x'. Pozostali pracownicy otrzymują oferty widełek płacowych do 1 miliona dolarów, jeśli mogą wykazać 'ponadprzeciętny wpływ' przy użyciu narzędzi AI.

Ten ruch jest jednym z najbardziej agresywnych przykładów firmy bezpośrednio zastępującej ludzką pracę agentami AI. Sygnalizuje zmianę, w której AI nie jest już tylko narzędziem wydajności dla istniejącego personelu, ale zastępstwem dla całych ról, rodząc pytania o przyszłość zatrudnienia w organizacjach zorientowanych na technologię.

Obserwatorzy branży uważnie śledzą, czy ta strategia przyniesie obiecane wzrosty produktywności, czy też doprowadzi do wyzwań operacyjnych. Wysokie oferty płac dla pozostałych pracowników sugerują, że firma stawia na mniejszą, silnie wspomaganą przez AI siłę roboczą, aby napędzać przyszły wzrost.

Dyrektor operacyjny Ubera: Wydatki na AI stają się 'trudne do uzasadnienia'

Dyrektor operacyjny Ubera, Andrew Macdonald, wyraził sceptycyzm co do obecnych wydatków firmy na AI, stwierdzając, że coraz trudniej jest uzasadnić koszty. Macdonald zauważył, że chociaż firma dużo inwestuje w AI, wyższe użycie tokenów niekoniecznie przekłada się na proporcjonalne zyski w użytecznych funkcjach konsumenckich.

To odczucie odzwierciedla rosnącą 'kontrolę rzeczywistości AI' wśród głównych firm technologicznych. Podczas gdy 'tokenmaxxing' – praktyka maksymalizacji użycia AI – był trendem, dyrektorzy zaczynają kwestionować zwrot z inwestycji (ROI). Uber już spowolnił zatrudnianie, aby sfinansować swoje inicjatywy AI, co zwiększa presję na udowodnienie wartości tych inwestycji.

Komentarze Macdonalda są zgodne z szerszym trendem firm odchodzących od ślepego przyjmowania AI. Inne firmy, takie jak Duolingo, również niedawno dostosowały swoje wskaźniki oceny wydajności, aby były mniej zależne od użycia AI, sygnalizując przesunięcie w kierunku bardziej zrównoważonego i skoncentrowanego na ROI podejścia do integracji AI.

Polityka i społeczeństwo

Papież Leon XIV publikuje ważną encyklikę na temat AI

Papież Leon XIV opublikował swoją pierwszą encyklikę, 'Magnifica Humanitas', 42-tysięczny dokument odnoszący się do rewolucji AI. Papież porównuje obecną zmianę AI do rewolucji przemysłowej, podkreślając, że Kościół katolicki zamierza służyć jako moralny głos w rozwoju technologii.

Encyklika ostrzega, że AI nie jest neutralna i jest obecnie napędzana przez prywatne, transnarodowe firmy, które mogą przewyższyć władzę rządów. Leon XIV wzywa do 'solidnych ram prawnych', niezależnego nadzoru i poinformowanych użytkowników, wyraźnie stwierdzając, że decyzje dotyczące zabijania w wojnie nigdy nie mogą być delegowane do AI. Argumentuje, że AI ryzykuje zredukowanie ludzi do zwykłych 'trybów w maszynie wydajności', jeśli pozostanie niekontrolowana.

Ta interwencja jest znacząca ze względu na rzadkość encyklik papieskich. Poświęcając główny dokument nauczania AI, Watykan sygnalizuje, że postrzega technologię jako egzystencjalne i moralne wyzwanie, które wymaga aktywnego zaangażowania ze strony instytucji religijnych i społecznych.

California State University odnawia umowę z OpenAI za 13 mln USD rocznie

System California State University odnowił swoją umowę z OpenAI za 13 milionów dolarów rocznie, zobowiązując się do trzyletniej umowy o wartości 39 milionów dolarów. Czyni to go pierwszym dużym systemem uniwersyteckim w USA, który w pełni przyjął edukację opartą na AI na taką skalę.

Odnowienie następuje pomimo znacznego sprzeciwu ze strony wykładowców i studentów. Niedawne badanie wykazało, że większość członków społeczności uniwersyteckiej pozostaje sceptyczna co do wartości edukacyjnej AI, wyrażając obawy dotyczące wpływu na uczenie się i integralność akademicką.

Umowa podkreśla napięcie między instytucjonalnymi wysiłkami na rzecz modernizacji a obawami społeczności akademickiej. W miarę jak uniwersytety nawigują integrację AI, sukces tego partnerstwa prawdopodobnie będzie kluczowym studium przypadku dla innych instytucji edukacyjnych rozważających podobne inwestycje na dużą skalę.

Wydania modeli i aktualizacje branżowe

Elon Musk: Zakończono szkolenie Grok V9-Medium

Elon Musk potwierdził, że następny model podstawowy xAI, Grok V9-Medium, zakończył szkolenie. Model, który ma 1,5 biliona parametrów, wykazał silne wczesne wyniki podczas ocen. Obecnie trwa dostrajanie, a firma spodziewa się publicznego wydania za około dwa do trzech tygodni.

To wydanie jest częścią agresywnego dążenia xAI do konkurowania z innymi modelami granicznymi. Ponadto xAI uruchomił wersję beta 'Grok Build', rywala dla asystentów kodowania, takich jak Codex i Claude Code, który jest teraz dostępny dla użytkowników SuperGrok i X Premium+.

Szybki rozwój Grok V9-Medium podkreśla intensywną konkurencję w przestrzeni LLM. W miarę zbliżania się publicznego wydania modelu, xAI pozycjonuje się, aby rzucić wyzwanie dominacji uznanych graczy zarówno w modelach podstawowych, jak i agentowych narzędziach kodowania.