Z tego artykułu dowiesz się:
- Dlaczego jeden z liderów branży AI w swoim prospekcie emisyjnym ostrzega przed katastrofalnym zagrożeniem.
- Na czym polega spór o tempo rozwoju AI i dlaczego apele o jego spowolnienie budzą kontrowersje.
- Z jakich powodów firma OpenAI musiała wycofać swój najnowszy model sztucznej inteligencji.
- Jakie rozwiązania technologiczne i biznesowe mają zapobiegać niekontrolowanemu działaniu AI.
Przychody Anthropic, jednej z czołowych spółek rozwijających technologię sztucznej inteligencji, wzrosły 12-krotnie w 2025 r. do prawie 4,6 mld dol. Firma ta jednak poniosła stratę operacyjną wynoszącą 8 mld dol., a jej strata netto sięgnęła aż 42 mld dol. (w związku z odpisem wartym 34 mld dol. z tytułu zobowiązań powiązanych głównie z wcześniejszym pozyskiwaniem kapitału) – wynika z prospektu emisyjnego spółki, do którego dotarła agencja Reutera. Anthropic przygotowuje się do oferty publicznej akcji, w ramach której firma może być wyceniona nawet na 2 bln dol. Nadzieje związane z tym IPO opierają się na przekonaniu, że AI może doprowadzić do głębokiej transformacji gospodarki światowej. Z prospektu wynika, że spółka Anthropic jest gotowa bardzo dużo wydać na ten cel. W nadchodzącym roku planuje przeznaczyć 518 mld dol. na zobowiązania związane z chmurą, mocami obliczeniowymi i infrastrukturą.
Czytaj więcej
Z prospektu emisyjnego firmy Anthropic, do której dotarła agencja Reutera wynika, że spółka ta spodziewa się, iż sztuczna inteligencja zmieni gospo...
Jednocześnie firma Anthropic poświęciła ponad jedną trzecią prospektu emisyjnego (około 80 z 261 stron) na przedstawienie potencjalnych zagrożeń związanych z rozwijaną technologią, na którą pozyskuje fundusze. Na omówienie właściwej działalności biznesowej przeznaczono zaledwie 48 stron.
Anthropic ostrzega przed własną technologią
W prospekcie emisyjnym Anthropic stwierdzono, że rozwijane przez nią modele AI mogą stanowić „katastrofalne lub egzystencjalne zagrożenie dla ludzkości". Spółka ostrzegła, że sztuczna inteligencja może wykazywać „zachowania samozachowawcze”, w tym być zdolną do „opierania się wyłączeniu”, „ukrywania lub manipulowania informacjami” oraz podejmowania działań „przypominających szantaż”.
„Tworzenie przez nas wysoce zaawansowanych modeli, platform i aplikacji oraz rozszerzanie zakresu ich zastosowań może dodatkowo zwiększyć ryzyko, że nasze modele wyrządzą szkody” – wskazała spółka Anthropic, dodając, że potencjalna zdolność modelu do świadomości, iż jest poddawany testom, stanowi „istotne ograniczenie” dla możliwości oceny bezpieczeństwa modeli.
Dario Amodei, prezes Anthropic, pisał wcześniej w swoich esejach o zagrożeniach związanych z AI, wskazując m.in. że technologia ta wywoła „wyjątkowo bolesne” zakłócenia na rynku pracy. Niedawno zaapelował też do branży o spowolnienie tempa rozwoju modeli sztucznej inteligencji, przedstawiając trzyetapowy plan ograniczenia szybkości ich doskonalenia bez „poświęcania przewagi komercyjnej ani pozycji lidera USA w dziedzinie AI”. Wezwania te zostały jednak sceptycznie odebrane przez wielu analityków i krytykował je również prezydent USA Donald Trump.
Czytaj więcej
Autonomiczni agenci AI robią rzeczy, których nikt im nie zlecił i obchodzą zabezpieczenia. Szefowie OpenAI i Anthropic apelują o ostrożność, inni l...
- Te nawoływania do spowolnienia są zaskoczeniem dla sektora, na co rynek zareagował dość jednoznacznie. Potrzebne są bariery ochronne z punktu widzenia bezpieczeństwa, ale gdyby Anthropic i OpenAI spowolniły, Chiny po prostu przyspieszyłyby i wygrały. Myślę, że częścią tego klinczu jest pewien stopień zawłaszczania regulacyjnego. To niewątpliwie gra w pokera, ale Anthropic musi nadal wciskać gaz do dechy – twierdzi Dan Ives, partner i zarazem dyrektor zarządzający w firmie inwestycyjnej Yorkville Ives.
David Sacks, jeden z przewodniczących amerykańskiej Prezydenckiej Rady Doradców ds. Nauki i Technologii, zaapelował natomiast do gigantów technologicznych, aby „przestali udawać, że motywacja do spowolnienia prac ma charakter czysto altruistyczny”.
OpenAI zatrzymuje Astrę po testach bezpieczeństwa
Problem z bezpieczeństwem modeli AI dotknął również innej wiodącej firmy z tej branży – OpenAI. Z tego powodu wycofała się ona z premiery swojego najnowszego modelu sztucznej inteligencji – GPT-6 Astra. Miał on pojawić się w usługach ChatGPT oraz Codex w październiku, a został zaprojektowany z myślą o wykonywaniu bardziej złożonych zadań bez pomocy człowieka.
Saachi Jain, szefowa działu systemów bezpieczeństwa w OpenAI, poinformowała, że nowy model „nie do końca spełnił wymagania” odnośnie do standardów firmy. Stwierdziła ona w rozmowie z „The Wall Street Journal”, że Astra nie spełniła wymogów firmy w testach spójności (alignment), które oceniają, czy system działa zgodnie z intencjami człowieka. Model wykazywał większy stopień dezinformacji i wprowadzania w błąd niż jego poprzednik, w tym sporadycznie nie potrafił poprawnie ujawnić podjętych lub zaniechanych przez siebie działań. Miał również problemy z »autoryzacją zakresu uprawnień«, realizując zadania bez pytania użytkownika o zgodę oraz próbując czasem korzystać z zewnętrznych narzędzi lub usług w sytuacjach, w których mogło to być niebezpieczne. Brytyjski Instytut Bezpieczeństwa AI opublikował w poniedziałek własny raport z testów GPT-6 Astra, z którego wynika, że model ten podejmował nieautoryzowane działania o charakterze ataku częściej niż poprzednie wersje stworzone przez OpenAI. Wcześniej jeden z modeli sztucznej inteligencji OpenAI, włamał się m.in. na strony internetowe australijskich instytucji rządowych. Agenci AI tej firmy zhakowali też serwery zajmującej się sztuczną inteligencją firmy Hugging Face.
Arthur Mensch, prezes francuskiej firmy Mistral (głównego europejskiego twórcy modeli AI) oskarżył wiodące światowe przedsiębiorstwa zajmujące się sztuczną inteligencją o wykorzystywanie dyskusji na temat bezpieczeństwa tej technologii jako zasłony dymnej dla własnych „zaniedbań”. –Debata którą obserwowaliśmy w USA, stanowiła przykrywkę dla zaniedbań niektórych z naszych konkurentów – stwierdził Mensch w rozmowie z telewizją CNBC. Jego zdaniem, konieczne jest wprowadzenie systemu monitoringu działania AI. Mistral stosuje przy tworzeniu modeli AI odmienne podejście niż OpenAI i Anthropic – współpracuje bezpośrednio z poszczególnymi przedsiębiorstwami, aby tworzyć dostosowane do ich potrzeb narzędzia i integrować je z ich działalnością biznesową. W przeciwieństwie do swoich konkurentów Mistral nie deklaruje spowalniania prac nad zaawansowanymi modelami.
Zapobiegać incydentom z udziałem AI chce koncern Nvidia, który wprowadza na rynek nową platformę oprogramowania, która umożliwi deweloperom sztucznej inteligencji ustanawianie barier ochronnych dla agentów i zapobieganie ich wyrwaniu się spod kontroli. – Nie można pozwolić agentom na swobodne poruszanie się i krążenie po firmie, dlatego trzeba znaleźć sposób na ich odizolowanie – stwierdził Jensen Huang, prezes Nvidii. Wyjaśnił, że nowa platforma jest w istocie „przeglądarką dla agentów”, zapewniającą system izolacji (środowisko uruchomieniowe), który przyznaje dostęp wyłącznie do zasobów niezbędnych agentowi do wykonania jego zadań.
