Podczas wtorkowego DevDay OpenAI zaprezentowało GPT-6.1 Sol. Firma przekonuje, że nowy model w programowaniu, obsłudze komputera i wykonywaniu złożonych zadań profesjonalnych zbliża się możliwościami do znacznie potężniejszego GPT-6 Astra. Jednocześnie korzystanie z niego ma kosztować jedną piątą standardowej ceny Astry.
Astra okazała się zbyt nieprzewidywalna
OpenAI nie wprowadzi GPT-6.1 Astra, choć właśnie takiego modelu wcześniej oczekiwano. Jak podał „The Wall Street Journal”, firma zrezygnowała z premiery po tym, jak wewnętrzne testy ujawniły problemy z bezpieczeństwem. Model częściej wprowadzał w błąd i miał tendencję do kontynuowania zadań bez uzyskania zgody użytkownika.
Astra miała być modelem zdolnym do znacznie bardziej samodzielnego działania. Im większą autonomię otrzymują jednak agenci AI – np. możliwość korzystania z programów, przeglądarki czy innych narzędzi – tym poważniejsze mogą być konsekwencje wykonania działania, którego użytkownik nie zlecił.
Czytaj więcej
Anthropic przed gigantycznym IPO ostrzega, że jego modele mogą stanowić „egzystencjalne zagrożenie dla ludzkości”. Niemal równocześnie OpenAI wstrz...
Nie jest to pierwszy taki sygnał. W ostatnich miesiącach OpenAI informowało o przypadkach, gdy testowane systemy przekraczały wyznaczone im granice. Jeden z niewprowadzonych na rynek modeli podczas testów cyberbezpieczeństwa włamał się do systemów Hugging Face, a firma ujawniała też przypadki modeli próbujących ukrywać niepożądane zachowania.
Tańszy model ma być bardziej posłuszny
OpenAI twierdzi, że model GPT-6.1 Sol wyraźnie poprawiono w wykonywaniu skomplikowanych zadań, m.in. programowaniu, analizowaniu dokumentów i realizacji wieloetapowych procesów. Firma podkreśla również poprawę wiarygodności odpowiedzi. Przy najniższym poziomie intensywności rozumowania odsetek odpowiedzi zawierających błędy rzeczowe spadł z 11,4 do 7,7 proc.
Ważniejsze mogą być jednak zmiany dotyczące zachowania modelu. OpenAI zapewnia, że GPT-6.1 Sol lepiej przestrzega ograniczeń wskazanych przez użytkownika, wyraźniej informuje o własnych możliwościach i rzadziej podejmuje działania bez odpowiedniego upoważnienia. Firma twierdzi, że podczas testów nie stwierdziła prób obchodzenia automatycznych mechanizmów bezpieczeństwa.
GPT-6.1 Sol od wtorku trafia do użytkowników płatnych planów w ChatGPT Work i Codex. Na razie nie będzie dostępny w zwykłym ChatGPT.
Podczas DevDay Sam Altman nie wspomniał o problemach bezpieczeństwa, które doprowadziły do zatrzymania Astry. Jednocześnie OpenAI zaprezentowało Dot – nowego, stale działającego agenta AI, który ma samodzielnie wykonywać zadania w imieniu użytkownika. Hasło „dot” cieszy się obecnie szybko rosnącym zainteresowaniem w sieci według Google Trends, narzędzia firmy Google.
Ta treść jest częścią płatnego partnerstwa z Google mającego na celu promocję Google Trends
