Współtwórca ChatGPT oskarża firmę. „AI jest mądrzejsza od nas”

Jan Leike, który właśnie odszedł z OpenAI, gdzie zarządzał działem bezpieczeństwa, ujawnia, że firma mocno prze do rozwoju sztucznej inteligencji, nie bacząc na zagrożenia. Ostrzega: Budowanie maszyn mądrzejszych od ludzi jest niebezpieczne.

Publikacja: 20.05.2024 15:52

Budowanie maszyn mądrzejszych od ludzi jest niebezpieczne - ostrzega były pracownik OpenAI

Budowanie maszyn mądrzejszych od ludzi jest niebezpieczne - ostrzega były pracownik OpenAI

Foto: Adobe Stock

Leike w firmie, która stoi za stworzeniem ChatGPT, pracował około trzech lat. Za zadanie miał pilnować, by algorytmy były przede wszystkim bezpieczne. W ubiegłym tygodniu odszedł jednak z pracy, co w branży wywołało niemałe poruszenie. Przyczyn zmian personalnych nie ujawniono, ale teraz sam zainteresowany – za pośrednictwem platformy X – wyciąga na światło dzienne wątpliwości, z jakimi bił się będąc w OpenAI.

Bezpieczeństwo nie jest priorytetem

„Odejście z tej pracy było jedną z najtrudniejszych rzeczy, jakie kiedykolwiek zrobiłem, gdyż dziś musimy pilnie wymyślić, jak sterować i kontrolować systemy sztucznej inteligencji, które są znacznie mądrzejsze od nas. Dołączyłem do OpenAI, bo uważałem, że to będzie najlepsze miejsce na świecie do przeprowadzenia takich badań. Jednak od dłuższego czasu nie mogłem się zgodzić z kierownictwem firmy co do priorytetów. I w końcu dotarliśmy do punktu krytycznego” – ujawnia w serwisie X Jan Leike.

Czytaj więcej

„Ojciec chrzestny AI": Sztuczna inteligencja zabierze pracę. Stała kwota dla każdego

Był szef bezpieczeństwa w OpenAI podkreśla, że firma znacznie większą część swojej „przepustowości” powinna przeznaczyć nie na zwiększanie mocy AI, lecz na przygotowanie się na kolejne generacje dużych modeli językowych (LLM), monitorowanie, gotowość, bezpieczeństwo i wpływ społeczny. „To tematy trudne do rozwiązania i obawiam się, że nie jesteśmy na dobrej drodze, aby te cele osiągnąć” – pisze Leike.

W tweetach alarmuje, iż w ciągu ostatnich lat procesy bezpieczeństwa zeszły na dalszy plan. „A budowanie maszyn mądrzejszych od ludzi jest niebezpieczne. OpenAI bierze na siebie ogromną odpowiedzialność w imieniu całej ludzkości” – tłumaczy ekspert. Zastrzega przy tym, iż świat musi się przygotować na implikacje związane z generalną sztuczną inteligencją (AGI).

Meta: Nie powstałyby odrzutowce

Wpisy Leike skrytykował jednak szef AI w koncernie Meta. Jak przekonuje Yann LeCun, nie powinniśmy zabraniać, ani regulować i ograniczać technologii, którą dopiero rozwijamy. „Zanim wymyślimy, jak kontrolować systemy sztucznej inteligencji znacznie mądrzejsze od nas, musimy mieć choć projekt systemu AI mądrzejszego od kota domowego” – napisał na X.

Czytaj więcej

Sztuczna inteligencja zdecyduje o ataku nuklearnym? USA apelują do Rosji i Chin

Jeden z najwybitniejszych ekspertów w branży zasugerował, że wciąż daleko jesteśmy od AGI i dał sygnał, że minie jeszcze wiele lat, nim systemy AI staną się mądrzejsze od zwierząt. „A co dopiero mądrzejsze od ludzi” – zastrzegł.

LeCun przyrównał regulowanie AI do przepisów dla samolotów odrzutowych. „To tak, jakby ktoś powiedział w 1925 r., że musimy pilnie znaleźć sposób na kontrolowanie samolotów, które mogą transportować setki pasażerów z prędkością dźwięku. Trudno byłoby zapewnić bezpieczeństwo długodystansowych odrzutowców pasażerskich przed wynalezieniem silnika turboodrzutowego. Nikt tego nie zrobił, a dziś możemy całkowicie bezpiecznie przelecieć połowę świata odrzutowcami. Zajęło to dziesięciolecia starannej inżynierii i udoskonaleń” – podkreśla Yann LeCun.

Leike w firmie, która stoi za stworzeniem ChatGPT, pracował około trzech lat. Za zadanie miał pilnować, by algorytmy były przede wszystkim bezpieczne. W ubiegłym tygodniu odszedł jednak z pracy, co w branży wywołało niemałe poruszenie. Przyczyn zmian personalnych nie ujawniono, ale teraz sam zainteresowany – za pośrednictwem platformy X – wyciąga na światło dzienne wątpliwości, z jakimi bił się będąc w OpenAI.

Bezpieczeństwo nie jest priorytetem

Pozostało 87% artykułu
2 / 3
artykułów
Czytaj dalej. Subskrybuj
Technologie
Domy staną się gigantycznymi bateriami. Za rewolucją w energetyce stoi Polak
Technologie
Nie tylko robotyczne psy i owady. Polskie wojsko szykuje niezwykłą broń przyszłości
Technologie
WWDC 24. Apple wprowadza własną sztuczną inteligencję i nowości w urządzeniach
Technologie
Policja zyskała potężne narzędzie nadzoru i inwigilacji. Obywatele na widelcu
Materiał Promocyjny
Jaki jest proces tworzenia banku cyfrowego i jakie czynniki są kluczowe dla jego sukcesu?
Technologie
To głównie one, a nie roboty, zastąpią człowieka w pracy. Polacy już się boją
Technologie
Ludzie jak koty. Każdy może doskonale widzieć w nocy dzięki prostemu wynalazkowi