Reklama
Rozwiń

Współtwórca ChatGPT oskarża firmę. „AI jest mądrzejsza od nas”

Jan Leike, który właśnie odszedł z OpenAI, gdzie zarządzał działem bezpieczeństwa, ujawnia, że firma mocno prze do rozwoju sztucznej inteligencji, nie bacząc na zagrożenia. Ostrzega: Budowanie maszyn mądrzejszych od ludzi jest niebezpieczne.

Publikacja: 20.05.2024 15:52

Budowanie maszyn mądrzejszych od ludzi jest niebezpieczne - ostrzega były pracownik OpenAI

Budowanie maszyn mądrzejszych od ludzi jest niebezpieczne - ostrzega były pracownik OpenAI

Foto: Adobe Stock

Leike w firmie, która stoi za stworzeniem ChatGPT, pracował około trzech lat. Za zadanie miał pilnować, by algorytmy były przede wszystkim bezpieczne. W ubiegłym tygodniu odszedł jednak z pracy, co w branży wywołało niemałe poruszenie. Przyczyn zmian personalnych nie ujawniono, ale teraz sam zainteresowany – za pośrednictwem platformy X – wyciąga na światło dzienne wątpliwości, z jakimi bił się będąc w OpenAI.

Bezpieczeństwo nie jest priorytetem

„Odejście z tej pracy było jedną z najtrudniejszych rzeczy, jakie kiedykolwiek zrobiłem, gdyż dziś musimy pilnie wymyślić, jak sterować i kontrolować systemy sztucznej inteligencji, które są znacznie mądrzejsze od nas. Dołączyłem do OpenAI, bo uważałem, że to będzie najlepsze miejsce na świecie do przeprowadzenia takich badań. Jednak od dłuższego czasu nie mogłem się zgodzić z kierownictwem firmy co do priorytetów. I w końcu dotarliśmy do punktu krytycznego” – ujawnia w serwisie X Jan Leike.

Czytaj więcej

„Ojciec chrzestny AI": Sztuczna inteligencja zabierze pracę. Stała kwota dla każdego

Był szef bezpieczeństwa w OpenAI podkreśla, że firma znacznie większą część swojej „przepustowości” powinna przeznaczyć nie na zwiększanie mocy AI, lecz na przygotowanie się na kolejne generacje dużych modeli językowych (LLM), monitorowanie, gotowość, bezpieczeństwo i wpływ społeczny. „To tematy trudne do rozwiązania i obawiam się, że nie jesteśmy na dobrej drodze, aby te cele osiągnąć” – pisze Leike.

W tweetach alarmuje, iż w ciągu ostatnich lat procesy bezpieczeństwa zeszły na dalszy plan. „A budowanie maszyn mądrzejszych od ludzi jest niebezpieczne. OpenAI bierze na siebie ogromną odpowiedzialność w imieniu całej ludzkości” – tłumaczy ekspert. Zastrzega przy tym, iż świat musi się przygotować na implikacje związane z generalną sztuczną inteligencją (AGI).

Meta: Nie powstałyby odrzutowce

Wpisy Leike skrytykował jednak szef AI w koncernie Meta. Jak przekonuje Yann LeCun, nie powinniśmy zabraniać, ani regulować i ograniczać technologii, którą dopiero rozwijamy. „Zanim wymyślimy, jak kontrolować systemy sztucznej inteligencji znacznie mądrzejsze od nas, musimy mieć choć projekt systemu AI mądrzejszego od kota domowego” – napisał na X.

Czytaj więcej

Sztuczna inteligencja zdecyduje o ataku nuklearnym? USA apelują do Rosji i Chin

Jeden z najwybitniejszych ekspertów w branży zasugerował, że wciąż daleko jesteśmy od AGI i dał sygnał, że minie jeszcze wiele lat, nim systemy AI staną się mądrzejsze od zwierząt. „A co dopiero mądrzejsze od ludzi” – zastrzegł.

LeCun przyrównał regulowanie AI do przepisów dla samolotów odrzutowych. „To tak, jakby ktoś powiedział w 1925 r., że musimy pilnie znaleźć sposób na kontrolowanie samolotów, które mogą transportować setki pasażerów z prędkością dźwięku. Trudno byłoby zapewnić bezpieczeństwo długodystansowych odrzutowców pasażerskich przed wynalezieniem silnika turboodrzutowego. Nikt tego nie zrobił, a dziś możemy całkowicie bezpiecznie przelecieć połowę świata odrzutowcami. Zajęło to dziesięciolecia starannej inżynierii i udoskonaleń” – podkreśla Yann LeCun.

Technologie
AI i kwanty łamią tajemnice reaktorów jądrowych. Przełom z USA
Technologie
W kosmos poleciał jako pierwszy Polak. Wróciło zainteresowanie Mirosławem Hermaszewskim
Technologie
Google „otwiera” swojego bota. Gemini zyska nowe możliwości?
Technologie
„Gdzie leci Sławosz?” – internet oszalał na punkcie polskiego astronauty. I jego żony
Technologie
AI zmieni zasady gry w reklamie? Polacy mają pomysł
Technologie
Kiedyś zabijała, teraz ma leczyć. „Klątwa Tutenchamona” powstrzyma raka?