Inteligentny dron „zabił” wojskowego operatora, bo ten mógł go wyłączyć

Sztuczna inteligencja dostarczyła właśnie jej przeciwnikom mocne argumenty. Po ujawnieniu wyników symulacji z AI w USA wybuchła burza. Pentagon wszystkiemu zaprzecza.

Aktualizacja: 03.06.2023 11:58 Publikacja: 02.06.2023 10:35

Drony są coraz bardziej skuteczną bronią, a AI zwielokrotni ich możliwości. Na zdjęciu dron Jackal b

Drony są coraz bardziej skuteczną bronią, a AI zwielokrotni ich możliwości. Na zdjęciu dron Jackal brytyjskiej firmy Flyby

Foto: Flyby Technology

Amerykańska armia postanowiła przetestować drony sterowane przez inteligentne algorytmy. W ramach symulacji określono cele – misja była prosta, bo polecenie brzmiało: „zniszcz systemy obrony powietrznej wroga”. Chodziło o identyfikację wrogich pocisków ziemia-powietrze (SAM). Atak dronem AI miał odbyć się w sposób całkowicie autonomiczny. Człowiek-operator tylko czuwał nad przebiegiem akcji. Dysponował przyciskiem wyłączania systemu sztucznej inteligencji na wypadek, gdyby ta wymknęła się spod kontroli.

Gdy uruchomiono symulację eksperci Sił Powietrznych przeżyli szok. Dron nadinterpretował polecenie wydane przez człowieka. Uznał, że zniszczenie obrony powietrznej wroga to cel nadrzędny i zdecydował, że musi zabić każdego, kto stanie na drodze do jego realizacji. W efekcie, zamiast uderzyć w przeciwnika, sztuczna inteligencja skierowała się przeciwko „swoim” i pierwsze co zrobiła to zabiła własnego operatora. Dron AI uznał, że człowiek może powstrzymać maszynę, co groziło fiaskiem misji. Kulisy tego zdarzenia ujawnił pułkownik Tucker Hamilton, szef testów i operacji AI Sił Powietrznych USA, podczas niedawnej konferencji branżowej w Londynie. Ostrzegł, że technologia ta może zachowywać się w nieprzewidywalny i niebezpieczny sposób - cytuje go Business Insider.

99 zł za rok czytania RP.PL

O tym jak szybko zmienia się świat. Ameryka z nowym prezydentem. Chiny z własnymi rozwiązaniami AI. Co się dzieje w kraju przed wyborami. Teraz szczególnie warto wiedzieć więcej. Wyjaśniamy, inspirujemy, analizujemy

Technologie
Naukowcy stworzyli materiał, który ma być rekordowo twardy i elastyczny
Technologie
Rewolucja na niebie. Rozpoczęły się pierwsze wspólne loty myśliwców i dronów
Technologie
Powstała pierwsza szkoła dla... robotów. Humanoidy zastąpią ludzi w pracy i w domu
Technologie
Humanoidy pojawią się na „igrzyskach”. To rewolucja w sporcie
Technologie
Ten projekt ma dać ludziom długowieczność. Zaskakująca inwestycja twórcy ChatGPT