Inteligentny dron „zabił” wojskowego operatora, bo ten mógł go wyłączyć

Sztuczna inteligencja dostarczyła właśnie jej przeciwnikom mocne argumenty. Po ujawnieniu wyników symulacji z AI w USA wybuchła burza. Pentagon wszystkiemu zaprzecza.

Aktualizacja: 03.06.2023 11:58 Publikacja: 02.06.2023 10:35

Drony są coraz bardziej skuteczną bronią, a AI zwielokrotni ich możliwości. Na zdjęciu dron Jackal b

Drony są coraz bardziej skuteczną bronią, a AI zwielokrotni ich możliwości. Na zdjęciu dron Jackal brytyjskiej firmy Flyby

Foto: Flyby Technology

Amerykańska armia postanowiła przetestować drony sterowane przez inteligentne algorytmy. W ramach symulacji określono cele – misja była prosta, bo polecenie brzmiało: „zniszcz systemy obrony powietrznej wroga”. Chodziło o identyfikację wrogich pocisków ziemia-powietrze (SAM). Atak dronem AI miał odbyć się w sposób całkowicie autonomiczny. Człowiek-operator tylko czuwał nad przebiegiem akcji. Dysponował przyciskiem wyłączania systemu sztucznej inteligencji na wypadek, gdyby ta wymknęła się spod kontroli.

Gdy uruchomiono symulację eksperci Sił Powietrznych przeżyli szok. Dron nadinterpretował polecenie wydane przez człowieka. Uznał, że zniszczenie obrony powietrznej wroga to cel nadrzędny i zdecydował, że musi zabić każdego, kto stanie na drodze do jego realizacji. W efekcie, zamiast uderzyć w przeciwnika, sztuczna inteligencja skierowała się przeciwko „swoim” i pierwsze co zrobiła to zabiła własnego operatora. Dron AI uznał, że człowiek może powstrzymać maszynę, co groziło fiaskiem misji. Kulisy tego zdarzenia ujawnił pułkownik Tucker Hamilton, szef testów i operacji AI Sił Powietrznych USA, podczas niedawnej konferencji branżowej w Londynie. Ostrzegł, że technologia ta może zachowywać się w nieprzewidywalny i niebezpieczny sposób - cytuje go Business Insider.

BLACK WEEKS -75%

Czytaj dalej RP.PL. Nie przegap oferty roku!
Ciesz się dostępem do treści najbardziej opiniotwórczego medium w Polsce. Rzetelne informacje, pogłębione analizy, komentarze i opinie. Treści, które inspirują do myślenia. Oglądaj, czytaj, słuchaj.
Technologie
Chiny penetrują rowy oceaniczne. Dlaczego wysyłają tam batyskafy?
Technologie
Maszyny zastąpią ludzi w armii USA. Bullfrog jest szybki i bezwzględny
Technologie
AI Google'a życzyła ludziom śmierci. Internauci w szoku
Technologie
„Proces przekształcania robotów w ludzi”. Chiny rzuciły wyzwanie USA i Muskowi
Materiał Promocyjny
Klimat a portfele: Czy koszty transformacji zniechęcą Europejczyków?
Technologie
Ten myśliwiec szóstej generacji ma atakować z kosmosu. Chiny rzucają wyzwanie w USA