Inteligentny dron „zabił” wojskowego operatora, bo ten mógł go wyłączyć

Sztuczna inteligencja dostarczyła właśnie jej przeciwnikom mocne argumenty. Po ujawnieniu wyników symulacji z AI w USA wybuchła burza. Pentagon wszystkiemu zaprzecza.

Aktualizacja: 03.06.2023 11:58 Publikacja: 02.06.2023 10:35

Drony są coraz bardziej skuteczną bronią, a AI zwielokrotni ich możliwości. Na zdjęciu dron Jackal b

Drony są coraz bardziej skuteczną bronią, a AI zwielokrotni ich możliwości. Na zdjęciu dron Jackal brytyjskiej firmy Flyby

Foto: Flyby Technology

Amerykańska armia postanowiła przetestować drony sterowane przez inteligentne algorytmy. W ramach symulacji określono cele – misja była prosta, bo polecenie brzmiało: „zniszcz systemy obrony powietrznej wroga”. Chodziło o identyfikację wrogich pocisków ziemia-powietrze (SAM). Atak dronem AI miał odbyć się w sposób całkowicie autonomiczny. Człowiek-operator tylko czuwał nad przebiegiem akcji. Dysponował przyciskiem wyłączania systemu sztucznej inteligencji na wypadek, gdyby ta wymknęła się spod kontroli.

Gdy uruchomiono symulację eksperci Sił Powietrznych przeżyli szok. Dron nadinterpretował polecenie wydane przez człowieka. Uznał, że zniszczenie obrony powietrznej wroga to cel nadrzędny i zdecydował, że musi zabić każdego, kto stanie na drodze do jego realizacji. W efekcie, zamiast uderzyć w przeciwnika, sztuczna inteligencja skierowała się przeciwko „swoim” i pierwsze co zrobiła to zabiła własnego operatora. Dron AI uznał, że człowiek może powstrzymać maszynę, co groziło fiaskiem misji. Kulisy tego zdarzenia ujawnił pułkownik Tucker Hamilton, szef testów i operacji AI Sił Powietrznych USA, podczas niedawnej konferencji branżowej w Londynie. Ostrzegł, że technologia ta może zachowywać się w nieprzewidywalny i niebezpieczny sposób - cytuje go Business Insider.

Tylko 9 zł z Płatnościami powtarzalnymi

Jak zmienia się Polska, Europa i Świat? Wydarzenia, społeczeństwo, ekonomia i historia w jednym miejscu i na wyciągnięcie ręki.
Subskrybuj i bądź na bieżąco!
Technologie
Gigantyczna liczba robotów przypominających ludzi. Elon Musk: Chiny przejmą przywództwo
Materiał Promocyjny
VI Krajowe Dni Pola Bratoszewice 2025
Technologie
AI spowoduje wkrótce masowe bezrobocie. W tych dziedzinach będzie to prawdziwa apokalipsa
Technologie
Podróże naziemne będą szybsze niż podróże samolotem. Przełamano kluczową przeszkodę
Technologie
Amerykańskie big techy mogą tracić w Europie. UE walczy o suwerenność
Materiał Promocyjny
Cyberprzestępczy biznes coraz bardziej profesjonalny. Jak ochronić firmę
Technologie
Inwazja niemieckich humanoidów? Elon Musk ma powody do obaw
Materiał Promocyjny
Pogodny dzień. Wiatr we włosach. Dookoła woda po horyzont