Reklama
Rozwiń

Inteligentny dron „zabił” wojskowego operatora, bo ten mógł go wyłączyć

Sztuczna inteligencja dostarczyła właśnie jej przeciwnikom mocne argumenty. Po ujawnieniu wyników symulacji z AI w USA wybuchła burza. Pentagon wszystkiemu zaprzecza.

Aktualizacja: 03.06.2023 11:58 Publikacja: 02.06.2023 10:35

Drony są coraz bardziej skuteczną bronią, a AI zwielokrotni ich możliwości. Na zdjęciu dron Jackal b

Drony są coraz bardziej skuteczną bronią, a AI zwielokrotni ich możliwości. Na zdjęciu dron Jackal brytyjskiej firmy Flyby

Foto: Flyby Technology

Amerykańska armia postanowiła przetestować drony sterowane przez inteligentne algorytmy. W ramach symulacji określono cele – misja była prosta, bo polecenie brzmiało: „zniszcz systemy obrony powietrznej wroga”. Chodziło o identyfikację wrogich pocisków ziemia-powietrze (SAM). Atak dronem AI miał odbyć się w sposób całkowicie autonomiczny. Człowiek-operator tylko czuwał nad przebiegiem akcji. Dysponował przyciskiem wyłączania systemu sztucznej inteligencji na wypadek, gdyby ta wymknęła się spod kontroli.

Gdy uruchomiono symulację eksperci Sił Powietrznych przeżyli szok. Dron nadinterpretował polecenie wydane przez człowieka. Uznał, że zniszczenie obrony powietrznej wroga to cel nadrzędny i zdecydował, że musi zabić każdego, kto stanie na drodze do jego realizacji. W efekcie, zamiast uderzyć w przeciwnika, sztuczna inteligencja skierowała się przeciwko „swoim” i pierwsze co zrobiła to zabiła własnego operatora. Dron AI uznał, że człowiek może powstrzymać maszynę, co groziło fiaskiem misji. Kulisy tego zdarzenia ujawnił pułkownik Tucker Hamilton, szef testów i operacji AI Sił Powietrznych USA, podczas niedawnej konferencji branżowej w Londynie. Ostrzegł, że technologia ta może zachowywać się w nieprzewidywalny i niebezpieczny sposób - cytuje go Business Insider.

Już za 19 zł miesięcznie przez rok

Jak zmienia się Polska, Europa i Świat? Wydarzenia, społeczeństwo, ekonomia i historia w jednym miejscu i na wyciągnięcie ręki.

Subskrybuj i bądź na bieżąco!

Reklama
Technologie
AI Elona Muska w amoku. Grok obraża Muska, X i sam siebie
Materiał Promocyjny
25 lat działań na rzecz zrównoważonego rozwoju
Materiał Promocyjny
Tak zaawansowane technologie pomogły Andrzejowi Draganowi w stworzeniu futurystycznego teledysku Quebonafide
Technologie
Ten koncern obiecuje 3 tys. km zasięgu po 5 minutach ładowania. Nowa era baterii?
Technologie
Sztuczna inteligencja poprowadziła biznes. Zaskaujący wynik eksperymentu
Technologie
Rewolucja w elektronice. Powstał chip zaprojektowany technologią kwantową
Reklama
Reklama
Reklama
Reklama