Reklama
Rozwiń

Inteligentny dron „zabił” wojskowego operatora, bo ten mógł go wyłączyć

Sztuczna inteligencja dostarczyła właśnie jej przeciwnikom mocne argumenty. Po ujawnieniu wyników symulacji z AI w USA wybuchła burza. Pentagon wszystkiemu zaprzecza.

Aktualizacja: 03.06.2023 11:58 Publikacja: 02.06.2023 10:35

Drony są coraz bardziej skuteczną bronią, a AI zwielokrotni ich możliwości. Na zdjęciu dron Jackal b

Drony są coraz bardziej skuteczną bronią, a AI zwielokrotni ich możliwości. Na zdjęciu dron Jackal brytyjskiej firmy Flyby

Foto: Flyby Technology

Amerykańska armia postanowiła przetestować drony sterowane przez inteligentne algorytmy. W ramach symulacji określono cele – misja była prosta, bo polecenie brzmiało: „zniszcz systemy obrony powietrznej wroga”. Chodziło o identyfikację wrogich pocisków ziemia-powietrze (SAM). Atak dronem AI miał odbyć się w sposób całkowicie autonomiczny. Człowiek-operator tylko czuwał nad przebiegiem akcji. Dysponował przyciskiem wyłączania systemu sztucznej inteligencji na wypadek, gdyby ta wymknęła się spod kontroli.

Gdy uruchomiono symulację eksperci Sił Powietrznych przeżyli szok. Dron nadinterpretował polecenie wydane przez człowieka. Uznał, że zniszczenie obrony powietrznej wroga to cel nadrzędny i zdecydował, że musi zabić każdego, kto stanie na drodze do jego realizacji. W efekcie, zamiast uderzyć w przeciwnika, sztuczna inteligencja skierowała się przeciwko „swoim” i pierwsze co zrobiła to zabiła własnego operatora. Dron AI uznał, że człowiek może powstrzymać maszynę, co groziło fiaskiem misji. Kulisy tego zdarzenia ujawnił pułkownik Tucker Hamilton, szef testów i operacji AI Sił Powietrznych USA, podczas niedawnej konferencji branżowej w Londynie. Ostrzegł, że technologia ta może zachowywać się w nieprzewidywalny i niebezpieczny sposób - cytuje go Business Insider.

Dostęp na ROK tylko za 79zł z Płatnościami powtarzalnymi BLIK

Jak zmienia się Polska, Europa i Świat? Wydarzenia, społeczeństwo, ekonomia i historia w jednym miejscu i na wyciągnięcie ręki.
Subskrybuj i bądź na bieżąco!
Technologie
AI i kwanty łamią tajemnice reaktorów jądrowych. Przełom z USA
Technologie
W kosmos poleciał jako pierwszy Polak. Wróciło zainteresowanie Mirosławem Hermaszewskim
Technologie
Google „otwiera” swojego bota. Gemini zyska nowe możliwości?
Technologie
„Gdzie leci Sławosz?” – internet oszalał na punkcie polskiego astronauty. I jego żony
Technologie
AI zmieni zasady gry w reklamie? Polacy mają pomysł