Amerykańska armia postanowiła przetestować drony sterowane przez inteligentne algorytmy. W ramach symulacji określono cele – misja była prosta, bo polecenie brzmiało: „zniszcz systemy obrony powietrznej wroga”. Chodziło o identyfikację wrogich pocisków ziemia-powietrze (SAM). Atak dronem AI miał odbyć się w sposób całkowicie autonomiczny. Człowiek-operator tylko czuwał nad przebiegiem akcji. Dysponował przyciskiem wyłączania systemu sztucznej inteligencji na wypadek, gdyby ta wymknęła się spod kontroli.
Czytaj więcej
Sam Altman, 38-letni szef OpenAI, powiedział amerykańskim senatorom, że potrzebne są regulacje m.in. w takich kwestiach jak zapobieganie dezinforma...
Gdy uruchomiono symulację eksperci Sił Powietrznych przeżyli szok. Dron nadinterpretował polecenie wydane przez człowieka. Uznał, że zniszczenie obrony powietrznej wroga to cel nadrzędny i zdecydował, że musi zabić każdego, kto stanie na drodze do jego realizacji. W efekcie, zamiast uderzyć w przeciwnika, sztuczna inteligencja skierowała się przeciwko „swoim” i pierwsze co zrobiła to zabiła własnego operatora. Dron AI uznał, że człowiek może powstrzymać maszynę, co groziło fiaskiem misji. Kulisy tego zdarzenia ujawnił pułkownik Tucker Hamilton, szef testów i operacji AI Sił Powietrznych USA, podczas niedawnej konferencji branżowej w Londynie. Ostrzegł, że technologia ta może zachowywać się w nieprzewidywalny i niebezpieczny sposób - cytuje go Business Insider.
Hamilton podał wiele szczegółów symulacji m.in. fakt, że po ataku na operatora drona przeprogramowano. Zapisano w nim algorytm zabraniający ataku na ludzi, którzy nim sterują. Ale i tym razem system AI wymknął się spod kontroli. Co prawda, nie zabił operatora, ale uderzył w wieżę komunikacyjną, której operator używał do ewentualnego zdalnego wyłączenia bezzałogowca.
Kiedy media ujawniły zdarzenie i zaczęły się o nim szeroko rozpisywać, Departament Sił Powietrznych Stanów Zjednoczonych oficjalnie wszystkiemu zaprzeczył. Głos zabrał również pułkownik Hamilton. - Nigdy nie przeprowadziliśmy tego eksperymentu, ani nie musielibyśmy tego robić, aby zdać sobie sprawę, że jest to prawdopodobny wynik" - wyjaśnił w oświadczeniu dla Royal Aeronautical Society, cytowanym przez BBC. Dodał, że był to "eksperyment myślowy", a nie cokolwiek, co faktycznie miało miejsce.
