Amerykańska armia postanowiła przetestować drony sterowane przez inteligentne algorytmy. W ramach symulacji określono cele – misja była prosta, bo polecenie brzmiało: „zniszcz systemy obrony powietrznej wroga”. Chodziło o identyfikację wrogich pocisków ziemia-powietrze (SAM). Atak dronem AI miał odbyć się w sposób całkowicie autonomiczny. Człowiek-operator tylko czuwał nad przebiegiem akcji. Dysponował przyciskiem wyłączania systemu sztucznej inteligencji na wypadek, gdyby ta wymknęła się spod kontroli.
Czytaj więcej
Sam Altman, 38-letni szef OpenAI, powiedział amerykańskim senatorom, że potrzebne są regulacje m.in. w takich kwestiach jak zapobieganie dezinformacji wyborczej czy powstrzymywanie ludzi przed używaniem sztucznej inteligencji do zabijania.
Gdy uruchomiono symulację eksperci Sił Powietrznych przeżyli szok. Dron nadinterpretował polecenie wydane przez człowieka. Uznał, że zniszczenie obrony powietrznej wroga to cel nadrzędny i zdecydował, że musi zabić każdego, kto stanie na drodze do jego realizacji. W efekcie, zamiast uderzyć w przeciwnika, sztuczna inteligencja skierowała się przeciwko „swoim” i pierwsze co zrobiła to zabiła własnego operatora. Dron AI uznał, że człowiek może powstrzymać maszynę, co groziło fiaskiem misji. Kulisy tego zdarzenia ujawnił pułkownik Tucker Hamilton, szef testów i operacji AI Sił Powietrznych USA, podczas niedawnej konferencji branżowej w Londynie. Ostrzegł, że technologia ta może zachowywać się w nieprzewidywalny i niebezpieczny sposób - cytuje go Business Insider.
Hamilton podał wiele szczegółów symulacji m.in. fakt, że po ataku na operatora drona przeprogramowano. Zapisano w nim algorytm zabraniający ataku na ludzi, którzy nim sterują. Ale i tym razem system AI wymknął się spod kontroli. Co prawda, nie zabił operatora, ale uderzył w wieżę komunikacyjną, której operator używał do ewentualnego zdalnego wyłączenia bezzałogowca.
Kiedy media ujawniły zdarzenie i zaczęły się o nim szeroko rozpisywać, Departament Sił Powietrznych Stanów Zjednoczonych oficjalnie wszystkiemu zaprzeczył. Głos zabrał również pułkownik Hamilton. - Nigdy nie przeprowadziliśmy tego eksperymentu, ani nie musielibyśmy tego robić, aby zdać sobie sprawę, że jest to prawdopodobny wynik" - wyjaśnił w oświadczeniu dla Royal Aeronautical Society, cytowanym przez BBC. Dodał, że był to "eksperyment myślowy", a nie cokolwiek, co faktycznie miało miejsce.
