Do ataku doszło 6 lipca w Zaporożu, mieście położonym kilkanaście kilometrów od linii frontu. Niewielki rosyjski dron zaczął gwałtownie opadać w kierunku stacji benzynowej. Uderzył jednak w ścianę budynku obok i eksplodował. Zginęli 19-letnia studentka Tetiana Bubyneć, 41-letni Ołeksij Swirin i 48-letni Roman Karpij.
O ataku zupełnie innym od tysięcy dotychczasowych uderzeń rosyjskich bezzałogowców pisze „The New York Times”. Ukraińscy dowódcy, eksperci od dronów oraz zespół badający szczątki maszyny doszli do wniosku, że nie sterował nią człowiek. Operatorzy mieli wcześniej skierować drona w rejon konkretnej stacji benzynowej, ale po dotarciu na miejsce system sztucznej inteligencji sam wybierał dokładny cel. Prawdopodobnie były nim zbiorniki z propanem, które algorytm wcześniej nauczono rozpoznawać.
– To ryzyko dla całego świata – powiedział płk Serhij Minajew, dowódca obrony powietrznej w Zaporożu. – Za kilka lat będziemy żyć w filmie „Terminator”. To nie żarty. To maszyny podejmują decyzje o uderzeniu.
Komputer Nvidii wewnątrz drona
Jednym z najważniejszych dowodów były szczątki rosyjskich maszyn. Dziennikarze „The New York Timesa” widzieli dwa drony, które nie eksplodowały podczas wcześniejszych ataków. W ich wnętrzu znajdowały się minikomputery Nvidia Jetson Orin. Amerykański koncern potwierdził gazecie, że sfotografowane urządzenie jest jego produktem.
Czytaj więcej
Pierwsze humanoidy pojawiły się na ukraińskim froncie, a kolejnym krokiem mają być uzbrojone roboty. Wojna staje się poligonem dla nowej technologii.
Ukraińscy specjaliści zwrócili również uwagę na brak anten służących do zdalnego sterowania. Sam w sobie nie dowodziłby on jeszcze autonomicznego wyboru celu – maszyna mogłaby poruszać się po wcześniej zaprogramowanej trasie. Jednak analiza niezaszyfrowanego modułu pozwoliła Ukraińcom odczytać zapisane w nim zdjęcia terenu oraz kod. Według ekspertów wynikało z niego, że system został nauczony rozpoznawania i atakowania określonych obiektów, w tym zbiorników z propanem.
– To było wstępnie zaprogramowane narzędzie wytrenowane w wirtualnej rzeczywistości do śledzenia konkretnych obiektów – ocenił Wadym Kusznikow, ekspert ds. dronów z Charkowskiego Instytutu Lotniczego.
Nvidia podkreśla, że Jetson Orin jest produktem cywilnym, sprzedawanym m.in. studentom, programistom i startupom do wielu zastosowań. Firma nie sprzedaje go w Rosji, choć urządzenia można tam zdobyć za pośrednictwem pośredników. Moduł kosztuje zaledwie kilkaset dolarów.
Człowiek znika z procesu decyzyjnego
AI już wcześniej była wykorzystywana przez Rosję i Ukrainę w dronach. Zasadnicza różnica polega jednak na roli człowieka. W wielu dotychczasowych rozwiązaniach operator wybierał cel, a sztuczna inteligencja przejmowała sterowanie dopiero na „ostatniej mili”, pomagając maszynie trafić w już wskazany obiekt.
W systemie opisanym przez amerykański dziennik człowiek miał zniknąć z procesu ostatecznego wyboru celu. Dron dociera w wyznaczony rejon, analizuje obraz z własnych kamer, rozpoznaje obiekty, na których identyfikację został wytrenowany, i podejmuje decyzję o ataku.
Kateryna Bondar, starsza analityczka Centrum AI Wadhwani przy Center for Strategic and International Studies, ocenia, że jeśli ustalenia dotyczące ataku z 6 lipca się potwierdzają, byłby to pierwszy udokumentowany przypadek śmierci cywilów w wyniku rosyjskiego ataku dronem wykorzystującym taki system samonaprowadzającej AI. Obecność modułu Nvidii nazwała „najlepszym dowodem” na eksperymentowanie Rosji z autonomiczną sztuczną inteligencją.
Czytaj więcej
Sztuczna inteligencja bez nadzoru człowieka zdecyduje o życiu i śmierci? Mocarstwa debatują, jak zahamować to zagrożenie, ale – jak ustaliła „Rzecz...
Rosjanie mają testować w rejonie Zaporoża autonomiczne systemy m.in. na masowo produkowanych dronach Mołnija oraz V2U. Według lokalnych służb celem były nie tylko obiekty wojskowe, lecz także stacje benzynowe, dystrybutory paliwa i zbiorniki z propanem.
Broń, która sama podejmuje decyzję
Rozwój takich systemów wywołuje od lat spór. Organizacje praw człowieka i Międzynarodowy Komitet Czerwonego Krzyża sprzeciwiają się broni, w której człowiek nie uczestniczy w decyzji o wyborze i zaatakowaniu celu. Obawiają się m.in., że algorytm może nie odróżnić żołnierza od cywila albo niewłaściwie zinterpretować sytuację na polu walki.
Zwolennicy wojskowej AI argumentują z kolei, że odpowiednio wyszkolony system może być precyzyjniejszy od tradycyjnej amunicji. Autonomiczny dron może oceniać sytuację jeszcze chwilę przed uderzeniem, podczas gdy pocisk artyleryjski czy niekierowana bomba po wystrzeleniu nie mają już takiej możliwości.
Czytaj więcej
Świat musi zobaczyć, że Rosja oszalała - oświadczył we wtorek prezydent Ukrainy Wołodymyr Zełenski w reakcji na atak rosyjskiego drona na cywila w...
Także Ukraina testuje w pełni autonomiczne rozwiązania. Mychajło Fedorow mówił „The New York Timesowi”, że ukraińskie systemy były w ostatnich miesiącach sprawdzane na okupowanym Krymie przeciwko magazynom paliwa i sprzętowi wojskowemu. Według niego w testach nie zginęli cywile.
Algorytmy uczą się na wojnie
Mieszkańcy Zaporoża już próbują bronić się przed nowym zagrożeniem. Nad setkami kilometrów dróg rozciągane są siatki antydronowe. Stosowany jest też kamuflaż mający oszukiwać systemy rozpoznawania obrazu. Wokół zbiorników z propanem ustawiane są pod nietypowymi kątami plastikowe płachty, aby utrudnić algorytmom identyfikację celu.
Atak z 6 lipca pokazał zarazem niedoskonałość testowanej technologii. Dron zmierzał w stronę stacji benzynowej, ale nie zdołał ominąć budynku. Eksplozja zabiła ludzi znajdujących się w pobliżu. 19-letnia Tetiana Bubyneć próbowała uciekać, gdy maszyna nadlatywała w jej kierunku. Zmarła po przewiezieniu do szpitala.
Czytaj więcej
Amerykańska firma Foundation rozpoczyna masową produkcję humanoidów, które mają zastąpić ludzi w niebezpiecznych operacjach wojskowych. Eksperci os...
Dla ukraińskich wojskowych nie oznacza to jednak, że Rosjanie zrezygnują z technologii. Przeciwnie – każde takie użycie może dostarczać informacji potrzebnych do jej ulepszania.
– Oni trenują tę technologię – powiedział płk Minajew. – Sztuczna inteligencja jest dobra, ale jeszcze nie doskonała. Szukają błędów i będą je poprawiać.
