„Sytuacja stanie się niebezpieczna”. Ruszył nowy wyścig zbrojeń w AI

Na sprawę zwraca uwagę amerykański serwis NBC News.

Sztuczna inteligencja wykorzystana w kampanii rosyjskich hakerów

Tego lata po raz pierwszy rosyjscy hakerzy zastosowali nową metodę ataków na masowe wiadomości phishingowe wysyłane do Ukraińców. Dodali do nich załącznik zawierający program sztucznej inteligencji, który po zainstalowaniu automatycznie skanował komputery ofiar w poszukiwaniu poufnych plików, a następnie wysyłał je do hakerów.

Czytaj więcej

IT

Można stracić kontrolę nad sztuczną inteligencją. Eksperci alarmują po ataku

Czy można zaufać botom? Ryzyko rośnie, nie tylko z uwagi na tzw. halucynacje AI, ale też możliwoś...

Proceder ten został szczegółowo opisany w lipcowych raportach technicznych zarówno przez ukraiński rząd, jak i przez kilka firm zajmujących się cyberbezpieczeństwem. Jest pierwszym znanym przypadkiem wykrycia faktu, że rosyjski wywiad tworzy złośliwy kod z wykorzystaniem dużych modeli językowych (LLM), czyli rodzaju chatbotów opartych na sztucznej inteligencji.

Wyścig zbrojeń w dziedzinie sztucznej inteligencji

Kampania Rosjan nie była jedyną tego rodzaju działalnością w ostatnich miesiącach. Narzędzia sztucznej inteligencji w swojej pracy zaczęli wykorzystywać różni hakerzy – cyberprzestępcy, szpiedzy, badacze i obrońcy korporacyjni. Chociaż modele LLM, takie jak ChatGPT, są cały czas podatne na błędy, to niezwykle sprawnie przetwarzają instrukcje językowe i tłumaczą prosty język na kod komputerowy, a także identyfikują i podsumowują dokumenty. Jak dotąd technologia ta nie zrewolucjonizowała hakowania, jednak sprawiła, że doświadczeni hakerzy stali się lepsi i szybsi.

Czytaj więcej

IT

Nowa mapa pracy i zarobków w polskim IT. Najbardziej poszukiwani już nie juniorzy

Po miesiącach zastoju rynek pracy IT znów się ożywia – ale tym razem to nie juniorska gorączka, l...

Między hakerami a firmami i badaczami zajmującymi się cyberbezpieczeństwem rozpoczął się, jak zauważa NBC News, wyścig zbrojeń w dziedzinie sztucznej inteligencji. Hakerzy znajdują i wykorzystują luki w oprogramowaniu, natomiast firmy i badacze próbują naprawić je jako pierwsi.

W 2024 roku zespół Heather Adkins, wiceprezes Google ds. inżynierii bezpieczeństwa, rozpoczął projekt, w ramach którego Gemini, program LLM firmy Google, wykrywa istotne luki w zabezpieczeniach oprogramowania lub błędy, zanim znajdą je hakerzy. Na początku sierpnia ogłoszono, że w ramach projektu odkryto dotychczas co najmniej 20 ważnych, przeoczonych błędów w powszechnie używanym oprogramowaniu i powiadomiono firmy, aby mogły je naprawić.

Jak podkreśliła Heather Adkins, proces wykrywania luk i błędów jest dzięki sztucznej inteligencji szybszy.

Hakerzy coraz częściej wykorzystują sztuczną inteligencję

Adam Meyers z CrowdStrike, firmy zajmującej się cyberbezpieczeństwem, przyznał w wywiadzie dla NBC News, że zauważa coraz więcej dowodów stosowania sztucznej inteligencji wśród chińskich, rosyjskich, irańskich i przestępczych hakerów, których śledzi jego firma.

– Bardziej zaawansowani przeciwnicy wykorzystują ją na swoją korzyść. Z każdym dniem obserwujemy coraz więcej takich przypadków – powiedział Meyers.

Wykorzystanie sztucznej inteligencji do bezpośredniego hakowania celów dopiero zaczyna się rozwijać, jak przyznał z kolei Will Pearce, dyrektor generalny DreadNode, jednej z niewielu nowych firm zajmujących się bezpieczeństwem, które specjalizują się w hakowaniu z wykorzystaniem metod LLM. Zdaniem tego specjalisty technologia w końcu zaczęła nadążać za oczekiwaniami. Jeszcze niespełna dwa lata temu zautomatyzowane narzędzia hakerskie oparte na sztucznej inteligencji, aby prawidłowo wykonywać swoją pracę, wymagały sporych modyfikacji. Aktualnie są one już o wiele bardziej zaawansowane.

W czerwcu start-up Xbow zajmujący się hakowaniem z wykorzystaniem sztucznej inteligencji został pierwszym w historii start-upem z AI, który znalazł się na szczycie rankingu HackerOne – istniejącego od 2016 roku zestawienia hakerów identyfikujących najważniejsze luki w zabezpieczeniach.

Sztuczna inteligencja pomoże atakującym czy obrońcom?

Wśród hakerów i specjalistów ds. cyberbezpieczeństwa nie ma zgodności w kwestii tego, czy sztuczna inteligencja ostatecznie okaże się bardziej pomocna dla atakujących czy dla broniących się. Obecnie, jak podkreśla serwis NBC News, przewagę wydają się mieć ci drudzy.

Dalsze utrzymywanie się tej tendencji prognozuje Alexei Bulazel, starszy dyrektor ds. cyberbezpieczeństwa w Radzie Bezpieczeństwa Narodowego Białego Domu, który swoje stanowisko przedstawił w czasie sierpniowej konferencji hakerów Def Con w Las Vegas. Jego zdaniem przewaga broniących się nad atakującymi utrzymać ma się przynajmniej, dopóki Stany Zjednoczone będą posiadać większość najbardziej zaawansowanych technologicznie firm na świecie. W systemach zabezpieczeń tych firm hakerzy rzadko bowiem znajdują poważne luki. Znacznie częściej udaje im się to w przypadku mniejszych firm, które nie mają tak rozwiniętych zespołów ds. cyberbezpieczeństwa. Jak zaznaczył Bulazel, w wykrywaniu tego rodzaju błędów, jeszcze zanim zrobią to przestępcy, szczególnie pomocna jest sztuczna inteligencja.

Czytaj więcej

Globalne Interesy

Nowy ChatGPT rozczarował. Twórca przyznaje: „AI to bańka spekulacyjna”, ale chce wydać biliony

Sam Altman mierzy się z falą krytyki po premierze nowego modelu GPT-5. Zapowiada personalizację C...

– Sztuczna inteligencja jest lepsza w takich dziedzinach, jak identyfikacja luk w zabezpieczeniach przy niskich kosztach i w prosty sposób, co naprawdę demokratyzuje dostęp do informacji o lukach – przyznał Bulazel.