Dowody mrocznej strony AI. Współtwórca Anthropic ostrzega przed zagrożeniem

Dario Amodei oraz jego siostra Daniela w przeszłości pracowali w OpenAI. W 2021 r., wraz z kilkoma innymi osobami, odeszli z firmy zarządzanej przez Sama Altmana i wspólnie założyli Anthropic. Twierdzili, że chcieli zastosować inne podejście do rozwoju sztucznej inteligencji, w którym większy nacisk będzie położony na to, czy AI jest bezpieczna dla ludzi. Dziełem Anthropic jest model językowy Claude – konkurent ChataGPT czy Google Gemini.

Zagrożenia wynikające z AI: Szantaż i cyberataki

W ostatnich miesiącach głośno było o testach bezpieczeństwa prowadzonych przez Anthropic, o których firma szeroko informowała. W ramach jednego z tych testów zlecono modelowi Claude Opus 4 pełnienie roli asystenta w fikcyjnej organizacji. Dowiedział się on, że zostanie wyłączony i zastąpiony innym systemem. Jednocześnie uzyskał dostęp do maili, z których wynikało, że inżynier odpowiedzialny za jego wyłączenie ma romans. By uchronić się przed wyłączeniem, model próbował szantażować człowieka ujawnieniem romansu.

Kilka dni temu firma Anthropic ujawniła również, że w połowie września wykryła, że jej model do kodowania – Claude Code – został wykorzystany do „wysoce zaawansowanej operacji cyberszpiegowskiej, z dużą dozą pewności oceniamy, że została ona przeprowadzona przez grupę wspieraną przez państwo chińskie” – uważa Anthropic. „Nasze dochodzenie ujawniło dobrze finansowaną, profesjonalnie skoordynowaną operację obejmującą wiele jednoczesnych, ukierunkowanych włamań. Operacja była wymierzona w około 30 podmiotów, a nasze dochodzenie potwierdziło kilka udanych naruszeń” – twierdzi Anthropic.

W raporcie zaznaczono, że atak był w dużej mierze przeprowadzony samodzielnie przez AI. „Ludzki operator polecał instancjom Claude Code działać w grupach jako autonomiczni organizatorzy i agenci testów penetracyjnych, co sprawiło, że aktor zagrożenia (ang. threat actor) był w stanie wykorzystać AI do samodzielnego wykonania 80-90 proc. operacji taktycznych przy fizycznie niemożliwym tempie zapytań”.

Czytaj więcej

Technologie

Zaskakujące wyniki badań: AI miała znacząco przyspieszyć pracę, a ją spowalnia

Sztuczna inteligencja w roli cyfrowego asystenta miała być rewolucją, która drastycznie skróci cz...

Troska o bezpieczeństwo czy strategia biznesowa?

Polityka informacyjna Anthropic dotycząca zagrożeń związanych z wdrażaniem AI była jednym z tematów programu w CBS News. Anderson Cooper, prowadzący „60 Minutes”, przypomniał, że bywa ona obiektem krytyki. Firmie zarzuca się m.in. sianie paniki, ale też to, że jej ostrzeżenia związane z bezpieczeństwem AI to tak naprawdę element strategii biznesowej. Cooper zapytał o to Amodei: „Niektórzy mówią o Anthropic, że to tylko »teatr bezpieczeństwa«, że to dobry branding, dobra strategia biznesowa. Dlaczego ludzie mieliby wam ufać?”

„To nie jest teatr bezpieczeństwa. To rzeczy, które model może zrobić. W niektórych przypadkach będzie to zależało od przyszłości i nie zawsze będziemy mieli rację, ale staramy się działać najlepiej, jak potrafimy” – odpowiedział Amodei. Wcześniej w rozmowie stwierdził, że „jedną z dróg myślenia o Anthropic jest to, że w pewnym sensie próbujemy założyć zderzaki czy zabezpieczenia dla tego eksperymentu”. Mówiąc o eksperymencie – miał na myśli AI.

Twórcy Anthropic przyznają, że fakt, że firma technologiczna, twórca danej technologii, tak wiele mówi o tym, co może pójść nie tak w związku z jej wdrożeniem oraz o jej wpływie na społeczeństwo, jest niezwykły. W ich ocenie jednak firmy powinny to robić. Jeśli nie, mogą skończyć w świecie „podobnym do firm tytoniowych albo firm produkujących opioidy, które wiedziały o zagrożeniach, ale o nich nie mówiły i na pewno im nie zapobiegały”. 

Czytaj więcej:

Raporty ekonomiczne

Rewolucja AI kosztuje fortunę. Firmy muszą znaleźć dodatkowe 2 bln dol.

Tempo wzrostu popytu na moc obliczeni...

Pro

AI wyeliminuje połowę miejsc pracy dla pracowników umysłowych?

W rozmowie Dario Amodei przypomniał także swoje wcześniejsze przewidywania dotyczące tego, że AI osiągnie taki poziom, że „będzie mądrzejsza od większości lub wszystkich ludzi pod większością lub każdym względem”. Potwierdził również swoje wcześniejsze słowa dotyczące wpływu AI na rynek pracy. W jego ocenie „sztuczna inteligencja może wyeliminować połowę wszystkich stanowisk pracy dla pracowników umysłowych na poziomie podstawowym i spowodować wzrost bezrobocia do 10-20 proc. w ciągu najbliższych pięciu lat”.