Z tego artykułu dowiesz się:
- Gdzie leży granica autonomii AI i dlaczego jej przekroczenie może pociągać za sobą wielomilionowe kary?
- Dlaczego wdrożenia sztucznej inteligencji nie zawsze przynoszą oczekiwany wzrost produktywności w firmach?
- Na czym polega zasada „Human in the Loop” i jak skutecznie zarządzać systemami, by uniknąć ich błędów?
- Czym jest zjawisko „shadow AI” i dlaczego pracownicy coraz częściej korzystają z AI poza kontrolą pracodawcy?
Decyzja holenderskiego regulatora rynku danych osobowych odbiła się szerokim echem w świecie technologii – na platformę Uber nałożył on karę w wysokości niemal 825 mln euro za stosowanie wobec kierowców zautomatyzowanych systemów decyzyjnych. W przypadku algorytmicznego podejrzenia oszustwa lub odnotowania zbyt niskich ocen konta użytkowników były dezaktywowane czasowo, a w określonych sytuacjach również trwale. Organ nadzorczy jednoznacznie uznał, że kluczową wadą wdrożonego mechanizmu był brak wystarczającej kontroli ze strony człowieka i, choć zastosowane tam oprogramowanie nie było jeszcze autonomicznym agentem AI, przypadek ten dobitnie obrazuje: systemy informatyczne przestały biernie analizować rzeczywistość, zyskując zdolność bezpośredniego wpływania na los pracowników.
Człowiek może przerwać łańcuch
Wniosek z tej historii jest oczywisty: bezpieczne wykorzystanie technologii agentów AI wymaga dziś porzucenia nieskutecznych zakazów na rzecz precyzyjnego ograniczenia uprawnień i głębokiej reorganizacji procesów biznesowych. Jeszcze niedawno zastanawialiśmy się, czy sztuczna inteligencja zabierze nam pracę, później pojawiło się pytanie, czy algorytmy będą podpowiadać firmom, kogo zatrudnić, awansować albo zwolnić, a dziś zautomatyzowane systemy potrafią już podjąć decyzję, która z dnia na dzień odcina człowieka od możliwości wykonywania pracy.
Oprogramowanie, które nie tylko wykonuje wcześniej zaprogramowaną instrukcję, ale może samo dobierać kolejne kroki prowadzące do realizacji celu, zyskuje potężną moc. Taki agent może otrzymać dostęp do poczty, dokumentów, systemów firmowych, baz danych czy aplikacji finansowych, a następnie wykonywać w nich operacje bez każdorazowego pytania człowieka o zgodę, co – jak podkreśla Kamil Sadkowski, analityk cyberzagrożeń w Esecie – zasadniczo zmienia skalę ryzyka.
– W przypadku zwykłego chatbota błędem może być nieprawidłowa odpowiedź. W przypadku agenta skutkiem błędu może być już konkretne działanie: zablokowanie konta, zmiana uprawnień, wysłanie wiadomości albo uruchomienie operacji finansowej. Im większą autonomię otrzymuje AI, tym ważniejsze staje się precyzyjne określenie, co system rzeczywiście może zrobić samodzielnie – mówi Sadkowski.
Zauważa, że autonomiczny system może zadziałać w oparciu o niepełne dane, błędnie zinterpretować polecenie albo podjąć niewłaściwą decyzję pod wpływem zewnętrznej manipulacji. Lekiem może być zatem zasada ograniczonych uprawnień.
Czytaj więcej
Opublikowano dokumenty Google DeepMind, z których wynika, że inżynierowie w AI widzą nie „potulnych asystentów”, lecz „buntowników i wyrafinowanych...
– Jeżeli AI analizuje podejrzane konto, nie oznacza to, że powinna móc samodzielnie je trwale zablokować, jeśli analizuje fakturę, nie musi jednocześnie posiadać prawa do wykonania przelewu. Każde dodatkowe uprawnienie zwiększa potencjalne konsekwencje błędu albo skutecznego ataku. Z punktu widzenia bezpieczeństwa agent AI powinien być traktowany podobnie jak użytkownik posiadający dostęp do firmowych systemów – jego uprawnienia trzeba ograniczać – radzi Kamil Sadkowski. – Człowiek w takim procesie jest jednym z mechanizmów bezpieczeństwa. Może przerwać łańcuch działań, gdy system zaczyna zachowywać się niezgodnie z oczekiwaniami – dodaje.
Paradoks produktywności
Mimo obaw związanych z autonomicznymi decyzjami technologii, czołowi ekonomiści uspokajają. Erik Brynjolfsson, dyrektor Stanford Digital Economy Lab, odrzuca narrację o „masowym bezrobociu spowodowanym przez roboty”, twierdząc, że AI – zamiast niszczyć zawody – po prostu je transformuje. Technooptymistą jest również Andrew McAfee, główny badacz w MIT. Uważa, że AI trafia na rynki pracy w USA i Europie w idealnym momencie, bo te borykają się z historycznym niedoborem rąk do pracy i starzejącym się społeczeństwem. W jego ocenie technologia jawi się wręcz jako ratunek przed gospodarczą stagnacją.
Narzędzia te przenikają do codzienności w ekspresowym tempie – według najnowszej edycji raportu ADP Research „People at Work 2026” średnio 30 proc. pracowników na świecie korzysta z generatywnej sztucznej inteligencji wiele razy w tygodniu, a co piąty pracownik – prawie codziennie. Pokazuje to, jak szybko AI stała się rutynowym narzędziem pracy. Polska jednak znacząco odbiega od światowej czołówki: w naszym kraju do codziennego korzystania z programów genAI przyznaje się 12 proc. badanych, a kolejne 28 proc. używa ich kilka razy w tygodniu.
– Sama nauka nowych narzędzi to za mało; kluczem jest umiejętność płynnego wdrożenia ich w codzienne procesy. Tylko wtedy będziemy w stanie precyzyjnie zidentyfikować, gdzie pojawiają się realne wzrosty, a gdzie spadki produktywności. Taka wiedza pozwala na mądre zarządzanie technologią i uwolnienie czasu na zadania, które wymagają kreatywności, ludzkiego osądu oraz bezpośrednich relacji. To także jasna wskazówka dla pracodawców: organizacje muszą pilnie zainwestować w szkolenia dedykowane efektywnej kooperacji z AI, strategicznemu planowaniu pracy oraz nowoczesnej ocenie wyników – komentuje Anna Barbachowska, dyrektorka HR w ADP Polska.
Czytaj więcej:
Sztuczna inteligencja miała usprawniać działalność, ale wiele firm musiało najpierw zwolnić tempo. Winna nie jest technologia, lecz przedsiębiorstw...
Pro
Luki między oczekiwaniami a realnymi efektami dowodzi także badanie „Impact of Intelligent Operations”, przeprowadzone przez Zebra Technologies i Oxford Economics. Pokazuje, że w sektorze handlu detalicznego 57 proc. firm widzi potrzebę dalszej poprawy w obszarze realizacji zamówień i sprzedaży wielokanałowej. Chociaż 31 proc. podmiotów szukających usprawnień uznaje AI za kluczową dla swoich celów, to zaledwie 15 proc. tych, które odnotowały znaczący postęp w ostatnich dwóch latach, wskazało AI jako czynnik sukcesu.
Podobnie jest w zarządzaniu zadaniami – 54 proc. firm widzi potrzebę usprawnień, a 49 proc. dąży do zwiększenia czasu pracowników dla klientów. Tymczasem wśród organizacji notujących postęp aż blisko dwie trzecie odnotowało wyższy odsetek realizowanych zadań, ale zaledwie 12 proc. dostrzegło poprawę w czasie poświęcanym kupującym.
Między tym, co firmy chcą osiągnąć, a tym, co faktycznie udaje im się wdrożyć, pojawia się więc wyraźna luka.
Wyjście z czarnej skrzynki
Barierą staje się tzw. zjawisko Black Box AI (z ang. czarna skrzynka AI) – sytuacja, w której sposób dojścia algorytmu do konkluzji jest trudny do zinterpretowania lub niemożliwy do odtworzenia. Jeśli system decyduje o kwestiach prawnych, finansowych lub kadrowych, organizacja musi potrafić wykazać, jakie dane przetworzono i kto zatwierdził wynik.
– Od ponad 20 lat obserwujemy, że największe problemy organizacji rzadko wynikają z technologii. Najczęściej wynikają z niejasnej odpowiedzialności, rozproszonych informacji i procesów, które z czasem przestały nadążać za rozwojem firmy. AI pokazuje te problemy szybciej – tłumaczy dr Przemysław Sołdacki, prezes Amoditu.
Eksperci mają na to wyzwanie odpowiedź: Human in the Loop (z ang. człowiek w pętli). To podejście nie oznacza mechanicznego zatwierdzania każdego kroku AI, co paraliżowałoby efektywność, lecz świadome wyznaczenie momentów wymagających ludzkiej oceny – np. przy weryfikacji umów czy niestandardowych faktur w obiegu dokumentów.
– W wielu procesach AI może wykonać 90 proc. pracy, ale odpowiedzialność za decyzję powinna pozostać po stronie człowieka. Firmy, które wygrają wyścig AI, nie będą miały wyłącznie najlepszych modeli, będą miały najlepiej zaprojektowane procesy – to one pozwolą wykorzystać potencjał sztucznej inteligencji bez utraty kontroli nad decyzjami i odpowiedzialnością – podsumowuje Sołdacki.
Podobnie uważa prof. dr hab. Aleksandra Przegalińska, prorektorka ds. innowacji i AI Akademii Leona Koźmińskiego. Według niej rola człowieka jest krytyczna.
Czytaj więcej
Sztuczna inteligencja stała się nowym wyzwaniem dla RODO. Ponad połowa pracowników korzysta z narzędzi AI bez wiedzy pracodawców, często przesyłają...
– Sztuczna inteligencja może dziś pisać, analizować i rekomendować w sposób, który sprawia wrażenie eksperckiego, również wtedy, gdy się myli. Dlatego najważniejsze pytanie nie brzmi już, czy korzystać z AI, lecz jak zorganizować tę współpracę, aby człowiek zachował sprawczość, zdolność krytycznej oceny i odpowiedzialność za podejmowane decyzje – zastrzega.
Specjaliści ostrzegają jednak, aby nadmiernie również nie hamować i ograniczać wdrożeń systemów sztucznej inteligencji, gdyż próby wstrzymania adaptacji AI mogą skończyć się ucieczką pracowników w tzw. shadow AI, czyli stosowanie narzędzi poza kontrolą działów IT (w tzw. cieniu). Z raportu Microsoft & LinkedIn Work Trend Index wynika, że 78 proc. użytkowników na świecie wdraża AI w pracy na własną rękę. W Polsce, według danych Sharp Europe, ten odsetek to 56 proc. Pracownicy przesyłają do zewnętrznych narzędzi poufne dane finansowe, analizują w modelach AI szczegóły kontraktów czy wprowadzają do nich dane kandydatów do pracy.
– Oddolne korzystanie z niesprawdzonych i niezarządzanych modeli językowych wiąże się z ryzykiem wycieku danych oraz utraty zaufania klientów i kontrahentów – ostrzega Michał Gołębiewski, dyrektor w Integrity Partners.
