Jeszcze niedawno dyskusja w firmach koncentrowała się na pilotażach generatywnej sztucznej inteligencji. Dziś coraz więcej dużych organizacji jest już krok dalej. AI wchodzi do podstawowych procesów, a firmy zastanawiają się, jak ją skalować, kontrolować i nie stracić przy okazji kompetencji, których za kilka lat mogą potrzebować. O tym, co dzieje się po przejściu od eksperymentów do wdrożeń na dużą skalę, rozmawiali w podcaście „Rzeczpospolitej” i Billennium z cyklu „AI Made in Poland” Paweł Wrona, CFO i członek zarządu Billennium, Michał Kopyt, CIO i członek zarządu PZU Życie, oraz prof. Bogumił Kamiński ze Szkoły Głównej Handlowej.

O tym, co dzieje się po przejściu od eksperymentów do wdrożeń na dużą skalę, rozmawiali w podcaście „Rzeczpospolitej” i Billennium z cyklu „AI Made in Poland” Paweł Wrona, CFO i członek zarządu Billennium, Michał Kopyt, CIO i członek zarządu PZU Życie, oraz prof. Bogumił Kamiński ze Szkoły Głównej Handlowej.

Skala zmian zaskakuje nawet ludzi, którzy bezpośrednio nimi zarządzają. – Projekty, które uruchamiamy, są dużo bardziej odważne niż były, bo można więcej. Oczekujemy też dużo większych korzyści – mówi Michał Kopyt.

Najbardziej wymownym przykładem jest tworzenie oprogramowania. Menedżer odpowiada za obszar technologiczny, w którym pracuje około tysiąca osób. Jeszcze rok temu generatywna AI przede wszystkim pomagała programistom pisać fragmenty kodu. – Po pół roku prawie 40 proc. tego kodu jest tworzone już od początku do końca przez LLM-y na tak dużej populacji deweloperów. Od dwóch, trzech miesięcy robi się już 90 proc. kodu w niektórych zespołach, bo agenci zaczynają robić cały proces od początku do końca – mówi Kopyt.

Od pomysłu do powstania dużego fragmentu oprogramowania mogą dziś minąć zaledwie dwa dni. Wąskim gardłem stają się ludzie, którzy muszą sprawdzić efekt pracy maszyn.

PZU przeszło już od rozproszonych eksperymentów do wyboru procesów, które AI ma rzeczywiście zmieniać. Z ponad 50 pomysłów wybrano dziesięć dużych inicjatyw transformacyjnych, dotyczących m.in. pracy z klientami, dokumentami i likwidacji szkód. Firma zbudowała własną platformę AI działającą na dwóch chmurach. Według Kopyta korzysta z około 1,5 tys. modeli i ma około 2 tys. aktywnych agentów. Warunkiem przejścia do takiej skali – przekonuje menedżer – pozostaje jednak ekonomia.

Paweł Wrona ujmuje to podobnie: trzeba wskazać konkretny problem, policzyć czas ludzi potrzebny do jego rozwiązania i zestawić potencjalną korzyść z ryzykiem. – Decyzja zawsze będzie na koniec dnia, mam nadzieję, finansowa, nie emocjonalna – zaznacza.

Prof. Bogumił Kamiński zwraca uwagę, że w wielu zastosowaniach największą przewagą AI nie jest dziś zdolność zrobienia czegoś, czego człowiek nie potrafi, lecz ogromne przyspieszenie pracy. Połączenie doświadczenia człowieka z szybkością maszyny daje największe korzyści. Problem pojawia się, gdy z AI korzysta ktoś, kto nie potrafi ocenić jej odpowiedzi.

– Wyzwanie się zaczyna wtedy, jeżeli ludzie zaczynają zadawać pytania odnośnie do dziedzin, co do których sami nie mają dostatecznie dużej wiedzy, żeby być w stanie w sposób wiarygodny weryfikować to, co dostają – mówi Kamiński.

Wrona obserwuje ten mechanizm we własnej pracy. Przy jednym z procesów akwizycyjnych korzystał z modeli AI zamiast zewnętrznych doradców. Dzięki wieloletniemu doświadczeniu był jednak w stanie ocenić ich pracę, również w kwestiach prawnych i podatkowych.

I tu mamy do czynienia z paradoksem. AI może radykalnie zwiększyć produktywność doświadczonych specjalistów, ale jednocześnie utrudnić zdobywanie doświadczenia ich następcom.

– Znajdziemy się w pewnym momencie w takiej hybrydowej gospodarce, gdzie będą dyrygenci z dużym doświadczeniem, którzy mają sieć agentów i będą w stanie ocenić wynik ich pracy. Natomiast zrobi się pustynia ludzi, którzy nie zdążą nabyć doświadczenia na kolejną generację dyrygentów – ostrzega Wrona.

To samo zjawisko widać na uczelniach. Profesor może dzięki AI szybciej przygotować dobry tekst, bo potrafi rozpoznać błędy. Student, który od początku oddaje tę pracę modelowi, może jednak nie zdobyć tej umiejętności. Bogumił Kamiński przyznaje, że na uczelniach dyskutowano nawet o sensie utrzymywania prac dyplomowych w dotychczasowej formie. – Będą pewne kompetencje, których studenci nie nabiorą, dlatego że nie będą musieli – zauważa.

Pytanie, czy za dekadę nadal będą potrzebne. Część może podzielić los umiejętności posługiwania się suwakiem logarytmicznym. Jeśli jednak AI nie stanie się całkowicie niezawodna, brak ludzi potrafiących samodzielnie wykonać i zweryfikować zadanie może być problemem.

Im więcej procesów przejmują agenci, tym ważniejsze staje się więc pytanie, gdzie pozostawić człowieka. Pracownik może w przyszłości nie wykonywać sam całego procesu, lecz jedynie kontrolować dziesiątki decyzji podejmowanych przez AI. Powstaje nowe ryzyko: czy naprawdę sprawdza wynik maszyny, czy tylko automatycznie go zatwierdza?

Jednym z rozwiązań jest dzielenie dużych procesów na mniejsze etapy, których wyniki można niezależnie sprawdzić. Kamiński uważa taką dekompozycję za jeden z kluczowych mechanizmów bezpieczeństwa. Wrona wskazuje, że Billennium rozwija rozwiązania pozwalające monitorować ruch agentów, kontrolować treść promptów i dostęp do informacji. W proces można też wbudować punkty kontrolne, których AI nie może samodzielnie ominąć.

Problem polega na tym, że coraz inteligentniejsze modele mogą uczyć się również sposobów, w jakie są kontrolowane. Dlatego Kopyt wskazuje granicę, której szczególnie nie chciałby przekroczyć. – Najbardziej będę bał się momentu, kiedy AI będzie ustawiała nam proces weryfikacji AI. Uważam, że jesteśmy pół centymetra od tego – mówi.

Co zatem najbardziej hamuje skalowanie AI – technologia, dane, regulacje czy kultura organizacyjna? Rozmówcy byli tu wyjątkowo zgodni. – Uważam, że to jest kwestia mimo wszystko bardzo ludzka – mówi Wrona. – To jest największe wyzwanie: jak pokazać ludziom, że dobra, zabiorę ci to, ale dam ci to. To jest klucz, bo technologia nie jest problemem.

Paweł Wrona przeprowadził nawet eksperyment na sobie. Zapytał swoich agentów AI, jaka część jego kompetencji jako menedżera może zostać przez nie zastąpiona w ciągu trzech–pięciu lat. Odpowiedź: 63 proc. – Rozwijaj pozostałe, które ci zostały, bo to w nich jest twój przetrwalnik – tak Wrona streszcza radę, którą dostał od AI. – Naprawdę to jest bardzo ciekawe doświadczenie, terapeutyczne wręcz.

Kamiński przypomina, że poprzednie rewolucje technologiczne również niszczyły część dotychczasowych zajęć, by później stworzyć nowe. AI niesie jednak dodatkowe ryzyko: nie tylko pozwala szybciej realizować dobre pomysły. Równie skutecznie może przyspieszyć realizację złych. – Jeżeli zadam złe pytanie albo będę miał słaby pomysł, to jego tak samo szybko się da wyskalować jak te dobre pomysły – ostrzega Kamiński.

Dlatego wraz z możliwościami AI musi rosnąć znaczenie kontroli, odpowiedzialności i regulacji. Szczególnie w finansach czy ubezpieczeniach, gdzie decyzje algorytmów bezpośrednio dotykają klientów.

Technologia przestaje więc być – przekonują uczestnicy podcastu – główną barierą dla skalowania AI. Coraz większym wyzwaniem staje się człowiek – jego kompetencje, zdolność kontrolowania maszyn i gotowość do oddania im części własnej pracy.

Materiał powstał we wpółpracy z BILLENNIUM SA