Głośna dyskusja wokół raportu przygotowanego z wykorzystaniem AI zwróciła uwagę na błędy, które znalazły się w ostatecznym materiale. Dla firm znacznie ważniejsze powinno być jednak inne pytanie: czy podobna sytuacja mogłaby wydarzyć się także u nas?
Firma musi wiedzieć, jak używa AI
Dziś pracownicy wykorzystują AI do przygotowywania analiz, dokumentów, prezentacji, kodu czy komunikacji z klientami. Problem nie polega na tym, że korzystają z AI. Problem zaczyna się wtedy, gdy organizacja nie wie, gdzie AI jest wykorzystywane, jakie dane do niego trafiają, jakie rezultaty generuje i kto odpowiada za ich weryfikację. I właśnie tutaj kończy się dyskusja o tym, czy firma „pozwala na AI”, a zaczyna realne AI Governance.
Sama polityka zapisana w dokumencie nie wystarczy. Organizacja musi być w stanie przełożyć ją na codzienny sposób korzystania z technologii: określić, z jakich modeli można korzystać, do jakich zadań, jakie dane mogą być do nich przekazywane i w którym momencie rezultat musi zostać zweryfikowany przez człowieka.
Potrzebna jest także widoczność. Firma powinna wiedzieć, kto korzysta z AI, z jakiego modelu, w jakim celu i z jakim kosztem. Powinna móc stosować wspólne reguły bezpieczeństwa oraz odtworzyć ścieżkę działania, jeśli pojawi się błąd lub wątpliwość.
Największym ryzykiem nie jest więc to, że AI czasem się pomyli. Największym ryzykiem jest sytuacja, w której organizacja nie potrafi powiedzieć, jak do tego błędu doszło, kto powinien był go wychwycić i kto odpowiadał za końcowy rezultat. Dlatego stworzyliśmy AI Governance Suite – zarządzaną warstwę pomiędzy użytkownikami i aplikacjami organizacji a wykorzystywanymi modelami AI. Pozwala ona stosować wspólne zasady bezpieczeństwa, monitorować wykorzystanie modeli i generowane koszty, powiązać korzystanie z AI z firmową tożsamością użytkownika oraz tworzyć ścieżkę audytową.
Kontrola AI to także cyfrowa suwerenność
Jest w tym również drugi wymiar. Wiele najpopularniejszych modeli AI, z których korzystają dziś europejskie firmy, powstaje poza Europą. Nie oznacza to, że powinniśmy z nich rezygnować. Powinniśmy jednak budować własne kompetencje i technologie, które pozwalają nam decydować, w jaki sposób z tych modeli korzystamy i jakie reguły bezpieczeństwa na nie nakładamy.
Dlatego AI Governance Suite rozwijamy jako rozwiązanie neutralne względem dostawcy, a jego częścią są technologie tworzone przez nas w Polsce. W ten sposób AI Governance staje się nie tylko sposobem na bezpieczne korzystanie ze sztucznej inteligencji, ale również elementem budowania cyfrowej suwerenności – lokalnych kompetencji, know-how i technologii, które zmniejszają zależność od rozwiązań rozwijanych poza Polską i Europą.
Nie chodzi przy tym o blokowanie AI ani kontrolowanie każdego promptu. Chodzi o stworzenie takich granic, w których pracownicy mogą korzystać z AI szybko i wygodnie, ale organizacja nie traci nad tym kontroli.
Bo odpowiedzialne AI nie zaczyna się od pytania: „Czy możemy tego użyć?”. Zaczyna się od pytania: „Czy wiemy, jak tego używamy, kto sprawdza rezultat i czy potrafimy wziąć za niego odpowiedzialność?”.
