Dzień bezpiecznego internetu. Rozmowa z Michałem Wroczyńskim z Samurai Labs

Czas, aby technologie, które stworzyły problem przemocy online, odegrały kluczową rolę w powstrzymaniu tej epidemii – mówi lekarz i przedsiębiorca rozwijający laboratorium badań nad sztuczną inteligencją Samurai Labs.

Czy jest jakiś „przepis” na to, aby internet był bezpieczny? Jakie kluczowe działania powinny być podejmowane w tym celu?

Współczesny internet z sieci, która służyła do wymiany danych pomiędzy naukowcami, ewoluował do globalnego systemu wymiany informacji. Stał się odbiciem rzeczywistego otoczenia, a oba te światy stały się nierozerwalne. Tak jak ludzkość, która od początku istnienia stale zmaga się z kwestiami przemocy i bezpieczeństwa. Kwestie te zaczynają być równie palące w wirtualnym świecie.

My w Samurai Labs zajmujemy się używaniem sztucznej inteligencji do leczenia objawowego – zmniejszaniem ilości przemocy w Internecie. Kluczem jest holistyczne podejście do rozwiązania tego problemu.

W USA codziennie 12 dzieci popełnia samobójstwo, w Polsce odsetek ten zaczyna sięgać już 2 skutecznych samobójstw dziennie. W USA głównym powodem targnięć na własne życie jest cyberprzemoc

Z jednej strony edukacja i wychowanie oraz zmiany postaw i tworzenie nowej kultury interakcji przez wyrabianie w sobie umiejętności bycia w świecie cyfrowym. Cały wachlarz działań jest niezbędny, abyśmy mogli opanować tę groźną epidemię XXI wieku, czyli błyskawicznie szerzącą się w internecie przemoc. Zagadnienia te rozkładają się zarówno na właścicieli portali społecznościowych oraz wydawców serwisów, szkoły, rodziców, jak i każdego z nas. Ważny jest sposób w jaki reagujemy na zachowania przemocy. To właśnie w braku reakcji, w zobojętnieniu na przemoc, naukowcy widzą główną przyczynę tak szybkiego jej rozprzestrzeniania. Portale społecznościowe czy wydawcy gier online mogą szczególnie dużo zrobić jeśli chodzi o zadbanie o bezpieczeństwo swoich użytkowników.

To znaczy?

W rzeczywistym świecie zamykamy domy i samochody, chronimy swój majątek i bliskich, stosujemy alarmy i technologie aby poprawić swoje bezpieczeństwo. Teraz przyszedł czas na takie dobre rozwiązania w internecie. Na imprezach masowych, w klubach czy placówkach bankowych przyzwyczailiśmy się do policjantów, ochroniarzy i systemów alarmowych. Chronimy komputery systemami antywirusowymi, a nie chronimy siebie i swoich bliskich w sieci. Myślę, że bezpieczeństwo będzie dla rodziców jednym z najważniejszych czynników przy wyborze gry czy społeczności.

CZYTAJ TAKŻE: Dzień bezpiecznego internetu. Rozmowa z Marcinem Bochenkiem z NASK

Już niebawem będziemy mieć swoich “aniołów stróżów” a w tej roli najlepiej spisze się sztuczna inteligencja, która będzie aktywnie chroniła nas przez stalkerami i przemocą.
Aktywna ochrona, która czuwa, aby pedofil nie umówił się z dzieckiem, zareaguje na cybernękanie, zablokuje patostreamimg w czasie rzeczywistym – staje się niezbędna wobec lawinowego wzrostu zagrożeń w internecie. Według Raportu Naczelnej Izby Kontroli tylko co dziesiąte dziecko zgłasza przemoc. Bez aktywnej ochrony większość dzieci zostaje sama z tym problemem. Stawanie w obronie ofiary stanowi jeden z najbardziej skutecznych sposobów powstrzymania agresji, jednak świadkowie rzadko decydują się na podjęcie takiego działania, nawet jeśli identyfikują zachowanie sprawcy jako niewłaściwe.

Jakie są największe zagrożenia związane z internetem dla najmłodszych?

Szeroko rozumiana cyberprzemoc ma poważne następstwa, – szczególnie w kontekście dzieci i młodzieży. Konsekwencje mogą być różne i dotykać wielu obszarów życia dziecka. Poczynając od pogorszenia relacji interpersonalnych, zaburzeń psychosomatycznych
– takich jak: spadek odporności, zaburzenia snu czy otyłość, kończąc na doświadczaniu permanentnego stresu i diametralnym obniżeniu poczucia własnej wartości, które często prowadzi do próby samobójczej. W USA codziennie 12 dzieci popełnia samobójstwo, w Polsce odsetek ten zaczyna sięgać już 2 skutecznych samobójstw dziennie. W USA głównym powodem targnięć na własne życie jest cyberprzemoc.

Kolejnym równie wstrząsającym skutkiem cyberbullyingu jest przenoszenie przemocy z sieci do realnego świata. Najbardziej ekstremalną formą są szkolne strzelaniny.

Jaki mają związek z cyberprzemocą?

Wszyscy ci uczniowie, którzy dokonali szkolnych masakr z użyciem broni palnej, wcześniej byli nękani w sieci przez swoje otoczenie. Wiele prac naukowych udowodniło korelacje pomiędzy mową nienawiści a przemocą z nienawiści. Szczególnie wyraźnie widoczne jest to w Wielkiej Brytanii, gdzie hejt był motorem Brexitu. Dane wskazują, że na przestrzeni 2016-2017 roku ilość przemocy w Zjednoczonym Królestwie, na tle nienawiści wzrosła o 29 proc.
Tak wypaczona rzeczywistość pełna przemocy, powoduje zwłaszcza u młodych ludzi przekonanie o świecie jako miejscu wrogim i niebezpiecznym, a o ludziach jako niegodnych zaufania czy szacunku. Te negatywne, obraźliwe i szokujące treści wywołują reakcje stresowe, a przedłużona ekspozycja na stres prowadzi do wyczerpania zasobów odpornościowych, co z kolei kończy się chorobami psychosomatycznymi.

Szantaże, próby wyłudzenia informacji, intymnych zdjęć to także codzienność w wirtualnym świecie, sextrafficking czyli werbowanie dzieci do prostytucji staje się w USA jednym z groźniejszych zagadnień. W związku z tym legislator uczynił wydawców, takich jak Facebook czy Google odpowiedzialnymi prawnie.

Cyberpredator, który poluje na dzieci w sieci i w sprytny sposób manipuluje ich emocjami, jest bardzo groźnym osobnikiem. Takie działanie może być równie szkodliwe jak bezpośredni hejt, ponieważ dotyka obszarów związanych z poczuciem własnej wartości i wywołuje takie emocje jak wstyd czy zażenowanie. Walka z tym zagrożeniem jest niezwykle trudna. Tak jak chronimy szkoły czy przedszkola przed obcymi, tak w internecie czas zacząć chronić dzieci wszędzie tam, gdzie mogą spotkać takiego predatora.

W tym wypadku ważną rolę odgrywać powinna edukacja i wychowanie.

Niestety, prawie jedna czwarta rodziców w ogóle nie rozmawia z dziećmi o bezpieczeństwie w sieci, a spośród tych, którzy to robią, tylko połowa poruszała temat niebezpiecznych treści. Tu z pomocą przychodzi właśnie sztuczna inteligencja, która może skutecznie zapobiegać tym wszystkim zagrożeniom. To właśnie zadanie nad którym intensywnie pracujemy w Samurai Labs.

Czy rzeczywiście sztuczna inteligencja może pomóc w tym zakresie?

To potężna, nowa siła – czasem przyrównywana do “nowej elektryczności” czy kolejnej warstwy nad internetem – trochę jak energia atomowa. Może służyć społeczeństwu jako źródło energii czy być używana w radioterapii nowotworów.

Sztuczna inteligencja decyduje jakie zobaczymy artykuły, reklamy czy treści – co przeczytamy na Facebooku czy w wynikach wyszukiwania Google. To właśnie sztuczna inteligencji sprawia, że kampanie reklamowe w internecie są tak skuteczne, dzięki czemu firmy czy organizacje wpływają na zachowania czy postawy użytkowników internetu.

Czas, aby sztuczna inteligencja i technologie, które stworzyły problem przemocy online, odegrały kluczową rolę w powstrzymaniu tej epidemii. Algorytmy sztucznej inteligencji trafnie przewidują, kto kliknie w jaką reklamę – czas, aby pomogły zidentyfikować osobę atakowaną w Internecie, ogłoszenia, które są przykrywką dla werbunku do prostytucji czy pomogły odróżnić pedofila umawiającego się z dzieckiem na spotkanie.

My w Samurai Labs pracujemy nad sztuczną inteligencją – która jak wirtualny anioł stróż towarzyszy dziecku – czy to w grach online, czy w mediach społecznościowych – i w czasie rzeczywistym wykrywa zagrożenia, blokując wiadomości – zanim wydarzy się krzywda. Pierwsze wyniki testów są bardzo obiecujące i już w marcu zaczynamy chronić dzieci w grach.

Jakie są atuty sztucznej inteligencji?

Tylko ona jest w stanie przeczytać setki wiadomości na sekundę, wykryć i zneutralizować zagrożenie. Ponad 80 proc. dzieci nie zgłasza cybernękania czy ataków i obecnie jest pozostawione sobie samo z tym problem. To sztuczna inteligencja ostrzeże nas przed zbliżającą się nowa falą przemocy – tak jak obecnie ostrzegani jesteśmy przed trzęsieniami ziemi.

“Nie zasługujesz na to aby żyć”, “Twoi rodzice cię adoptowali dla pieniędzy”: nie ma tu wulgaryzmów, inwektyw, a mimo to taki wpis może spowodować spustoszenie w samoocenie dziecka. Dlatego tak trudne dla obecnych systemów sztucznej inteligencji tzw. “drugiej fali” bazującej na metodach statystycznych: Machine Learning / Deep Learning, jest rozróżnienie cybernękania czy szantażu od “zwykłej rozmowy”. Te ograniczenia obecnych systemów i ich niska precyzja powoduje, że nie są stosowane do aktywnej ochrony dzieci.

My w Samurai Labs pracujemy na nową, obiecującą metodą sztucznej inteligencji. Są to tak zwane modele kontekstualne. Dzięki temu sztuczna inteligencja zyskuje możliwości abstrahowania i wnioskowania, co jest kluczowe precyzyjnego wykrywania cybernękania i przemocy.

Rozumiemy, że sztuczna inteligencja to tylko jeden z wielu elementów w walce z przemocą. Aby zmniejszyć jej ilość konieczne jest współdziałanie szkół, rodziców, pedagogów, regulatorów i wszelka praca wpływająca na to. Myślę, że spółki technologiczne powinny odegrać też swoją ważną rolę w tym procesie. Skoro sztuczna inteligencja jest tak skuteczna w wielu dziedzinach, jak samojeżdżące samochody, medycyna, marketing czy inteligentne domy – to czas aby zaczęła pomagać nam w ochronie naszych najbliższych.

Jak wyznaczyć granicę pomiędzy opinią a hejtem i jak skutecznie egzekwować naruszanie tej granicy?

Rozróżnienie cyberprzemocy od opinii, do której każdy ma prawo, to bardzo ważne zagadnienie. Internet jaki obecnie znamy powinien się zmienić, być bezpieczny dla użytkownika, ale nie może ograniczać podstawowych praw związanych z wolnością słowa. Istnieje oczywiście “szara strefa”, gdzie dopiero kontekst sytuacji pozwala na odpowiednie rozróżnienie.

Według naszych danych, jeśli chodzi o przemoc wobec dzieci to gros przemocy jest oczywista – groźby, nawoływanie do samobójstwa, atakowanie dzieci. My nie zajmujemy się kwestiami poglądów czy dyskursem politycznym, lecz ewidentną przemocą. Wierzymy, że w internecie ludzie powinni móc wyrażać swoje poglądy, ale tak jak przemoc w świecie realnym tak samo w tym wirtualnym powinna zostać wykryta i zatrzymana.

Jakie tendencje daje się zauważyć w zakresie bezpieczeństwa internetu – czy sytuacja w Polsce z roku na rok się poprawia, czy pogarsza?

Z badań ankietowych przeprowadzonych przez NIK wynika, że z cyberprzemocą zetknęło się prawie 40 proc. uczniów, blisko 30 proc. rodziców oraz 45 proc. ankietowanych nauczycieli. Patrząc na badania z lat poprzednich, skala problemu utrzymuje się na podobnym poziomie, choć w zależności od przyjętej definicji problemu i metody badawczej dotyczyć może nawet do ponad połowy dzieci i młodzieży.

Jednak trudno mówić o statystykach dotyczących cyberprzemocy z kilku powodów – nie posiadamy precyzyjnej metody detekcji, badania w Polsce opierają się głównie na ankietach, czyli na danych deklaracyjnych. Wiemy, że statystyki są zaniżone ponieważ ofiary cybernękania rzadko chcą ujawniać swój problem, wstydzą się i nie wierzą w to, że zgłoszenie coś zmieni. Ze względu na nowy charakter zjawiska brak jeszcze danych poglądowych na temat Polski.

Widać chyba natomiast rosnącą świadomość społeczną istnienia tego problemu?

Tak, prowadzonych jest coraz to więcej inicjatyw na rzecz edukacji młodzieży. Polskie Centrum Programu Safer Internet tworzone przez Państwowy Instytut Badawczy NASK oraz Fundację Dajemy Dzieciom Siłę, podejmuje szereg kompleksowych działań na rzecz bezpieczeństwa dzieci i młodzieży korzystających z internetu i nowych technologii. Wśród podejmowanych działań priorytetem jest edukacja – zarówno dzieci, jak i rodziców – a także podnoszenie kompetencji profesjonalistów w zakresie bezpiecznego korzystania z internetu. Powstała również pomoc telefoniczna i online dla młodych internautów, rodziców i profesjonalistów w przypadkach zagrożeń związanych z korzystaniem z internetu, czy też Dyżurnet.pt: punkt kontaktowy – tzw. hotline – do którego można anonimowo zgłaszać przypadki występowania w internecie treści zabronionych prawem, takich jak pornografia dziecięca, pedofilia, treści o charakterze rasistowskim i ksenofobicznym.

Napawające optymizmem są statystki z Finlandii gdzie działa antybullyingowy program edukacyjny KIVA od 2009 do 2015 zanotowano spadek o 27 proc. osób będących ofiarami ataków w internecie.

Jaki jest wpływ cyberprzemocy na gospodarkę i na regulacje prawne?

Przemoc online również bezpośrednio przyczynia się do utraty użytkowników oraz strat w zyskach. Według badań Pew Research Center na obywatelach USA, 15-30 proc. użytkowników odchodzi z gier oraz serwisów internetowych z powodu przemocy.