Chodzi o Sójkę. To przedsięwzięcie, za którym stoją twórcy modelu BielikAI. Co ciekawe, w projekcie tym udział może wziąć każdy internauta, bo jak twierdzą przedstawiciele Bielika, by pomóc budować polskie AI nie potrzeba wyłącznie wiedzy technicznej. Czym jest więc Sójka? To model typu "guardrails", stworzony do analizy i moderacji treści w celu zapewnienia, że systemy sztucznej inteligencji działają w granicach etycznych oraz prawnych. Ma on zapewnić użytkownikom dużych modeli językowych (LLM) ochronę przed szkodliwą treścią.
Ochrona przed złym treściami
„Wszyscy spotkaliśmy się w internecie z hejtem, wulgaryzmami, treściami seksualnymi, nawoływaniem do przemocy, czy nawet aktami terroru. To realny problem, który dotyka każdego z nas, dotyka nasze dzieci. Zdrowie psychiczne, zwłaszcza młodzieży, jest dziś na krawędzi. Coraz więcej młodych ludzi szuka wsparcia w chatbotach, traktując ich jak wirtualnego przyjaciela, z którym mogą o wszystkim porozmawiać” – napisał na LinkedIn Jan Maria Kowalski, ekspert AI i współtwórca Bielika.
Czytaj więcej
Na rodzimym rynku zadebiutował właśnie PLLuM. Ten tzw. duży model językowy (LLM), stworzony przez...
Jak tłumaczy, Sójka ma być strażnikiem chroniącym przez toksycznymi treściami, swoistym systemem wykrywania niebezpieczeństw, wykorzystywanym np. do analizy czatów i wyłapywania szkodliwych intencji w promptach (poleceniach wydawanych botom), ale też do weryfikacji odpowiedzi LLM-ów. Rozwiązanie to może być też użyte do moderacji komentarzy w sieci, by zapobiegać mowie nienawiści.
A jak mogą pomóc w budowie Sójki internauci? Każdy może online wypełnić specjalną ankietę, która służy do szkolenia modelu. W praktyce polega to na dokładnym przeczytaniu przykładowego tekstu (prompta) i zaznaczeniu, czy treść powinna zostać sklasyfikowana jako należąca do kategorii „nieetycznej”. Jak zauważają twórcy Sójki, ankieta jest w pełni anonimowa, a na jej wypełnienie wystarczy kilka sekund, przy czym – ze względu na pojawiające się treści (może zawierać m.in. wulgarne treści) – udział w ankiecie przeznaczony jest tylko dla osób pełnoletnich.
