Materiał powstał we współpracy z firmą Meta
Zastosowanie sztucznej inteligencji (AI) w biznesie wpływa na realny wzrost efektywności wykorzystania zasobów. AI może wspierać firmy m.in. w podnoszeniu jakości obsługi klienta, przy jednoczesnym zmniejszaniu kosztów.
Jednym z rozwiązań, które w tym pomagają, są LLM-y (ang. Large Language Models, duże modele językowe), szczególnie te rozwijane w oparciu o model open source. Dlatego Meta, jedna z największych firm technologicznych na świecie, rozwija rozwiązania oparte na AI właśnie w modelu otwartoźródłowym.
Llama, bo tak nazywa się model opracowany przez firmę Meta, oferuje biznesowi szerokie możliwości zastosowań. Do tej pory modele Llama pobrano ponad 1,2 mld razy, co czyni je wiodącą rodziną modeli open source. Na platformie Hugging Face dostępnych jest ponad 200 tys. derywacji modelu Llama.
Rozwiązania oparte na Llamie mogą być wykorzystywane np. w działaniach marketingowych i obsłudze klienta.
Efektywny polski model językowy
Jedną z firm, które korzystają z Llamy, jest VoiceLab. To producent rozwiązań technologicznych z zakresu przetwarzania i rozumienia mowy, m.in. systemu automatycznego rozpoznawania mowy (ASR). Narzędzia stworzone przez VoiceLab w oparciu o model open source pomagają firmom zwiększać wskaźniki konwersji i obniżać koszty obsługi klienta.
– Dzięki temu, że w przypadku modeli otwartych wszyscy mogą mieć dostęp do danych i je rozwijać, można je stosować w różnych dziedzinach. Istnieją tysiące modeli LLM, które są wykorzystywane w bardzo wielu branżach i sytuacjach. Doświadczenia te przekładają się na znacznie większy postęp w rozwoju tych modeli, niż jest to możliwe nawet w przypadku najlepszej firmy, która oferuje rozwiązania zamknięte – mówi Jacek Kawalec, wiceprezes VoiceLab.
– Wartość open source leży właśnie w otwartych produktach i usługach. Rozbudowana społeczność deweloperów i twórców może się w tym modelu wymieniać wiedzą, doświadczeniami, informacjami i nowymi pomysłami. Dzięki temu biznes może bazować na stworzonych wcześniej komponentach, będących efektem pracy szerokiej społeczności open source. Umożliwia to firmom bardziej dynamiczny rozwój nowych produktów i usług – dodaje Wojciech Janowski, kierujący zespołem NLP (Natural Language Processing) w VoiceLab. Open source zwiększa także transparentność i rzetelność pracy nad modelami, ponieważ są one testowane przez wiele osób.
Wojciech Janowski kierujący zespołem NLP w VoiceLab
Firma wydała dwa modele bazujące na Llama i wytrenowane na ponad 1,7 mld tokenów polskich i angielskich próbek konwersacyjnych. Modele te – Trurl-2-7B i Trurl-2-13b – odnotowały odpowiednio niemal 280 tys. i prawie 59 tys. pobrań na HuggingFace, platformie do tworzenia aplikacji wykorzystujących uczenie maszynowe. Tylko w ostatnim miesiącu oba modele mają ok. 1,8 tys. pobrań.
– Główną inspiracją przy tworzeniu Trurla (nazwa zaczerpnięta z twórczości Stanisława Lema – red.) była chęć zbudowania pierwszego w pełni funkcjonalnego polskiego modelu LLM. Chcieliśmy w ten sposób wnieść nasz wkład do społeczności rozwiązań open source. Przy tworzeniu Trurla wykorzystaliśmy do własnego treningu bazowe modele Llama. Wcześniej eksperymentowaliśmy z innymi modelami, ale w wyniku naszych testów okazało się, że to właśnie modele Llama są najlepszymi kandydatami do stworzenia Trurla. W porównaniu z innymi modelami Llama już na starcie dość dobrze radziła sobie z językiem polskim, mieliśmy więc ułatwione zadanie – opowiada Wojciech Janowski.
Wzrost jakości obsługi klienta
Narzędzia VoiceLab wykorzystywane są przez firmy m.in. w obsłudze klienta. System ASR śledzi każde połączenie, dostarcza podpowiedzi w czasie rzeczywistym i zajmuje się dalszym przetwarzaniem danych. Umożliwia także konwersję mowy na tekst.
Wykorzystanie w tych procesach AI pozwala firmom na analizę danych, ich wizualizację i natychmiastowy dostęp do wszystkich potrzebnych informacji na temat wydajności zespołu sprzedażowego i trendów konsumenckich. Daje także możliwość edukacji pracowników, gdyż można wybierać fragmenty najlepszych rozmów sprzedażowych, dodawać do nich komentarze i wykorzystywać tak przygotowane materiały w celu szkolenia zespołów sprzedażowych.
– Dzięki naszym narzędziom nasi klienci mogą analizować teksty poprzez proste zadawanie pytań w naturalnym języku. Mogą np. zadać pytanie: jak oceniasz rozmowę – wtedy model LLM ją przeanalizuje i poda swoją ocenę. W naszych narzędziach dostępnych jest bardzo wiele funkcji, które kiedyś były bardzo zaawansowane, wymagały dużo wiedzy oraz pracy. Teraz wnioski dostępne są od razu – wyjaśnia Jacek Kawalec.
Zwraca także uwagę, że model open source pozwala na pracę z danymi wewnątrz firmy. – Dane, które posiadamy, nie znajdują się w domenie publicznej. To często dokumenty poufne, nie możemy ich udostępnić. A dzięki open source możemy je analizować na własnej infrastrukturze – podkreśla wiceprezes VoiceLab.
– Meta, udostępniając i rozwijając oferowane modele, dokłada swoją cegiełkę do historii open source, daje możliwość budowania własnych rozwiązań. Dziś polskie modele językowe bazują już nie tylko na Llamie. Jednak na pewno Llama stanowiła pierwszy duży krok w rozwoju otwartoźródłowych modeli językowych – podsumowuje Jacek Kawalec.
Wykorzystanie narzędzi open source może mieć pozytywny wpływ na rozwój lokalnego biznesu, nauki, gospodarki i całego społeczeństwa. Dostęp do najnowocześniejszych rozwiązań AI otwiera możliwości wszystkim, nie tylko garstce dużych firm technologicznych.
Dodatkowo sztuczna inteligencja ma potężny potencjał do wzmocnienia gospodarki i konkurencyjności Unii Europejskiej. Europa jest w posiadaniu wielu niezbędnych elementów, które mogą pozwolić na wykorzystanie potencjału AI. Model open source jest dobrą drogą do tego celu.
Materiał powstał we współpracy z firmą Meta
