Materiał powstal we współpracy z firmą META

Rozwiązania oparte na AI realnie wpływają na podnoszenie efektywności biznesu, a także przyspieszają diagnozowanie i rozwiązywanie problemów. Z powodzeniem mogą być wykorzystywane m.in. w firmach przemysłowych i produkcyjnych. To dzięki AI można tworzyć np. cyfrowe bliźniaki – wirtualne odzwierciedlenia realnych instalacji czy linii produkcyjnych. Pozwalają one na testowanie nowych rozwiązań czy znajdowanie sposobów usunięcia pojawiających się usterek – w czasie rzeczywistym, bez konieczności ingerencji w bieżące działanie systemów czy maszyn.

W przypadku branż regulowanych, gdzie kluczowe jest bezpieczeństwo danych, szczególnie przydatne jest wykorzystanie AI działającej w modelu open source. Dlaczego?

Model zamknięty oznacza, że tylko jego dostawca zna sposób działania algorytmów oraz wie, na jakich danych były szkolone. Z kolei w modelu open source deweloperzy i twórcy mają dostęp do kodu źródłowego. Z jednej strony oznacza to, że rozwiązania te są stale rozwijane przez społeczność, z drugiej daje większe bezpieczeństwo danych, bo organizacje mogą pracować na swojej infrastrukturze.

Dodatkowo open source pozwala na tworzenie bezpieczniejszych produktów – bowiem mogą być one testowane i analizowane przez zewnętrznych użytkowników. Dzięki temu łatwiej jest zidentyfikować i usunąć ewentualne luki w zabezpieczeniach.

Edwin Lisowski współzałożyciel Addepto

Edwin Lisowski współzałożyciel Addepto

Foto: mat. pras.

Pełna kontrola nad danymi

Modele open source – m.in. ze względu na możliwość kontroli nad danymi i elastyczność w dostosowaniu do określonych potrzeb odbiorców – są chętnie wykorzystywane przez firmy wyspecjalizowane w rozwiązaniach dla biznesu.

– Modele open source, takie jak Llama, dały nam bardzo dużą elastyczność. Możemy je optymalizować i dostosowywać do specyfiki biznesu klienta. Jesteśmy w stanie je wdrażać lokalnie i w bardzo zwinny sposób integrować z systemami firmy – mówi Artur Haponik, współzałożyciel Addepto.

Addepto jest firmą doradczą dostarczającą dopasowane do potrzeb klientów rozwiązania z zakresu uczenia maszynowego i analityki danych dla globalnych przedsiębiorstw. Specjalizuje się w rozwiązywaniu złożonych problemów biznesowych w oparciu o AI i Big Data. Przygotowuje rozwiązania dla takich branż, jak finanse, technologie, przemysł, lotnictwo czy opieka zdrowotna.

Wspomniana Llama to model sztucznej inteligencji działający na zasadach open source, zaprojektowany przez Metę. O użyteczności modelu świadczą liczby: Llama zanotowała już ponad 1,2 mld pobrań.

– Za pomocą Llamy tworzymy prawie wszystkie rozwiązania z zakresu generatywnej AI dla naszych klientów. Są to m.in. inteligentni asystenci, którzy wspierają pracę takich działów, jak sprzedaż, marketing i HR, ale również działów zajmujących się produkcją. Tworzymy też bazy wiedzy, które są zarządzane przez LLM-y (ang. Large Language Model, duży model językowy – red.), oraz rozwiązania, które pozwalają pozyskiwać wiedzę techniczną z rozproszonych i nieustrukturyzowanych zbiorów informacji, jak choćby z bardzo zaawansowanych, specjalistycznych typów plików. Llama świetnie się w tym sprawdza, bo cechuje się wysoką precyzyjnością i szybkością odpowiedzi – wyjaśnia Artur Haponik. Rozwiązania te działają płynnie zarówno w chmurze, jak i lokalnie.

Wsparcie dla inżynierów i R&D

W oparciu o Llamę Addepto opracowało swój autorski produkt, ContextClue. – ContextClue zostało stworzone z myślą o zespołach inżynieryjnych i badawczo-rozwojowych, zwłaszcza w przemyśle i branży lotniczej. W oparciu o LLM-y, takie jak Llama, pomaga tworzyć połączenie semantyczne między danymi, dokumentami, obiektami fizycznymi i wirtualnymi – mówi Edwin Lisowski, współzałożyciel Addepto.

– Przykładowo, przy konieczności wymiany systemu chłodzenia silnika inżynier potrzebowałby kilku godzin na wyszukanie wszystkich potrzebnych informacji i wymaganych parametrów. A z pomocą naszego narzędzia może to zrobić w zaledwie kilka sekund. Otrzyma nie tylko odpowiedź kontekstową w oparciu o dokumenty, ale system przedstawi również zależności między wskazanymi komponentami oraz je zwizualizuje, przygotowując grafy wiedzy – tłumaczy Lisowski.

Zwraca przy tym uwagę na kluczowe atuty modelu otwartoźródłowego.

– Dzięki temu, że Llama jest modelem open source, możemy ją wdrażać w lokalnym środowisku klienta w sposób bezpieczny i kontrolowany. Jest to szczególnie istotne w branżach regulowanych, takich jak przemysł czy lotnictwo, gdzie danych z systemów klienta nie można przekazywać do źródeł zewnętrznych – mówi Edwin Lisowski. – Llama jest na tyle elastyczna, że pozwala nam na wdrożenie lokalne oraz na dostosowanie modelu do potrzeb klienta i specyfiki technicznej jego branży. Oznacza to o wiele większą skuteczność w porównaniu z modelami komercyjnymi. Llama daje nam również kontrolę kosztów, gdyż wdrażamy ją na istniejących serwerach, wykorzystując własne zasoby obliczeniowe, i nie jesteśmy powiązani z zewnętrznym dostawcą komercyjnym – dodaje.

A Artur Haponik zwraca uwagę na skalę, w jakiej można stosować rozwiązania opracowane przez Addepto.

– Korporacje i duże firmy szukają rozwiązań i LLM-ów, które będą w stanie uruchamiać lokalnie i personalizować zgodnie ze swoimi potrzebami. Llama oferuje nam m.in. takie możliwości, jak Small Language Models (małe modele językowe – red.), które są szybkie, zwinne i które można w prosty sposób dostosować do treści specyficznych dla danego przedsiębiorstwa, co finalnie podnosi jakość rozwiązania – mówi Haponik. Ze względu na to, że Llama oferuje obsługę wielu języków, sprawdza się również w rozwiązaniach wykorzystywanych przez zespoły międzynarodowe.

Powyższe przykłady pokazują, że otwarte modele językowe, takie jak Llama, efektywnie wspierają firmy przemysłowe i produkcyjne. Umożliwiają lokalne wdrożenia narzędzi AI, pełną kontrolę nad danymi oraz tworzenie inteligentnych rozwiązań dopasowanych do potrzeb konkretnego biznesu.

Materiał powstal we współpracy z firmą META