Materiał powstal we współpracy z firmą META
Rozwiązania oparte na AI realnie wpływają na podnoszenie efektywności biznesu, a także przyspieszają diagnozowanie i rozwiązywanie problemów. Z powodzeniem mogą być wykorzystywane m.in. w firmach przemysłowych i produkcyjnych. To dzięki AI można tworzyć np. cyfrowe bliźniaki – wirtualne odzwierciedlenia realnych instalacji czy linii produkcyjnych. Pozwalają one na testowanie nowych rozwiązań czy znajdowanie sposobów usunięcia pojawiających się usterek – w czasie rzeczywistym, bez konieczności ingerencji w bieżące działanie systemów czy maszyn.
W przypadku branż regulowanych, gdzie kluczowe jest bezpieczeństwo danych, szczególnie przydatne jest wykorzystanie AI działającej w modelu open source. Dlaczego?
Model zamknięty oznacza, że tylko jego dostawca zna sposób działania algorytmów oraz wie, na jakich danych były szkolone. Z kolei w modelu open source deweloperzy i twórcy mają dostęp do kodu źródłowego. Z jednej strony oznacza to, że rozwiązania te są stale rozwijane przez społeczność, z drugiej daje większe bezpieczeństwo danych, bo organizacje mogą pracować na swojej infrastrukturze.
Dodatkowo open source pozwala na tworzenie bezpieczniejszych produktów – bowiem mogą być one testowane i analizowane przez zewnętrznych użytkowników. Dzięki temu łatwiej jest zidentyfikować i usunąć ewentualne luki w zabezpieczeniach.
Edwin Lisowski współzałożyciel Addepto
Pełna kontrola nad danymi
Modele open source – m.in. ze względu na możliwość kontroli nad danymi i elastyczność w dostosowaniu do określonych potrzeb odbiorców – są chętnie wykorzystywane przez firmy wyspecjalizowane w rozwiązaniach dla biznesu.
– Modele open source, takie jak Llama, dały nam bardzo dużą elastyczność. Możemy je optymalizować i dostosowywać do specyfiki biznesu klienta. Jesteśmy w stanie je wdrażać lokalnie i w bardzo zwinny sposób integrować z systemami firmy – mówi Artur Haponik, współzałożyciel Addepto.
Addepto jest firmą doradczą dostarczającą dopasowane do potrzeb klientów rozwiązania z zakresu uczenia maszynowego i analityki danych dla globalnych przedsiębiorstw. Specjalizuje się w rozwiązywaniu złożonych problemów biznesowych w oparciu o AI i Big Data. Przygotowuje rozwiązania dla takich branż, jak finanse, technologie, przemysł, lotnictwo czy opieka zdrowotna.
Wspomniana Llama to model sztucznej inteligencji działający na zasadach open source, zaprojektowany przez Metę. O użyteczności modelu świadczą liczby: Llama zanotowała już ponad 1,2 mld pobrań.
– Za pomocą Llamy tworzymy prawie wszystkie rozwiązania z zakresu generatywnej AI dla naszych klientów. Są to m.in. inteligentni asystenci, którzy wspierają pracę takich działów, jak sprzedaż, marketing i HR, ale również działów zajmujących się produkcją. Tworzymy też bazy wiedzy, które są zarządzane przez LLM-y (ang. Large Language Model, duży model językowy – red.), oraz rozwiązania, które pozwalają pozyskiwać wiedzę techniczną z rozproszonych i nieustrukturyzowanych zbiorów informacji, jak choćby z bardzo zaawansowanych, specjalistycznych typów plików. Llama świetnie się w tym sprawdza, bo cechuje się wysoką precyzyjnością i szybkością odpowiedzi – wyjaśnia Artur Haponik. Rozwiązania te działają płynnie zarówno w chmurze, jak i lokalnie.
Wsparcie dla inżynierów i R&D
W oparciu o Llamę Addepto opracowało swój autorski produkt, ContextClue. – ContextClue zostało stworzone z myślą o zespołach inżynieryjnych i badawczo-rozwojowych, zwłaszcza w przemyśle i branży lotniczej. W oparciu o LLM-y, takie jak Llama, pomaga tworzyć połączenie semantyczne między danymi, dokumentami, obiektami fizycznymi i wirtualnymi – mówi Edwin Lisowski, współzałożyciel Addepto.
– Przykładowo, przy konieczności wymiany systemu chłodzenia silnika inżynier potrzebowałby kilku godzin na wyszukanie wszystkich potrzebnych informacji i wymaganych parametrów. A z pomocą naszego narzędzia może to zrobić w zaledwie kilka sekund. Otrzyma nie tylko odpowiedź kontekstową w oparciu o dokumenty, ale system przedstawi również zależności między wskazanymi komponentami oraz je zwizualizuje, przygotowując grafy wiedzy – tłumaczy Lisowski.
Zwraca przy tym uwagę na kluczowe atuty modelu otwartoźródłowego.
– Dzięki temu, że Llama jest modelem open source, możemy ją wdrażać w lokalnym środowisku klienta w sposób bezpieczny i kontrolowany. Jest to szczególnie istotne w branżach regulowanych, takich jak przemysł czy lotnictwo, gdzie danych z systemów klienta nie można przekazywać do źródeł zewnętrznych – mówi Edwin Lisowski. – Llama jest na tyle elastyczna, że pozwala nam na wdrożenie lokalne oraz na dostosowanie modelu do potrzeb klienta i specyfiki technicznej jego branży. Oznacza to o wiele większą skuteczność w porównaniu z modelami komercyjnymi. Llama daje nam również kontrolę kosztów, gdyż wdrażamy ją na istniejących serwerach, wykorzystując własne zasoby obliczeniowe, i nie jesteśmy powiązani z zewnętrznym dostawcą komercyjnym – dodaje.
A Artur Haponik zwraca uwagę na skalę, w jakiej można stosować rozwiązania opracowane przez Addepto.
– Korporacje i duże firmy szukają rozwiązań i LLM-ów, które będą w stanie uruchamiać lokalnie i personalizować zgodnie ze swoimi potrzebami. Llama oferuje nam m.in. takie możliwości, jak Small Language Models (małe modele językowe – red.), które są szybkie, zwinne i które można w prosty sposób dostosować do treści specyficznych dla danego przedsiębiorstwa, co finalnie podnosi jakość rozwiązania – mówi Haponik. Ze względu na to, że Llama oferuje obsługę wielu języków, sprawdza się również w rozwiązaniach wykorzystywanych przez zespoły międzynarodowe.
Powyższe przykłady pokazują, że otwarte modele językowe, takie jak Llama, efektywnie wspierają firmy przemysłowe i produkcyjne. Umożliwiają lokalne wdrożenia narzędzi AI, pełną kontrolę nad danymi oraz tworzenie inteligentnych rozwiązań dopasowanych do potrzeb konkretnego biznesu.
Materiał powstal we współpracy z firmą META