RagaAI ma być odpowiedzią na coraz większe zapotrzebowanie, by AI była bezpieczna i bardziej niezawodna. Start-up założony przez Gaurava Agarwala, byłego pracownika producentów chipów Nvidia Corp. i Texas Instruments Inc. pozyskał 4,7 miliona dolarów od kilku firm inwestycyjnych. Firma z Doliny Krzemowej wykorzystuje podstawowe modele do wykrywania i rozwiązywania problemów ze sztuczną inteligencją, takich jak halucynacje lub brak uwzględnienia krytycznych informacji w czasie rzeczywistym. Założyciel firmy wpadł na pomysł stworzenia takiego narzędzia, po tym jak mało nie zginął podczas jazdy próbnej półautonomicznym pojazdem na kalifornijskiej autostradzie. Sztuczna inteligencja nie była w stanie wykryć gruzu na drodze, więc aby uniknąć wypadku, musiał gwałtownie ręcznie hamować.
AI musi być niezawodna
- Widziałem już awarie sztucznej inteligencji w pracy – powiedział Bloombergowi Gaurav Agarwal, który jest także dyrektorem generalnym. Agarwal podkreśla, że trzeba zrobić wszystko, by AI była niezawodna, zwłaszcza jeśli chodzi o tak istotne jej użycie jak wykrywanie nowotworów, konserwacja samolotów i narzędzia rekrutacyjne oparte na sztucznej inteligencji.
Czytaj więcej
Zaufanie do odpowiedzi generowanych przez popularne boty jak ChatGPT czy Bard może być ryzykowne – systemy AI w wiarygodny sposób preparują treści i konfabulują. Wedle ekspertów skala zjawiska jest bardzo duża.
Agarwal, który mieszka we Fremont w Kalifornii, stworzył RagaAI jeszcze przed wprowadzeniem ChatGPT przez OpenAI, co stało się katalizatorem globalnego rozwoju dużych modeli językowych. RagaAI należy do nowej grupy start-upów próbujących zaspokoić potrzebę, która pojawiła się podczas boomu na AI.
Jak zarobić na boomie na sztuczną inteligencję
Według badania PwC sztuczna inteligencja może potencjalnie wnieść do światowej gospodarki 15,7 biliona dolarów do 2030 roku. Jednak znaczna część jej bieżącej działalności koncentruje się na budowaniu modeli i aplikacji, a nie na diagnozowaniu błędów i ich testowaniu. Platforma RagaAI — którą według Agarwala opracował jego zespół — oferuje ponad 300 testów, które pomagają przedsiębiorstwom selekcjonować problemy i śledzić ich pierwotne przyczyny. Może wykryć takie rzeczy, jak nieprawidłowe etykietowanie danych i stronniczość. Pomaga wykryć halucynacje – fałszywe i wprowadzające w błąd informacje przedstawiane jako fakt – a także celowe ataki lub próby mające na celu nakłonienie modeli do popełnienia błędów. RagaAI przeznaczy pozyskany kapitał na badania, rozbudowując zespół liczący obecnie około 40 inżynierów, głównie zatrudnionych w Bangalore w południowych Indiach.
