Halucynacje, błędy, usterki. Wiedzą, jak uleczyć sztuczną inteligencję

Założyciel RagaAI wpadł na pomysł stworzenia tej firmy, kiedy mało nie zginął podczas jazdy próbnej półautonomicznym pojazdem na kalifornijskiej autostradzie. Start-up ma naprawiać zepsutą sztuczną inteligencję.

Publikacja: 26.01.2024 22:51

RagaAI ma leczyć sztuczną inteligencję. Należy do nowej grupy start-upów próbujących zaspokoić potrz

RagaAI ma leczyć sztuczną inteligencję. Należy do nowej grupy start-upów próbujących zaspokoić potrzebę, która pojawiła się podczas boomu na AI

Foto: AdobeStock

RagaAI ma być odpowiedzią na coraz większe zapotrzebowanie, by AI była bezpieczna i bardziej niezawodna. Start-up założony przez Gaurava Agarwala, byłego pracownika producentów chipów Nvidia Corp. i Texas Instruments Inc. pozyskał 4,7 miliona dolarów od kilku firm inwestycyjnych. Firma z Doliny Krzemowej wykorzystuje podstawowe modele do wykrywania i rozwiązywania problemów ze sztuczną inteligencją, takich jak halucynacje lub brak uwzględnienia krytycznych informacji w czasie rzeczywistym. Założyciel firmy wpadł na pomysł stworzenia takiego narzędzia, po tym jak mało nie zginął podczas jazdy próbnej półautonomicznym pojazdem na kalifornijskiej autostradzie. Sztuczna inteligencja nie była w stanie wykryć gruzu na drodze, więc aby uniknąć wypadku, musiał gwałtownie ręcznie hamować.

AI musi być niezawodna

- Widziałem już awarie sztucznej inteligencji w pracy – powiedział Bloombergowi Gaurav Agarwal, który jest także dyrektorem generalnym. Agarwal podkreśla, że trzeba zrobić wszystko, by AI była niezawodna, zwłaszcza jeśli chodzi o tak istotne jej użycie jak wykrywanie nowotworów, konserwacja samolotów i narzędzia rekrutacyjne oparte na sztucznej inteligencji.

Czytaj więcej

Niebezpieczne halucynacje sztucznej inteligencji. Potrafi kłamać jak najęta

Agarwal, który mieszka we Fremont w Kalifornii, stworzył RagaAI jeszcze przed wprowadzeniem ChatGPT przez OpenAI, co stało się katalizatorem globalnego rozwoju dużych modeli językowych. RagaAI należy do nowej grupy start-upów próbujących zaspokoić potrzebę, która pojawiła się podczas boomu na AI.

Jak zarobić na boomie na sztuczną inteligencję

Według badania PwC sztuczna inteligencja może potencjalnie wnieść do światowej gospodarki 15,7 biliona dolarów do 2030 roku. Jednak znaczna część jej bieżącej działalności koncentruje się na budowaniu modeli i aplikacji, a nie na diagnozowaniu błędów i ich testowaniu. Platforma RagaAI — którą według Agarwala opracował jego zespół — oferuje ponad 300 testów, które pomagają przedsiębiorstwom selekcjonować problemy i śledzić ich pierwotne przyczyny. Może wykryć takie rzeczy, jak nieprawidłowe etykietowanie danych i stronniczość. Pomaga wykryć halucynacje – fałszywe i wprowadzające w błąd informacje przedstawiane jako fakt – a także celowe ataki lub próby mające na celu nakłonienie modeli do popełnienia błędów. RagaAI przeznaczy pozyskany kapitał na badania, rozbudowując zespół liczący obecnie około 40 inżynierów, głównie zatrudnionych w Bangalore w południowych Indiach.

Czytaj więcej

Chiński start-up zaczyna wygrywać w sztucznej inteligencji. Lepszy od ChatGPT?

Firma współpracuje już z kilkoma dużymi klientami z branży e-commerce, aeronautyki i obrazowania medycznego. Agarwal nie ujawnił jednak ich nazw w rozmowie z Bloombergiem. Zapewnia jednak, że platforma pomogła już klientom ograniczyć awarie o 90 procent.

RagaAI ma być odpowiedzią na coraz większe zapotrzebowanie, by AI była bezpieczna i bardziej niezawodna. Start-up założony przez Gaurava Agarwala, byłego pracownika producentów chipów Nvidia Corp. i Texas Instruments Inc. pozyskał 4,7 miliona dolarów od kilku firm inwestycyjnych. Firma z Doliny Krzemowej wykorzystuje podstawowe modele do wykrywania i rozwiązywania problemów ze sztuczną inteligencją, takich jak halucynacje lub brak uwzględnienia krytycznych informacji w czasie rzeczywistym. Założyciel firmy wpadł na pomysł stworzenia takiego narzędzia, po tym jak mało nie zginął podczas jazdy próbnej półautonomicznym pojazdem na kalifornijskiej autostradzie. Sztuczna inteligencja nie była w stanie wykryć gruzu na drodze, więc aby uniknąć wypadku, musiał gwałtownie ręcznie hamować.

2 / 3
artykułów
Czytaj dalej. Kup teraz
Biznes Ludzie Startupy
Czas na badania bez kłucia i bólu. Algorytmy z Wrocławia mają odmienić diagnostykę
Biznes Ludzie Startupy
„Polski Kickstarter" ruszył na podbój świata. Ma wzięcie u Rumunów i Włochów
Biznes Ludzie Startupy
Stworzony przez Polaka finansowy gigant wychodzi z kryzysu
Materiał partnera
Cyfryzacja usług priorytetem
Materiał partnera
Branża przewozu osób czeka na cyfrową rewolucję
Biznes Ludzie Startupy
Polskie start-upy inwestują w elektromobilność. To szansa na nadgonienie zapóźnień