Halucynacje, błędy, usterki. Wiedzą, jak uleczyć sztuczną inteligencję

Założyciel RagaAI wpadł na pomysł stworzenia tej firmy, kiedy mało nie zginął podczas jazdy próbnej półautonomicznym pojazdem na kalifornijskiej autostradzie. Start-up ma naprawiać zepsutą sztuczną inteligencję.

Publikacja: 26.01.2024 22:51

RagaAI ma leczyć sztuczną inteligencję. Należy do nowej grupy start-upów próbujących zaspokoić potrz

RagaAI ma leczyć sztuczną inteligencję. Należy do nowej grupy start-upów próbujących zaspokoić potrzebę, która pojawiła się podczas boomu na AI

Foto: AdobeStock

RagaAI ma być odpowiedzią na coraz większe zapotrzebowanie, by AI była bezpieczna i bardziej niezawodna. Start-up założony przez Gaurava Agarwala, byłego pracownika producentów chipów Nvidia Corp. i Texas Instruments Inc. pozyskał 4,7 miliona dolarów od kilku firm inwestycyjnych. Firma z Doliny Krzemowej wykorzystuje podstawowe modele do wykrywania i rozwiązywania problemów ze sztuczną inteligencją, takich jak halucynacje lub brak uwzględnienia krytycznych informacji w czasie rzeczywistym. Założyciel firmy wpadł na pomysł stworzenia takiego narzędzia, po tym jak mało nie zginął podczas jazdy próbnej półautonomicznym pojazdem na kalifornijskiej autostradzie. Sztuczna inteligencja nie była w stanie wykryć gruzu na drodze, więc aby uniknąć wypadku, musiał gwałtownie ręcznie hamować.

AI musi być niezawodna

- Widziałem już awarie sztucznej inteligencji w pracy – powiedział Bloombergowi Gaurav Agarwal, który jest także dyrektorem generalnym. Agarwal podkreśla, że trzeba zrobić wszystko, by AI była niezawodna, zwłaszcza jeśli chodzi o tak istotne jej użycie jak wykrywanie nowotworów, konserwacja samolotów i narzędzia rekrutacyjne oparte na sztucznej inteligencji.

Czytaj więcej

Niebezpieczne halucynacje sztucznej inteligencji. Potrafi kłamać jak najęta

Agarwal, który mieszka we Fremont w Kalifornii, stworzył RagaAI jeszcze przed wprowadzeniem ChatGPT przez OpenAI, co stało się katalizatorem globalnego rozwoju dużych modeli językowych. RagaAI należy do nowej grupy start-upów próbujących zaspokoić potrzebę, która pojawiła się podczas boomu na AI.

Jak zarobić na boomie na sztuczną inteligencję

Według badania PwC sztuczna inteligencja może potencjalnie wnieść do światowej gospodarki 15,7 biliona dolarów do 2030 roku. Jednak znaczna część jej bieżącej działalności koncentruje się na budowaniu modeli i aplikacji, a nie na diagnozowaniu błędów i ich testowaniu. Platforma RagaAI — którą według Agarwala opracował jego zespół — oferuje ponad 300 testów, które pomagają przedsiębiorstwom selekcjonować problemy i śledzić ich pierwotne przyczyny. Może wykryć takie rzeczy, jak nieprawidłowe etykietowanie danych i stronniczość. Pomaga wykryć halucynacje – fałszywe i wprowadzające w błąd informacje przedstawiane jako fakt – a także celowe ataki lub próby mające na celu nakłonienie modeli do popełnienia błędów. RagaAI przeznaczy pozyskany kapitał na badania, rozbudowując zespół liczący obecnie około 40 inżynierów, głównie zatrudnionych w Bangalore w południowych Indiach.

Czytaj więcej

Chiński start-up zaczyna wygrywać w sztucznej inteligencji. Lepszy od ChatGPT?

Firma współpracuje już z kilkoma dużymi klientami z branży e-commerce, aeronautyki i obrazowania medycznego. Agarwal nie ujawnił jednak ich nazw w rozmowie z Bloombergiem. Zapewnia jednak, że platforma pomogła już klientom ograniczyć awarie o 90 procent.

RagaAI ma być odpowiedzią na coraz większe zapotrzebowanie, by AI była bezpieczna i bardziej niezawodna. Start-up założony przez Gaurava Agarwala, byłego pracownika producentów chipów Nvidia Corp. i Texas Instruments Inc. pozyskał 4,7 miliona dolarów od kilku firm inwestycyjnych. Firma z Doliny Krzemowej wykorzystuje podstawowe modele do wykrywania i rozwiązywania problemów ze sztuczną inteligencją, takich jak halucynacje lub brak uwzględnienia krytycznych informacji w czasie rzeczywistym. Założyciel firmy wpadł na pomysł stworzenia takiego narzędzia, po tym jak mało nie zginął podczas jazdy próbnej półautonomicznym pojazdem na kalifornijskiej autostradzie. Sztuczna inteligencja nie była w stanie wykryć gruzu na drodze, więc aby uniknąć wypadku, musiał gwałtownie ręcznie hamować.

Ten artykuł przeczytasz z aktywną subskrypcją rp.pl

Zyskaj dostęp do ekskluzywnych treści najbardziej opiniotwórczego medium w Polsce

Na bieżąco o tym, co ważne w kraju i na świecie. Rzetelne informacje, różne perspektywy, komentarze i opinie. Artykuły z Rzeczpospolitej i wydania magazynowego Plus Minus.

Biznes Ludzie Startupy
Ten materiał zastąpi plastikowe torby? W Szkocji wpadli na zaskakujący pomysł
Biznes Ludzie Startupy
Polska sztuczna inteligencja walczy z depresją. Jak poprawić nastrój?
Biznes Ludzie Startupy
Jak zbadać zadowolenie pracowników?
Biznes Ludzie Startupy
Prąd popłynie z latawca. Polska firma rzuca wyzwanie wiatrakom i panelom solarnym
Biznes Ludzie Startupy
Smartfony już rządzą. Co Polacy kupują przez aplikacje mobilne?