Wiele współczesnych systemów AI rozwiązuje trudne problemy, generując przed udzieleniem odpowiedzi pośrednie etapy w postaci długich ciągów słów. Technika ta jest często określana jako chain-of-thought, czyli „łańcuch myśli”. Takie podejście może poprawiać wyniki w niektórych zadaniach, ale oznacza również, że model AI generuje wiele słów, czyli tokenów, zanim dojdzie do stosunkowo krótkiej odpowiedzi.
Czytaj więcej
Autonomiczni agenci AI robią rzeczy, których nikt im nie zlecił i obchodzą zabezpieczenia. Szefowie OpenAI i Anthropic apelują o ostrożność, inni l...
Wytworzenie każdego tokena wymaga mocy obliczeniowej, dlatego dłuższy proces rozumowania może sprawiać, że odpowiedzi są wolniejsze, a ich generowanie droższe – pisze portal ScienceNews.
AI może rozumować bez używania słów
Niewielki, eksperymentalny system sztucznej inteligencji o nazwie BDH-CQ wykorzystuje inne podejście. Potrafi rozwiązywać niektóre zagadki wymagające rozumowania bez zapisywania pośrednich etapów swojego toku myślenia – informują naukowcy w pracy przesłanej 10 sierpnia do serwisu arXiv.org, którą opisuje ScienceNews.
Badanie stawia pytanie, czy AI rzeczywiście potrzebuje języka na każdym etapie rozumowania i czy większa część tego procesu mogłaby zachodzić wewnętrznie. Jeśli tak, niektóre zadania można by wykonywać szybciej i taniej.
Czytaj więcej
Minister finansów i gospodarki, Andrzej Domański zapowiedział, że Polska będzie stawiać na rozwój zdolności sztucznej inteligencji, by być „przynaj...
Portal przypomina, że podczas uczenia modele AI często otrzymują kilka przykładów, zanim przystąpią do rozwiązania nowego problemu. Wiele modeli zachowuje te przykłady i korzysta z nich podczas pracy. Tymczasem podczas testów rozumowania BDH-CQ – DH jest skrótem od Dragon Hatchling – wykorzystuje każdy przykład do aktualizacji pamięci o stałym rozmiarze. Jej wielkość nie zwiększa się wraz z liczbą otrzymywanych przykładów, dzięki czemu system nie musi za każdym razem ponownie analizować wszystkiego, co wcześniej zobaczył.
– Kiedy pojawia się zapytanie, model w ogóle nie zapisuje swojego toku rozumowania słowami – mówi Zuzanna Stamirowska, badaczka systemów złożonych i prezes firmy AI Pathway. Jak wyjaśnia, model rozwiązuje problem wewnętrznie, nie zamieniając każdego kolejnego etapu rozumowania na słowa.
Eksperymentalny model BDH-CQ zdał test rozumowania
Stamirowska wraz ze współpracownikami poinformowała, że model rozwiązał prawie trzy na dziesięć zagadek z publicznego zestawu testowego ARC-AGI-1, gdy otrzymał dwie próby. Wynik pokazał, że niewielki model może rozwiązywać niektóre nowe problemy wymagające rozumowania bez zapisywania kolejnych etapów tego procesu.
Czytaj więcej
Aż 87 proc. polskich twórców oprogramowania korzysta dziś ze sztucznej inteligencji codziennie, a algorytmy oszczędzają im średnio 7,3 godziny tygo...
Testy sprawdzają, czy system AI potrafi na podstawie kilku przykładów rozpoznać reguły dotyczące obrazów, a następnie zastosować je do nowych zagadek. Jak zauważa ScienceNews, przypomina to egzaminy rozwiązywane przez uczniów.
W przypadku jednych zagadek model radził sobie lepiej, w innych gorzej. Był skuteczny m.in. w części zadań polegających na obracaniu lub przesuwaniu figur, ale miał większe problemy ze zmianami kolorów oraz niektórymi kombinacjami reguł. W trudniejszych zadaniach dotyczących kolejności i zagnieżdżania elementów model osiągał lepsze wyniki, jeśli wcześniej zobaczył przykład o podobnym poziomie trudności.
Rozumowanie AI może być znacznie tańsze
Zdaniem naukowców proces wymagający generowania mniejszej liczby słów może pomóc ograniczyć koszty obliczeniowe. Badacze szacują, że rozwiązanie pojedynczej zagadki kosztuje około 0,00070 dol., czyli mniej więcej jedną jedenastą kosztu GPT-5.6 Luna w tym samym teście.
Zastrzegają jednak, że koszty działania obu systemów zostały obliczone w odmienny sposób, dlatego porównanie należy traktować ostrożnie.
