Z tego artykułu dowiesz się:
- Dlaczego koszt może stać się kluczowym czynnikiem w wyścigu o dominację w branży AI?
- Czym jest nowatorska architektura BDH, która rzuca wyzwanie obecnym modelom językowym?
- Kto stoi za sukcesem polskiego start-upu?
- Przed jakim strategicznym dylematem stoi obecnie branża AI?
Pathway, który rozwija tzw. architekturę post-transformer i oparte na niej modele, pozyskał właśnie dodatkowe finansowanie. Wycena polskiej spółki już na etapie seed (zalążkowym) osiągnęła 500 mln dol. Eksperci są pod wrażeniem rozwijanego przez firmę projektu. Pierwsze publiczne wyniki modelu Pathway pokazują, że to rekordzista w generowaniu inteligencji w przeliczeniu na koszt.
Więcej inteligencji za mniej
W benchmarku ARC-AGI-1 polski model osiągnął wynik zbliżony do GPT 5.6 Luna, choć przy ponad 11-krotnie niższym koszcie. O sukcesie start-upu na LinkedIn pisze Sebastian Kondracki, współtwórca Bielika. „Modele wnioskujące potrafią robić rzeczy imponujące, ale im dłużej myślą, tym więcej generują tokenów, tym więcej zużywają mocy i tym wyższy przychodzi rachunek. A teraz spójrzcie na tę liczbę: 0,0007 dol.. Tyle według opublikowanych właśnie badań kosztuje wykonanie jednego zadania ARC-AGI-1 przez 150-milionowy model BDH-CQ od Zuzanny Stamirowskiej i zespołu Pathway” – wskazuje Kondracki.
Jego zdaniem być może kolejny etap wyścigu AI nie będzie dotyczył wyłącznie tego, kto zbuduje najmądrzejszy model, lecz kto dostarczy najwięcej inteligencji za dolara. A Pathway, który rozwija architekturę i modele, mające otworzyć kolejny etap rozwoju sztucznej inteligencji, zajął świetną pozycję w wyścigu. Firma pracuje nad systemami zdolnymi do samodzielnego i ciągłego rozumowania, uczenia się oraz doskonalenia wraz z kolejnymi interakcjami. Jej współzałożycielka to polski naukowiec, zajmujący się systemami złożonymi. Obok Stamirowskiej projektem kierują Jan Chorowski, były badacz Google Brain, oraz Adrian Kosowski, naukowiec, który uzyskał tytuł doktora w wieku 20 lat. To trio rozwija BDH, architekturę post-transformer zbudowaną wokół założenia, że inteligencja nie powinna być zmuszona do wyboru między pamięcią a rozumowaniem.
Czym jest BDH?
O co chodzi? Mówiąc w skrócie, zamiast dodawać pamięć do modelu językowego jako osobny, zewnętrzny element, BDH łączy pamięć, adaptację i wnioskowanie w ramach jednej architektury. Projekt jest inspirowany mózgiem, ale nie próbuje go naśladować. Czerpie z rozwiązań wypracowanych przez biologię – lokalnych interakcji, rzadkiej aktywności, trwałego stanu i ciągłego dostosowywania – i przenosi je do nowoczesnego modelu sekwencyjnego. W rezultacie BDH otwiera nową drogę rozwoju AI. Zachowuje możliwości modeli językowych, ale wychodzi poza przetwarzanie token po tokenie, prowadząc równoległe rozumowanie w przestrzeni ukrytej (abstrakcyjnej). Model nie musi przekładać kolejnych etapów rozumowania na język, a dzięki temu nie tylko generuje odpowiedzi, ale także rozwiązuje problemy.
Jeszcze przed publikacją pierwszych publicznych benchmarków swoich modeli Pathway pozyskał dodatkowe finansowanie, przy wycenie 500 mln dol. W efekcie łączna wartość kapitału zebranego przez firmę na etapie seed wzrosła do 30 mln dol. Finansowanie zapewniły m.in. fundusze Id4 Ventures, TQ Ventures, Red Bridge Ventures, Kadmos Capital i WS Investment Co. (inwestycyjne ramię kancelarii Wilson Sonsini). Do grona inwestorów jako anioł biznesu dołączył również Jonathan Frankle, Chief AI Scientist w Databricks. Środki są przeznaczone przede wszystkim na zwiększenie dostępnej mocy obliczeniowej, w tym nowe układy Nvidia GB300, oraz trening większych, wielozadaniowych modeli opartych na BDH.
Czytaj więcej
Anthropic, twórca modelu Claude.ai i jeden z najszybciej rosnących startupów AI na świecie, opublikował kolejną odsłonę projektu Anthropic Economic...
Znane nazwiska na pokładzie
Pathway wzmacnia także zespół – do firmy jako Chief Product Officer dołączył Adam Kurzrok, były Group Product Manager odpowiedzialny za Gemini w Google DeepMind. Pokieruje rozwojem produktów Pathway, od przekształcania modeli opartych na BDH w gotowe rozwiązania, przez ich ewaluację, po wykorzystanie na dużą skalę. Pathway sformalizował również grupę doradców. Łukasz Kaiser to współtwórca architektury transformer i współautor TensorFlow. Był researcherem w Google Brain, a następnie w OpenAI współtworzył modele o1 i o3 oraz pracował nad ChatGPT, GPT-4 i GPT-5. W Pathway doradza przy wyznaczaniu kierunku prac badawczo-rozwojowych. Do grupy dołączyli także, obok Jonathana Frankle, prof. Martín Farach-Colton z NYU Tandon oraz ekonomista Jacques Attali – wspierają oni firmę w skalowaniu modeli, rozwijaniu jej wizji naukowej, strategii finansowania oraz analizie gospodarczych i społecznych konsekwencji BDH.
– AI jest dziś droga, ale ten koszt wynika z architektury, a nie żadnego ogólnego „prawa inteligencji”. W przypadku powszechnie dostępnych modeli każdy kolejny krok zajmuje część dostępnego okna kontekstowego, zwiększa opóźnienie i zużywa moc obliczeniową. My pokazujemy, że zmiana architektury może radykalnie poprawić relację między zdolnością do rozumowania a kosztem. W ten sposób otwieramy nową, bardziej wydajną ścieżkę rozwoju AI – komentuje Stamirowska.
Architektura od nowa
Benchmark ARC-AGI-1, w którym Pathway przetestował BDH-CQ – model rozumowania liczący 150 mln parametrów, to publiczny ranking sprawdzający, czy system potrafi nauczyć się nieznanego wcześniej zadania na podstawie zaledwie kilku przykładów. Model otrzymuje kilka par niewielkich plansz z kolorowymi polami, na podstawie których musi odkryć regułę transformacji. Następnie stosuje ją do nowego przykładu. Odpowiedź musi zgadzać się dokładnie – pole po polu. BDH-CQ uzyskał wynik 29,5 proc. w publicznym zbiorze obejmującym 400 zadań, przy obliczonym koszcie poniżej jednej dziesiątej centa. Wynik BDH-CQ samodzielnie odtworzył Łukasz Kaiser, rezultaty powtórzył również Richard Zhong, badacz z New York University zajmujący się ewaluacją modeli i odpornością benchmarków. Współautorem publikacji technicznej opisującej BDH-CQ jest także Remigiusz Kinas z Bielik AI.
Czytaj więcej
Stworzony nad Wisłą duży model językowy, w kategorii tzw. modeli bazowych zajął w zadaniach wielojęzycznych 4. miejsce na świecie. W testach pokona...
Pathway planuje teraz skalować architekturę BDH i sprawdzić ją w bardziej wymagających obszarach rozumowania, w tym w matematyce oraz benchmarkach ARC-AGI-2 i ARC-AGI-3. Firma pracuje również nad dużym modelem językowym, który będzie prowadził rozumowanie w tzw. przestrzeni ukrytej.
– Przez ostatnie lata branża AI sprawdzała, jak daleko można dojść, zwiększając skalę modeli. Warto było to ustalić, ale przed nami jeszcze trudniejsze pytanie: Co gdy skala przestanie wystarczać? Czy kolejny etap rozwoju AI będzie należeć do tego, kto zgromadzi najwięcej mocy obliczeniowej, czy do kogoś gotowego, by przemyśleć architekturę od nowa? Jasno pokazaliśmy, na co stawiamy. Najbliższe miesiące przyniosą rozstrzygnięcie – kwituje współzałożycielka start-upu z siedzibą w Palo Alto w Kalifornii.
