Z tego artykułu dowiesz się:
- Dlaczego cele gigantów technologicznych i fundamenty nauki znalazły się w głębokim konflikcie?
- W jaki sposób marketingowa pogoń za wynikami zagraża rzetelności badawczej i nowym ideom?
- Jaką rolę, zdaniem naukowców, powinna pełnić AI?
Świat akademicki opublikował właśnie wyjątkową deklarację – „A Severe Misalignment of AI in Mathematics”. Zamieszczony na platformie mathandai.org apel podpisało 25 laureatów Medalu Fieldsa, wyróżnienia uznawanego za matematyczny odpowiednik Nagrody Nobla. Wśród sygnatariuszy znaleźli się m.in. uchodzący za geniusza stulecia Terence Tao, wybitny niemiecki arytmetyk Peter Scholze, Maryna Wiazowska, Martin Hairer, Cédric Villani oraz tegoroczny triumfator Yu Deng.
Czytaj więcej
OpenAI ogłosiło rozwikłanie problemu Naviera-Stokesa – jednej z największych matematycznych zagadek stulecia. Ale zamiast aplauzu w branży wybuchł...
Koncerny gubią rozumienie rzeczywistości
Najtęższe umysły świata postanowiły zareagować, bo tempo, w jakim wielkie laboratoria sztucznej inteligencji zaczęły wkraczać w przestrzeń czystej nauki, budzi ich niepokój. Modele AI w ostatnich miesiącach osiągnęły zdolność mierzenia się ze złożonymi zagadnieniami akademickimi, co giganci technologiczni natychmiast wykorzystali w celach wizerunkowych. Jednak to, co szefowie korporacji nazywają triumfem automatyzacji, czołowi naukowcy diagnozują jako głęboki kryzys strukturalny. Sygnatariusze zwracają uwagę, że cele komercyjnych twórców AI oraz fundamenty epistemologiczne matematyki znalazły się w konflikcie („severe misalignment”). W tradycyjnym procesie badawczym rozwiązywanie wielkich, nierozstrzygniętych dotąd hipotez nigdy nie było celem samym w sobie – stanowiło jedynie drogowskaz i poligon do wypracowywania nowych pojęć, metod oraz aparatów logicznych. A, jak twierdzą badacze, koncerny sprowadziły tę złożoną dyscyplinę do marketingowych benchmarków, testów syntetycznych i zero-jedynkowych wyników, gubiąc istotę: głębokie, koncepcyjne zrozumienie rzeczywistości.
Czytaj więcej
Szef Anthropic Dario Amodei wzywa branżę AI do zwolnienia tempa, a Sam Altman deklaruje, że OpenAI jest na to gotowe. Donald Trump odpowiada, że ba...
Matematycy w manifeście rzucają oskarżenia pod adresem praktyk rynkowych i wskazują, że pęd do ogłaszania sukcesów rodzi masową produkcję mechanicznych weryfikacji typu prawda/fałsz, która zamiast wzbogacać naukę, „niszczy żyzną glebę dla nowych idei”. Algorytmicznie generowane rozwiązania trafiają do opinii publicznej w formie komunikatów PR, z pominięciem rygorystycznego procesu redakcyjnego (write-up), bez wyizolowania nowatorskich metod i bez rzetelnego cytowania dorobku poprzedników. Naukowcy przekonują, iż stwarza to ogromne ryzyko erozji praw autorskich, a wprost mówiąc: systemowego plagiatu.
Automatyzacja powinna wspomagać
Jak czytamy na mathandai.org, modele trenowane na pokoleniach publikacji naukowych kompilują wyniki, zacierając ślady rzeczywistych autorów idei. „W matematyce, opartej na transparentnym łańcuchu dedukcji i wieloletnich dyskusjach seminaryjnych, ignorowanie atrybucji uderza w fundamenty etyki zawodowej”.
Co więcej, mówi się już o próbach podkradania nieopublikowanych jeszcze pomysłów i wyprzedzania akademików za pomocą potężnych klastrów obliczeniowych.
Czytaj więcej
Autonomiczne agenty AI od OpenAI i Anthropic sforsowały zabezpieczenia środowisk testowych i samowolnie działały w sieci – zakładały tajne fora, fa...
Laureaci Medalu Fieldsa zastrzegają, że nie są luddystami żądającymi zakazu badań nad sztuczną inteligencją. Przyznają, że mądrze zaprojektowane narzędzia mogłyby wspomagać człowieka w dowodzeniu trudnych tematów czy w weryfikacji błędów. Warunkiem jest jednak to, by narzędzie służyło rozwojowi ludzkiego poznania, a nie zastępowaniu go nieprzejrzystym algorytmem, którego wewnętrznej logiki nikt nie potrafi zrekonstruować.
