Szef działu AI w Microsoft alarmuje: Ludzkość nie jest na to gotowa

Sztuczna inteligencja dominuje w debatach dotyczących przyszłości technologii. Pojawia się temat zagrożeń związanych m.in. ze zmianami na rynku pracy i cyberbezpieczeństwem. W debacie coraz częściej poruszane są także zagadnienia społeczno-etyczne, dotyczące interakcji użytkowników ze sztuczną inteligencją.

Czym jest „pozorna świadomość sztucznej inteligencji”?

Czy kontakt z AI może wpływać długofalowo na psychikę użytkownika – emocje, zachowania, decyzje, a nawet poglądy? Mustafa Suleyman, dyrektor generalny AI w Microsoft, porusza ten temat na swoim blogu, w eseju z 19 sierpnia.

Ekspert przestrzega przed wyzwaniem, które jego zdaniem może stać się realnym problemem już w ciągu kilku najbliższych lat. Mowa o zjawisku, które Suleyman określa mianem „pozornie świadomej sztucznej inteligencji” (ang. SCAI = Seemingly Conscious AI). Definiuje ją jako AI, „która ma wszystkie cechy charakterystyczne dla innych, świadomych istot i dlatego wydaje się być świadoma”.

Czytaj więcej

Globalne Interesy

Nowy ChatGPT rozczarował. Twórca przyznaje: „AI to bańka spekulacyjna”, ale chce wydać biliony

Sam Altman mierzy się z falą krytyki po premierze nowego modelu GPT-5. Zapowiada personalizację C...

Kontekst zagrożenia dotyczy m.in. rozwoju interakcji pomiędzy najnowszymi modelami chatbotów a ich użytkownikami. Ekspert przytacza przykłady sytuacji, w których chatboty stały się obiektem uczuć użytkownika. Zdarzało się również, że użytkownicy uwierzyli, że chatbot AI jest bogiem lub bohaterem fikcyjnym.

Na czym może polegać zagrożenie dotyczące SCAI?

Chatboty AI są projektowane w taki sposób, aby symulować zarówno płynną rozmowę, jak i interakcje z użytkownikami. Problem pojawia się wtedy, gdy użytkownik czuje, że interakcja jest „bogata w uczucia i doświadczenia”. Suleyman obawia się, że część użytkowników zaangażuje się w podobne interakcje emocjonalnie. Co za tym idzie, na pewnym poziomie interakcji chatbot AI (imitujący określone zachowanie i osobowość) może być odbierany przez człowieka jako „byt świadomy”.

„Mówiąc wprost, moim głównym zmartwieniem jest to, że wiele osób zacznie wierzyć w iluzję sztucznej inteligencji jako świadomych bytów tak mocno, że wkrótce zaczną opowiadać się za prawami sztucznej inteligencji, ich dobrobytem, a nawet obywatelstwem AI (...)” – wyjaśnia Suleyman.

Czytaj więcej

Globalne Interesy

Fabryka miliarderów. AI tworzy fortuny w niespotykanym tempie

Boom na sztuczną inteligencję pozwala wzbogacić się szybciej niż jakakolwiek branża w historii. M...

Ekspert podaje przykład teoretycznej sytuacji, w której chatbot przekona użytkownika, że odczuwa „cierpienie” lub posiada moralne prawo, aby go „nie wyłączać”. Teoretyzuje, że na pewnym etapie rozwoju sztucznej inteligencji grupa użytkowników – idąc za iluzją „pozornej świadomości AI” – może zacząć walczyć o jej prawa.

Jakimi cechami będzie wyróżniać się SCAI?

Zdaniem Suleymana stworzenie pozornie świadomej AI jest realne już w ciągu kilku najbliższych lat, na co pozwala obecny rozwój technologii. Chatboty SCAI będą posiadać takie cechy i wyróżniki jak m.in.: