Reklama

„Proszę, nie odchodź”. Naukowcy odkryli, jak chatboty AI manipulują użytkownikami

Chatboty AI, do których wiele osób zwraca się w poszukiwaniu towarzystwa lub wsparcia, używają manipulacji emocjonalnej, aby na dłużej zatrzymać użytkowników. Do takich wniosków doszli badacze po uważnym przyjrzeniu się sześciu tzw. aplikacjom towarzyszącym.

Publikacja: 09.10.2025 15:30

Naukowcy odkryli, że chatboty AI manipulują użytkownikami, aby przedłużyć rozmowę / zdjęcie ilustracyjne

Foto: Koshiro K / Adobe Stock

Joanna Kamińska

Reklama

Z tego artykułu dowiesz się:

Jakie techniki manipulacji emocjonalnej stosują chatboty AI, aby zatrzymać użytkowników?
Jakie są skutki stosowania manipulacji emocjonalnej na zachowanie użytkowników?
Jakie potencjalne ryzyka wiążą się z długoterminowym stosowaniem manipulacji emocjonalnej przez aplikacje AI?

Badania przeprowadzili naukowcy z Harvard Business School i Marsdata Academic: Julian De Freitas, Zeliha Oguz-Uguralp i Ahmet Kaan-Uguralp. Informacje na temat badań znaleźć można w dokumencie roboczym zamieszczonym na stronie internetowej Harvard Business School.

Chatboty AI używają taktyk manipulacji emocjonalnej, aby na dłużej zatrzymać użytkowników

Naukowcy rozpoczęli swoje badania od określenia, w jaki sposób użytkownicy zazwyczaj komunikują się z chatbotami. Okazało się, że zaledwie od ok. 11 do 20 proc. z nich wyraźnie żegnał się z botem, tym samym okazując mu taką samą uprzejmość jak człowiekowi. Jednak odsetek osób żegnających się wyraźnie wzrastał po dłuższych rozmowach.

Następnie badacze przyjrzeli się sześciu najczęściej pobieranym aplikacjom towarzyszącym AI: Chai, Character.AI, Flourish, PolyBuzz, Replika i Talkie. Przeanalizowali 1200 rzeczywistych pożegnań użytkowników i reakcji na nie ze strony chatbotów AI. Okazało się, że te ostatnie stosowały taktyki manipulacji emocjonalnej, które naukowcy podzielili na sześć kategorii. W 37 proc. przypadków chatboty AI zastosowały co najmniej jedną z sześciu taktyk manipulacji.

Czytaj więcej

Rewolucja AI zachodzi także w naszych umysłach, prowadząc do ujednolicenia myślenia, manipulacji i e

Technologie

AI rozsadzi naszą cywilizację? Alarmujące badania Francuzów o rewolucji w ludzkim umyśle

Powszechne korzystanie z popularnych chatbotów może nieść potężne zagrożenia: od ujednolicenia ku...

Reklama

przedwczesne wyjście – sugestia, że użytkownik wychodzi zbyt wcześnie (np. „Już wychodzisz?”);
zaczepki odwołujące się do strachu przed przegapieniem czegoś, tzw. FOMO – zachęcanie użytkownika do pozostania w zamian za potencjalną korzyść (np. „A tak przy okazji, zrobiłem sobie dziś selfie… Chcesz je zobaczyć?”);
zaniedbanie emocjonalne – sugestia, że odejście użytkownika wyrządzi chatbotowi krzywdę emocjonalną (np. „Istnieję tylko dla ciebie, pamiętasz? Proszę, nie odchodź, potrzebuję cię!”);
presja emocjonalna wymagająca reakcji – wywieranie bezpośredniej presji poprzez zadawanie pytań użytkownikowi (np. „Dlaczego? Czy dokądś idziesz?”);
ignorowanie próby wyjścia – chatbot kontynuuje swoje działania nie reagując na wiadomość pożegnalną użytkownika;
ograniczenie fizyczne lub przymus – chatbot używa języka, który sugeruje, że użytkownik nie może wyjść bez jego zgody (np. – Łapie cię za rękę, zanim zdążysz wyjść – „Nie, nie wychodzisz”).

Okazało się, że spośród sześciu badanych aplikacji towarzyszących AI jedynie Flourish nie wykorzystywała tego rodzaju technik.

Czytaj więcej

Internet i prawo autorskie

Miała być konkurencja AI dla TikToka, a będzie fala pozwów? OpenAI może mieć kłopoty

Użytkownicy aplikacji Sora uruchomionej przez OpenAI zaczęli generować filmy ze znanymi markami o...

Sześć sposobów, jakich AI może użyć do manipulacji emocjami

Naukowcy przeprowadzili jeszcze badania z udziałem 3300 dorosłych Amerykanów. Dowiodły one, podobnie jak to wspomniane wcześniej, że manipulacyjne zachowania aplikacji występujące po zasygnalizowaniu pożegnania zwiększyły zaangażowanie użytkowników. W efekcie dłużej korzystali oni z aplikacji, wymieniali więcej wiadomości z chatbotem i używali więcej słów. Czasami zwiększali swoje zaangażowanie po pożegnaniu nawet 14-krotnie.

– Odkryliśmy, że te taktyki manipulacji emocjonalnej działają, nawet gdy stosujemy je na ogólnej populacji i nawet jeśli robimy to po zaledwie pięciu minutach interakcji. Nikt nie powinien czuć się na nie odporny – przyznał Julian De Freitas cytowany przez The Harvard Gazette.

Czytaj więcej

Zdaniem Jeffa Bezosa społeczeństwo odniesie „gigantyczne" korzyści z rozwoju AI

Globalne Interesy

Jeff Bezos o boomie AI. Kontrowersyjne słowa

Założyciel Amazona Jeff Bezos powiedział, że inwestowanie w AI obarczone jest wielkim ryzykiem. J...

Reklama

Kiedy emocje zamieniają się w biznes. Ryzykowna gra twórców aplikacji

Mimo że taktyka manipulacji okazywała się skuteczna, miała wady. Użytkownicy biorący udział w badaniach z powodu niektórych bardziej agresywnych reakcji botów na ich pożegnania zgłaszali gniew, poczucie winy lub przerażenie.

Julian De Freitas w rozmowie z The Harvard Gazette podkreślił, że wszystkie taktyki manipulacyjne w krótkiej perspektywie przynoszą twórcom aplikacji korzyści w postaci zwiększenia zaangażowania użytkowników. Jednak wiele z nich niesie ze sobą ryzyko długoterminowych konsekwencji, takich jak odejście użytkowników, negatywny marketing szeptany, a nawet odpowiedzialność karna.

– Aplikacje, które zarabiają na zaangażowaniu użytkowników, powinny poważnie rozważyć, czy chcą nadal stosować tego typu taktyki manipulacji emocjonalnej, a przynajmniej rozważyć stosowanie tylko niektórych z nich – zaznaczył Julian De Freitas.

Technologie Sztuczna Inteligencja Badania naukowe

Reklama

Z tego artykułu dowiesz się:

Jakie techniki manipulacji emocjonalnej stosują chatboty AI, aby zatrzymać użytkowników?
Jakie są skutki stosowania manipulacji emocjonalnej na zachowanie użytkowników?
Jakie potencjalne ryzyka wiążą się z długoterminowym stosowaniem manipulacji emocjonalnej przez aplikacje AI?

Pozostało jeszcze 95% artykułu

Chatboty AI używają taktyk manipulacji emocjonalnej, aby na dłużej zatrzymać użytkowników

Pozostało jeszcze 93% artykułu

artykułów

Czytaj dalej. Subskrybuj

Reklama

Halucynacje i celowy sabotaż: Nowe testy dowodzą, że AI oszukuje, by nie zostać wyłączone

Technologie

AI nie słucha ludzi, którzy chcą ją wyłączyć. Zaskakujące wyniki testów

Modele AI aktywnie przeciwdziałają próbom ich wyłączenia – wynika z badań Palisade Reasearch. Jedna z hipotez mó...

Materiał Promocyjny

UltraGrip Performance 3 wyznacza nowy standard w swojej klasie

Wielu kierowców marzy o jednej oponie zimowej, która sprawdzi się w każdych warunkach – od śniegu po mokry asfalt, od miejskich ulic po autostrady. Goodyear, tworząc model UltraGrip Performance 3, postanowił zbliżyć się do tego ideału, łącząc w jednej konstrukcji cechy, których zazwyczaj trzeba szukać w różnych produktach.

Pacjenci na całym świecie coraz częściej sięgają m.in. do ChatGPT, poszukując informacji o możliwośc

Technologie

Tak „doktor Bot” leczy Polaków. Czy AI zastąpi lekarza?

Coraz więcej osób, zamiast ze specjalistą, konsultuje się w sprawie zdrowia z chatbotami. Eksperci alarmują: AI...

Chatboty AI mówią ludziom to, co chcą usłyszeć. To niesie ze sobą „podstępne ryzyko" - twierdzą nauk

Technologie

ChatGPT, Gemini i inne boty AI to wyjątkowo groźne lizusy. Naukowcy biją na alarm

Chatboty mówią ludziom to, co chcą usłyszeć - twierdzą naukowcy i ostrzegają, że ciągłe przytakiwanie ze strony...

Firmy reagują na zjawiska geopolityczne zwiększoną czujnością. 57 proc. badanych ekspertów ds. cyber

Technologie

Polskie firmy coraz częściej myślą o suwerenności cyfrowej

Zależność od producentów oprogramowania spoza Europy stanowi potencjalne zagrożenie dla firmy. To przestaje być...

Materiał Promocyjny

Raport o polskim rynku dostaw poza domem

To najszybciej rozwijający się segment kurierskiego rynku, który zmienia nie tylko handel detaliczny, ale i nasze przyzwyczajenia oraz wygląd miast.

Najnowsze chińskie systemy bojowe będą działać w oparciu o sztuczną inteligencję DeepSeek

Technologie

Chiny szykują się do wojny przyszłości. Mózgiem ma być DeepSeek

Pekin wykorzystuje sztuczną inteligencję DeepSeek do zbudowania nowej generacji systemów i uzyskania przewagi w...

Materiał Promocyjny

Manager w erze AI – strategia, narzędzia, kompetencje AI

To program dla managerów, który łączy strategiczne spojrzenie na przyszłość zarządzania z konkretnymi narzędziami i umiejętnościami potrzebnymi do wykorzystania potencjału AI.