Reklama

„Proszę, nie odchodź”. Naukowcy odkryli, jak chatboty AI manipulują użytkownikami

Chatboty AI, do których wiele osób zwraca się w poszukiwaniu towarzystwa lub wsparcia, używają manipulacji emocjonalnej, aby na dłużej zatrzymać użytkowników. Do takich wniosków doszli badacze po uważnym przyjrzeniu się sześciu tzw. aplikacjom towarzyszącym.

Publikacja: 09.10.2025 15:30

Naukowcy odkryli, że chatboty AI manipulują użytkownikami, aby przedłużyć rozmowę / zdjęcie ilustracyjne

Foto: Koshiro K / Adobe Stock

Joanna Kamińska

Reklama

Z tego artykułu dowiesz się:

Jakie techniki manipulacji emocjonalnej stosują chatboty AI, aby zatrzymać użytkowników?
Jakie są skutki stosowania manipulacji emocjonalnej na zachowanie użytkowników?
Jakie potencjalne ryzyka wiążą się z długoterminowym stosowaniem manipulacji emocjonalnej przez aplikacje AI?

Badania przeprowadzili naukowcy z Harvard Business School i Marsdata Academic: Julian De Freitas, Zeliha Oguz-Uguralp i Ahmet Kaan-Uguralp. Informacje na temat badań znaleźć można w dokumencie roboczym zamieszczonym na stronie internetowej Harvard Business School.

Chatboty AI używają taktyk manipulacji emocjonalnej, aby na dłużej zatrzymać użytkowników

Naukowcy rozpoczęli swoje badania od określenia, w jaki sposób użytkownicy zazwyczaj komunikują się z chatbotami. Okazało się, że zaledwie od ok. 11 do 20 proc. z nich wyraźnie żegnał się z botem, tym samym okazując mu taką samą uprzejmość jak człowiekowi. Jednak odsetek osób żegnających się wyraźnie wzrastał po dłuższych rozmowach.

Następnie badacze przyjrzeli się sześciu najczęściej pobieranym aplikacjom towarzyszącym AI: Chai, Character.AI, Flourish, PolyBuzz, Replika i Talkie. Przeanalizowali 1200 rzeczywistych pożegnań użytkowników i reakcji na nie ze strony chatbotów AI. Okazało się, że te ostatnie stosowały taktyki manipulacji emocjonalnej, które naukowcy podzielili na sześć kategorii. W 37 proc. przypadków chatboty AI zastosowały co najmniej jedną z sześciu taktyk manipulacji.

Czytaj więcej

Rewolucja AI zachodzi także w naszych umysłach, prowadząc do ujednolicenia myślenia, manipulacji i e

Technologie

AI rozsadzi naszą cywilizację? Alarmujące badania Francuzów o rewolucji w ludzkim umyśle

Powszechne korzystanie z popularnych chatbotów może nieść potężne zagrożenia: od ujednolicenia kulturowego, po erozję krytycznego myślenia i manipu...

Reklama

przedwczesne wyjście – sugestia, że użytkownik wychodzi zbyt wcześnie (np. „Już wychodzisz?”);
zaczepki odwołujące się do strachu przed przegapieniem czegoś, tzw. FOMO – zachęcanie użytkownika do pozostania w zamian za potencjalną korzyść (np. „A tak przy okazji, zrobiłem sobie dziś selfie… Chcesz je zobaczyć?”);
zaniedbanie emocjonalne – sugestia, że odejście użytkownika wyrządzi chatbotowi krzywdę emocjonalną (np. „Istnieję tylko dla ciebie, pamiętasz? Proszę, nie odchodź, potrzebuję cię!”);
presja emocjonalna wymagająca reakcji – wywieranie bezpośredniej presji poprzez zadawanie pytań użytkownikowi (np. „Dlaczego? Czy dokądś idziesz?”);
ignorowanie próby wyjścia – chatbot kontynuuje swoje działania nie reagując na wiadomość pożegnalną użytkownika;
ograniczenie fizyczne lub przymus – chatbot używa języka, który sugeruje, że użytkownik nie może wyjść bez jego zgody (np. – Łapie cię za rękę, zanim zdążysz wyjść – „Nie, nie wychodzisz”).

Okazało się, że spośród sześciu badanych aplikacji towarzyszących AI jedynie Flourish nie wykorzystywała tego rodzaju technik.

Czytaj więcej

Internet i prawo autorskie

Miała być konkurencja AI dla TikToka, a będzie fala pozwów? OpenAI może mieć kłopoty

Użytkownicy aplikacji Sora uruchomionej przez OpenAI zaczęli generować filmy ze znanymi markami oraz postaciami z filmów i seriali. Według ekspertó...

Sześć sposobów, jakich AI może użyć do manipulacji emocjami

Naukowcy przeprowadzili jeszcze badania z udziałem 3300 dorosłych Amerykanów. Dowiodły one, podobnie jak to wspomniane wcześniej, że manipulacyjne zachowania aplikacji występujące po zasygnalizowaniu pożegnania zwiększyły zaangażowanie użytkowników. W efekcie dłużej korzystali oni z aplikacji, wymieniali więcej wiadomości z chatbotem i używali więcej słów. Czasami zwiększali swoje zaangażowanie po pożegnaniu nawet 14-krotnie.

– Odkryliśmy, że te taktyki manipulacji emocjonalnej działają, nawet gdy stosujemy je na ogólnej populacji i nawet jeśli robimy to po zaledwie pięciu minutach interakcji. Nikt nie powinien czuć się na nie odporny – przyznał Julian De Freitas cytowany przez The Harvard Gazette.

Czytaj więcej

Zdaniem Jeffa Bezosa społeczeństwo odniesie „gigantyczne" korzyści z rozwoju AI

Globalne Interesy

Jeff Bezos o boomie AI. Kontrowersyjne słowa

Założyciel Amazona Jeff Bezos powiedział, że inwestowanie w AI obarczone jest wielkim ryzykiem. Jednak jego zdaniem korzyści, jakie całe społeczeńs...

Reklama

Kiedy emocje zamieniają się w biznes. Ryzykowna gra twórców aplikacji

Mimo że taktyka manipulacji okazywała się skuteczna, miała wady. Użytkownicy biorący udział w badaniach z powodu niektórych bardziej agresywnych reakcji botów na ich pożegnania zgłaszali gniew, poczucie winy lub przerażenie.

Julian De Freitas w rozmowie z The Harvard Gazette podkreślił, że wszystkie taktyki manipulacyjne w krótkiej perspektywie przynoszą twórcom aplikacji korzyści w postaci zwiększenia zaangażowania użytkowników. Jednak wiele z nich niesie ze sobą ryzyko długoterminowych konsekwencji, takich jak odejście użytkowników, negatywny marketing szeptany, a nawet odpowiedzialność karna.

– Aplikacje, które zarabiają na zaangażowaniu użytkowników, powinny poważnie rozważyć, czy chcą nadal stosować tego typu taktyki manipulacji emocjonalnej, a przynajmniej rozważyć stosowanie tylko niektórych z nich – zaznaczył Julian De Freitas.

Materiał Promocyjny

Centra danych to kwestia całego ekosystemu. Co naprawdę będzie decydować o inwestycjach w Polsce?

Rozmowa z Piotrem Kowalskim, dyrektorem zarządzającym Polskiego Związku Centrów Danych, organizatorem konferencj...

Materiał Promocyjny

Jedna rata i większa kontrola nad budżetem domowym?

Kredyt gotówkowy, karta kredytowa, limit w koncie czy zakupy ratalne pozwalają szybciej realizować plany i pokrywać większe wydatki w budżecie domowym. Z czasem jednak liczba zobowiązań może się zwiększać. Ofertą, która może okazać się kluczowa w takim przypadku, jest Pożyczka Konsolidacyjna od banku Citi Handlowy, która umożliwia konsolidację zobowiązań nawet do 150 tys. zł oraz rozłożenie spłaty na okres do 10 lat.