Co się stało
PsyPost donosi o badaniu psychologii i marketingu mającym na celu sprawdzenie, w jaki sposób chatboty symulujące inteligencję emocjonalną wpływają na dobrostan psychiczny i społeczny użytkowników. Zgłoszone ustalenia sugerują kompromis: postrzegana bliskość empatycznego chatbota była powiązana z lepszym samopoczuciem osobistym, ale słabszą motywacją do relacji twarzą w twarz.
PsyPost donosi, że badacze Shaphali Gupta, Sumit Saxena i Sonia Kataria badali wpływ symulowanej inteligencji emocjonalnej w chatbotach społecznościowych. Z raportu wynika, że badacze najpierw przeanalizowali publiczne komentarze na temat Repliki na Reddit, YouTube i Trustpilot. W komentarzach tych opisano chatboty jako wspierające emocjonalnie, a dla niektórych użytkowników pomocne w radzeniu sobie ze stresem lub trudnymi sytuacjami. W tej samej analizie znalazły się również raporty niektórych użytkowników, że intensywna interakcja z chatbotem zmniejszyła ich chęć lub czas na zawieranie przyjaźni offline. Obserwacje te pochodzą z relacji z badania PsyPost i komentarzy użytkowników; nie zostały one tutaj niezależnie zweryfikowane.
Według PsyPost w pierwszym eksperymencie wzięło udział 167 studentów z pokolenia Z. Uczestnicy zapoznawali się ze scenariuszami z udziałem chatbota charakteryzującego się wysoką lub niską inteligencją emocjonalną. Chatbot charakteryzujący się wysoką inteligencją emocjonalną używał empatycznego języka i emotikonów, podczas gdy chatbot porównawczy udzielał bardziej automatycznych odpowiedzi. Kwestionariusze mierzyły postrzeganą bliskość chatbota oraz dobrostan osobisty i społeczny. PsyPost donosi, że chatbot wyrażający więcej emocji poprawił dobrostan psychiczny, ale pogorszył dobrostan społeczny, a oba efekty napędzała postrzegana bliskość.
PsyPost donosi, że w drugim eksperymencie wzięło udział 350 studentów uniwersytetu, którym przydzielono kombinacje symulowanej inteligencji emocjonalnej o wysokiej lub niskiej inteligencji oraz czatu tekstowego lub rzeczywistości rozszerzonej. W warunkach rzeczywistości rozszerzonej uczestnicy oglądali demonstrację i wyobrażali sobie chatbota obok nich w swoim pokoju. Z raportu wynika, że wysoka inteligencja emocjonalna w połączeniu z rzeczywistością rozszerzoną zapewniła silniejsze postrzeganie bliskości i większą odnotowaną poprawę dobrostanu psychicznego, przy jednoczesnym gwałtownym spadku chęci angażowania się w relacje offline. Źródło nie ustala, czy te krótkoterminowe reakcje przełożą się na trwałe zmiany w zachowaniu.
Szczegóły źródła: psypost.org ↗
Dlaczego to ma znaczenie
Odkrycia mają znaczenie, ponieważ towarzysze sztucznej inteligencji są coraz częściej projektowani tak, aby zapewniać wsparcie emocjonalne, a nie tylko odpowiadać na pytania. Jeśli zgłoszony związek między bliskością chatbota a zmniejszonym zaangażowaniem offline będzie wykraczał poza wyobrażone scenariusze, projekt produktu może mieć wpływ na to, w jaki sposób użytkownicy będą szukać pomocy u ludzi. Dowody mają charakter wstępny i nie wskazują, że towarzysze AI powodują depresję, uzależnienie lub szkody w relacjach w życiu codziennym.
Zgłoszone wyniki oddzielają dwa wyniki, które często są traktowane zamiennie: lepsze samopoczucie indywidualne i lepsze powiązania społeczne. Chatbot może oferować natychmiastowy komfort lub możliwość wyrażania siebie przy niskim osądzie, jednocześnie sprawiając, że interakcja międzyludzka będzie mniej konieczna. To rozróżnienie jest praktycznie istotne dla użytkowników, rodzin, klinicystów i projektantów oceniających systemy towarzyszące.
Raport opisuje wyimaginowane interakcje między studentami uniwersytetu, a nie długotrwałe korzystanie z nich przez osoby korzystające z rzeczywistej aplikacji towarzyszącej. PsyPost twierdzi, że w eksperymentach mierzono reakcje krótkotrwałe, więc odkrycia nie mogą ustalić związku przyczynowego w zwykłym życiu, długotrwałej zależności emocjonalnej ani wpływu na zdiagnozowane schorzenia psychiczne. Artykuł nie potwierdza także samodzielnie metod ani wyników badania poza raportem z publikacji.
Jeśli zgłoszony wzorzec zostanie odtworzony w badaniach w świecie rzeczywistym, systemy towarzyszące mogą wymagać zabezpieczeń zapewniających dobrostan społeczny, a także natychmiastową satysfakcję użytkownika. PsyPost twierdzi, że autorzy sugerują ograniczenia sesji i podpowiedzi zachęcające do kontaktów towarzyskich offline po intensywnych emocjonalnie rozmowach. Są to propozycje badaczy, a nie udokumentowane cechy konkretnego produktu.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
Zgłoszone ograniczenia badania sprawiają, że badania długoterminowe są szczególnie ważne. Przyszłe prace powinny przetestować rzeczywiste, trwałe używanie w różnych grupach wiekowych i sprawdzić, czy cechy projektu, takie jak limity sesji lub monity o kontakt z ludźmi w trybie offline, zmniejszają przemieszczenie społeczne. Dostęp, ceny i dostępność omawianych chatbotów w świecie rzeczywistym nie są udokumentowane w źródle.
Głównym nierozwiązanym pytaniem jest, czy postrzegana bliskość chatbota wyrażającego emocje zmienia rzeczywiste zachowanie w ciągu tygodni lub miesięcy. PsyPost twierdzi, że przyszłe badania mogłyby śledzić użytkowników przez dłuższy czas, aby zbadać możliwą współzależność emocjonalną lub powstawanie nawyków.
Populacja badana była ograniczona do studentów uniwersytetów, a źródło twierdzi, że uczestnicy odpowiadali na wymyślone scenariusze. Wyniki mogą się różnić w przypadku osób starszych, nastolatków, osób doświadczających poważnej samotności lub użytkowników, którzy codziennie kontaktują się z towarzyszami. Populacje te nie zostały ustalone w zgłoszonych eksperymentach.
Źródło nie dokumentuje wprowadzenia produktu na rynek, ogólnej dostępności, wymagań dotyczących dostępu ani cen. Nie pokazuje też, że jakiś konkretny chatbot spowodował, że użytkownicy porzucili relacje międzyludzkie. Czytelnicy powinni traktować zgłoszone ustalenia jako wczesne badanie możliwego kompromisu, a nie jako dowód na to, że inteligentne emocjonalnie chatboty są albo z natury szkodliwe, albo stanowią lek na depresję.