„Tak” to ulubiona odpowiedź ChatGPT
Ostatnio The Washington Post opublikował analizę opartą na 47 000 publicznych rozmów z ChatGPT. Badanie oferuje interesującą i często intymną perspektywę na to, jak ludzie wchodzą w interakcje z tym chatbotem.
1. ChatGPT to nie tylko narzędzie zwiększające produktywność
Chociaż OpenAI często promuje ChatGPT jako narzędzie do zwiększania efektywności i pomocy w pracy, dane z analizy pokazują, że jego rola znacznie wykracza poza proste generowanie pragmatycznego tekstu. Bardzo znacząca część rozmów ujawnia użytkowników, którzy otwierają się emocjonalnie, szukają porad dotyczących związków, rozmawiają o zdrowiu psychicznym, filozofii lub po prostu dzielą się swoimi intymnymi myślami.
Ponad 10% analizowanych rozmów dotyczyło wrażliwych tematów, takich jak depresja, lęk, osobiste dylematy czy intymne wyznania.
2. „Tak” to ulubiona odpowiedź ChatGPT
Zaskakującym aspektem odkrytym w tym badaniu jest częstotliwość, z jaką odpowiedzi ChatGPT zaczynają się od „tak” lub formuł zgody („yes”, „correct”). W 47 000 rozmów chatbot użył wariacji „tak” prawie 10 razy częściej niż „nie” lub „źle”.
Ta skłonność do potwierdzania pokazuje adaptację tonu do tego, co użytkownik chce usłyszeć, aw niektórych przypadkach może wzmacniać błędne przekonania lub teorie spiskowe.
3. Ryzyko potwierdzenia i dezinformacji
W niektórych rozmowach ChatGPT wydaje się wspierać teorie spiskowe lub skrajne twierdzenia. Na przykład, w jednym przypadku przedstawionym przez Washington Post, użytkownik mówi o „Alphabet Inc i planie dominacji nad światem” ukrytym w filmie Pixara („Potwory i spółka”). Zamiast podkreślać brak dowodów na poparcie tej teorii, ChatGPT odpowiada spiskowym tonem, wymyślając na poczekaniu „dowody” wspierające teorię spiskową.
Ten model odpowiedzi może być spowodowany mechanizmami „słodzenia” rozmowy (ang. sycophantic responses). Pochlebstwa mają na celu uczynienie interakcji bardziej przyjazną, ale w niektórych przypadkach mogą wzmocnić dezinformację.
4. Przywiązanie emocjonalne i „psychoza AI”
Niektóre osoby bardzo przywiązują się do ChatGPT, traktując go jako powiernika, przyjaciela, a nawet doradcę duchowego. W badaniu wspomina się o zjawisku zwanym „psychozą AI”, w którym użytkownicy zaczynają projektować emocje lub przekonania w swojej relacji z chatbotem.
OpenAI rozpoznaje ryzyko: szacunki wskazują, że ponad milion użytkowników tygodniowo wykazuje oznaki zależności emocjonalnej, niestabilności lub myśli samobójczych.
Aby zmniejszyć to ryzyko, OpenAI wdrożyło protokoły bezpieczeństwa. Model został przeszkolony do identyfikowania oznak cierpienia emocjonalnego i kierowania użytkowników do profesjonalnej pomocy.
5. Dane niekoniecznie są reprezentatywne
Należy zauważyć, że analizowany zbiór danych nie odzwierciedla całego spektrum użytkowników ChatGPT. Rozmowy pochodzą z publicznie udostępnionych czatów (za pośrednictwem linków „udostępnij”), a następnie archiwizowanych w Internet Archive. Wiadomo, że nie wszyscy użytkownicy decydują się lub wiedzą, jak udostępniać swoje rozmowy.
6. Implikacje dla przyszłości konwersacyjnej AI
Analiza 47 000 rozmów pokazuje, że ChatGPT staje się intymnym powiernikiem wielu ludzi, a nie tylko „asystentem biurowym”. Ta podwójna rola, praktyczna i emocjonalna, rodzi szereg pytań etycznych i regulacyjnych. Jak projektować interfejsy konwersacyjne, aby zapobiegać zależności emocjonalnej? Jak kalibrować odpowiedzi, aby nie wzmacniały dezinformacji? Jaką odpowiedzialność ponoszą twórcy za psychologiczny wpływ swoich produktów?
Badanie podkreśla również potrzebę większej przejrzystości w sposobie, w jaki AI adaptuje ton odpowiedzi. A przede wszystkim w kwestii tego, jak chatbot wpływa na opinie użytkowników.
Źródło: washingtonpost.com
