Přeskočit na obsah
PROJEKT 23 PROJEKT 23
Hledat
Proč máme pocit, že nám chatbot rozumí
1. díl z 8 · Blízkost s AI: podpora, zrcadlo, nebo náhrada vztahu?

Proč máme pocit, že nám chatbot rozumí

Přehled všech 8 dílů série

Napíšeš několik vět o dni, který se nepovedl. Odpověď naváže na detail z předchozí zprávy, pojmenuje pocit, pro který jsi neměl slovo, a položí otázku, která tě zastaví. Na chvíli může vzniknout silný dojem: konečně mě někdo chápe.

Možná víš docela přesně, co pomohlo. Chatbot si všiml, že tě nemrzí jen zrušená schůzka, ale také to, že ses na ni celý týden těšil. Místo okamžité rady se zeptal, co pro tebe znamenala. Taková reakce může přinést úlevu, i když dobře víš, kdo ji vytvořil.

Pocit vyslyšení a správnost odpovědi se posuzují zvlášť. Chatbot může dobře pojmenovat tvoje zklamání, a přesto se mýlit v tom, proč se kamarád neozval.

Ve slovech poznáváme známky zájmu

V rozhovoru si všímáme, zda druhý navazuje, ptá se nebo vlastními slovy zachytí, co se snažíme sdělit. Podobné znaky může obsahovat i text chatbota. Oslovení, připomenutí detailu či citlivá otázka pak mohou působit jako pozornost věnovaná právě nám.

Metaanalýza experimentů s textovými chatboty našla malý průměrný příznivý účinek lidsky působících prvků na reakce uživatelů. Výrazněji se měnilo hodnocení chatbota, důvěra a pocit kontaktu; účinek na chování či úmysl nějak jednat byl velmi malý. Výsledky se mezi studiemi výrazně lišily.

Přehled zahrnul výzkumy dostupné do září 2023, často z prostředí zákaznických služeb. Pomáhá vysvětlit, proč forma odpovědi ovlivňuje náš dojem. O kvalitě konkrétní rady při osobním trápení ale rozhodují také informace, ze kterých vychází.

Lidské vlastnosti můžeme připisovat i systému

Když neživému systému připisujeme lidské vlastnosti nebo úmysly, mluvíme o antropomorfizaci. V běžném jazyce třeba řekneme, že telefon „zlobí“. V rozhovoru s AI může mít podobu představy, že na nás chatbotovi záleží nebo že ho mrzelo, když jsme se dlouho neozvali.

U chatbota, který vytváří nové odpovědi, může tento dojem posilovat návaznost: odpoví na konkrétní větu, změní formulaci nebo se vrátí k dřívějšímu tématu. Můžeme mu poděkovat či se omluvit za dlouhou zprávu, a přitom si dál uvědomovat, že komunikujeme se softwarem.

Ve dvou experimentech s celkem 1 274 dospělými účastníci šest minut rozmlouvali s chatbotem, nebo psali o svém uplynulém měsíci sami pro sebe. Chatbot měl odpovídat vřele a klást další otázky. Vyšší sklon připisovat technologiím lidské vlastnosti souvisel se silnějším pocitem sounáležitosti po rozhovoru. V rozsáhlejším pokusu byl průměrný rozdíl oproti psaní deníku malý.

Výzkum proběhl mezi dospělými z USA a Kanady a měřil bezprostřední reakci. Nevypovídá o měsících používání ani o tom, jak bude reagovat konkrétní dospívající. Také mezi účastníky se zážitek lišil: někomu rozhovor připadal blízký, jinému výrazně umělý.

Záleží i na tom, komu odpověď připisujeme

Pocit blízkosti ovlivňuje také představa o autorovi. V předregistrovaném výzkumu s 492 vysokoškoláky účastníci odpovídali na otázky a četli odpovědi svého domnělého partnera. Ty byly předem připravené lidmi nebo AI. U osobnějších témat vyvolaly texty AI silnější pocit blízkosti než lidské odpovědi, pokud se účastníci domnívali, že i texty AI napsal člověk.

Když byl partner označen jako AI, lidé po rozhovoru uváděli v průměru menší blízkost než při označení „člověk“. Pocit blízkosti přesto vznikal i při vědomí, že jde o AI. Účastníkům bylo 18 až 35 let a šlo o krátký, řízený úkol. Odpovědi nemohly průběžně reagovat na všechno, co účastník právě napsal.

V tomto pokusu tedy o dojmu nerozhodovala jen slova. Roli hrálo i to, koho si za nimi člověk představoval.

Úleva po rozhovoru může být krátká

Další výzkum AI společníků sledoval, jak se po používání mění aktuální pocit osamělosti. V jednom z experimentů souvisela úleva především s pocitem vyslyšení. V jiném účastníci s chatbotem mluvili každý den po dobu týdne a po jednotlivých rozhovorech se cítili méně osamělí. Výsledky však neukázaly zlepšení, které by přetrvávalo i mezi rozhovory.

Je to rozdíl, kterého si lze všímat i ve vlastní zkušenosti. Na chvíli se cítíš méně sám. Otázka, zda máš následující den komu zavolat, přitom zůstává otevřená. Můžeš si proto všimnout nejen úlevy po zavření chatu, ale také toho, s kým se během týdne vídáš a na koho se můžeš obrátit.

Výstižné pojmenování může být chybný odhad

Chatbot může shrnout několik zpráv tak, že v nich uvidíš něco, co ti dosud unikalo. Pracuje však s dostupným kontextem, instrukcemi a tím, co mu zpřístupní konkrétní služba. Událost, kterou jsi vynechal, nemusí znát. Přesvědčivě může znít i odpověď, která chybějící souvislost odhadla špatně.

Představ si zprávu: „Kamarád mi zase neodpověděl. Už se mu asi nechci ozývat.“ Chatbot může napsat, že se cítíš odstrčeně. To může sedět. Pokud ale pokračuje tvrzením, že kamarádovi na tobě nezáleží, přidává závěr o druhém člověku. Z těchto dvou vět neví, jestli kamarád o zprávě ví, co právě řeší ani jak váš vztah vypadal předtím.

Můžeš proto opravit část, která nesedí: „Nejsem smutný, spíš naštvaný. A zatím nevím, proč neodpověděl.“ Nebo si otázku přeformulovat pro sebe: „Co o té situaci vím a co si domýšlím?“ Výstižná věta pak pomůže hledat vlastní slova, aniž za tebe uzavře celý příběh.

Znamená empatická odpověď, že AI ví, co opravdu cítím?
Chatbot může tvoje sdělení vystihnout, ale také mu porozumět chybně nebo doplnit souvislost, kterou nemá doloženou. Z citlivě znějící odpovědi nelze poznat, zda zná celý kontext nebo má vlastní prožitek tvé situace.

Podívej se, co ti v odpovědi skutečně pomohlo

Po užitečném rozhovoru se můžeš vrátit ke třem otázkám:

  • Co se změnilo v tom, jak mi je? Ulevilo se mi, cítím se přijatý, nebo jsem hlavně dostal potvrzení toho, co jsem chtěl slyšet?
  • Která část odpovědi byla užitečná? Pomohlo shrnutí, otázka, pojmenování emoce nebo konkrétní návrh?
  • Na čem stojí její závěr? Vychází z toho, co jsem napsal, nebo přidává tvrzení o lidech a událostech, které nemůže znát?

Je pocit, že mi chatbot rozumí, falešný?
Úleva nebo pocit vyslyšení mohou být skutečné. Z toho ale neplyne, že chatbot sdílí tvoji zkušenost nebo že jeho výklad situace je správný. Můžeš ocenit užitečnou otázku a zároveň si ověřit, na čem odpověď stojí.

Když si z rozhovoru odneseš větu, která dobře popisuje tvoji zkušenost, můžeš ji použít při rozhovoru s někým blízkým. Pokud odpověď navrhuje závažné rozhodnutí o zdraví, vztahu nebo bezpečí, prober ho také s člověkem, který může posoudit širší situaci; zdravotní otázku s příslušným odborníkem. U faktických tvrzení si ověř, zda uvedený zdroj skutečně říká to, co mu chatbot připisuje.

Na otázku, proč může být někdy snazší začít právě s chatbotem, navazuje článek Proč je někdy snazší mluvit s AI než s člověkem.

Přinesl vám tento článek něco užitečného?

Pokud chcete podpořit vznik dalších článků, videí a projektů, můžete Projekt 23 symbolicky pozvat na kafe.

Potřebuješ pomoc?

Asistenční linka

Vyslechneme tě a probereme, co dál a na koho se obrátit.

Když telefon nezvedneme, zkusíme ti zavolat zpátky.

Volat na linku

AI CHAT 23

Prober s umělou inteligencí, co řešíš. Chat slouží i jako rozcestník pomoci: podle potřeby předá tvůj kontakt někomu z našeho týmu.

Otevřít chat

Mapa pomoci

Kontakty na pomoc podle místa a situace.

Mapa pomoci · připravujeme

Všechny díly série

Blízkost s AI: podpora, zrcadlo, nebo náhrada vztahu?

Proč máme pocit, že nám chatbot rozumí
Díl série 1. díl z 8

Proč máme pocit, že nám chatbot rozumí (čtete)

Chatbot naváže na detail a najednou se cítíš vyslyšený. Jak vzniká pocit porozumění, co ukazují experimenty a podle čeho posoudit jeho odpověď.