Napíšeš několik vět o dni, který se nepovedl. Odpověď naváže na detail z předchozí zprávy, pojmenuje pocit, pro který jsi neměl slovo, a položí přesně tu otázku, kterou ti nikdo jiný nepoložil. Na chvíli může vzniknout silný dojem: konečně mě někdo chápe.
Ten prožitek není potřeba zesměšňovat ani popírat. Zároveň je užitečné rozlišit, co se skutečně stalo v člověku a co lze z odpovědi vyčíst o systému, který ji vytvořil.
Odpověď připomíná malou sociální situaci
V běžném rozhovoru poznáváme zájem podle drobných signálů. Druhý člověk naváže na to, co jsme řekli, všimne si změny tónu, zeptá se dál nebo vlastními slovy zachytí, co se asi snažíme sdělit. Když podobné znaky obsahuje text chatbota, naše pozornost na ně může reagovat jako na známou podobu rozhovoru.
Člověk si kvůli tomu nemusí plést stroj s člověkem. Můžeme dobře vědět, že píšeme s AI, a přesto automaticky poděkovat, omluvit se za dlouhou zprávu nebo cítit úlevu, když reakce působí laskavě. Jazyk jsme se učili mezi lidmi, a proto v něm snadno rozpoznáváme zájem, odstup, humor nebo péči i tehdy, když text nevytvořil lidský partner.
Meta-analýza experimentů s textovými chatboty ukázala, že prvky připomínající lidskou komunikaci mají v průměru malý pozitivní vliv na to, jak lidé vnímají chatbota a interakci s ním. Účinek ale nebyl stejný u všech výsledků ani situací. Snáz se měnil dojem, důvěra nebo pocit dobrého kontaktu než skutečné chování. Lidsky znějící jazyk tedy může sociální dojem posílit, není to však kouzelné tlačítko se stejným účinkem na každého.
Antropomorfizace není totéž co naivita
Když neživému systému připisujeme lidské vlastnosti, mluví se o antropomorfizaci. Stejnou schopnost používáme, když řekneme, že nás telefon „zlobí“, auto „nechce nastartovat“ nebo že příběhová postava „ví“, co by měla udělat. Pomáhá nám rychle popsat složité dění pomocí známých lidských představ.
U chatbota je tento dojem silnější, protože odpověď skutečně reaguje na naše slova. Není předem nahraná jako jedna věta v automatu. Může změnit tón, navázat na detail a vytvořit nové přirovnání. Člověk si tak nemusí vědomě říkat „tohle je osoba“, aby se během rozhovoru cítil méně sám nebo více vyslyšený.
Lidé se v této reakci výrazně liší. Ve dvou experimentech s celkem 1 274 dospělými vedli účastníci šestiminutový rozhovor s teple reagujícím chatbotem, nebo si o stejném období psali sami pro sebe. Ti, kteří technologiím častěji připisovali lidské vlastnosti, po rozhovoru častěji uváděli silnější okamžitý pocit sociálního spojení. Průměrný rozdíl proti psaní deníku byl v rozsáhlejším pokusu malý a výzkum proběhl mezi dospělými v USA a Kanadě. Neříká tedy, jak bude reagovat konkrétní dospívající ani co se stane po měsících používání.
Rozdílná reakce není známkou chytrosti nebo hlouposti. Někdo se snadno ponoří do knihy, hry nebo rozhovoru s AI, jiný po celou dobu silně vnímá umělost situace. Obojí je možné.
Výstižná věta ještě není sdílená zkušenost
Chatbot může z dostupného textu odhadnout, jaký druh reakce se do rozhovoru hodí. Dokáže přeformulovat sdělení, spojit několik detailů nebo nabídnout název emoce. Někdy se trefí tak přesně, že člověku pomůže uvidět vlastní situaci zřetelněji.
To ale není totéž jako vědět, co člověk opravdu prožívá. Systém pracuje s informacemi z konverzace, se svými instrukcemi a případně s dalším kontextem, který mu služba zpřístupní. Nezná automaticky celý život za několika větami. Nevidí všechny vztahy, události ani významy, které člověk do slov nevložil. A když mu chybí souvislost, může přesto vytvořit sebejistě znějící odpověď.
Stejná vlastnost proto může pomoci i mást. Věta „zní to, jako by ses cítil odstrčeně“ může nabídnout užitečné pojmenování. Může ale také nasměrovat výklad příliš rychle, když šlo spíš o vztek, únavu nebo něco, co se do zprávy nevešlo. Dobře znějící odhad zůstává odhadem, dokud člověk sám neposoudí, zda na jeho zkušenost sedí.
Záleží také na tom, za koho odpověď považujeme
Pocit blízkosti nevytvářejí jen slova. Ovlivňuje ho také očekávání, kdo je napsal. Ve dvou předregistrovaných experimentech vedlo 492 mladých dospělých krátké, výzkumně řízené rozhovory. Když si účastníci mysleli, že odpovědi vytvořil člověk, text vygenerovaný AI při osobnějším rozhovoru vyvolával větší pocit blízkosti než odpovědi skutečných lidských partnerů. Když účastníci věděli, že jejich partnerem je AI, pocit blízkosti zeslábl, ale nezmizel.
Takový experiment neukazuje, že AI obecně rozumí lépe než lidé. Účastníci byli vysokoškoláci ve věku 18 až 35 let, rozhovory byly krátké a odpovědi předem připravené pro zvláštní výzkumný úkol. Výsledek ukazuje něco užšího: na pocit blízkosti působí nejen obsah věty, ale také naše představa o jejím původu.
Podobně výzkum AI společníků zjistil, že krátkodobé snížení osamělosti souviselo zejména s tím, zda se člověk po rozhovoru cítil vyslyšený. Studie sledovala okamžitou změnu, v jednom pokusu opakovaně během týdne; neprokazovala dlouhodobou náhradu lidských vztahů. Pocit „někdo mě slyší“ tedy může mít skutečný účinek, i když ještě neodpovídá na otázku, co taková interakce dělá s životem v delším čase.
Tři vrstvy, které je dobré neslévat
Když odpověď zasáhne přesné místo, pomáhá oddělit tři různé věci:
- Co se stalo ve mně. Možná přišla úleva, pocit přijetí nebo slova pro něco, co bylo dosud nejasné. Tento prožitek nemusí být falešný jen proto, že jej spustila AI.
- Co udělala odpověď. Mohla navázat, shrnout, položit dobrou otázku nebo nabídnout výklad. Je možné posoudit, zda to pomohlo, aniž bychom z toho vyvozovali lidské vlastnosti autora.
- Co systém skutečně může vědět. To je omezené dostupným kontextem a může se lišit podle služby. Výstižný tón nezaručuje přesnost, znalost celého příběhu ani odpovědnost za následky rady.
Toto rozlišení nemusí rozhovor znehodnotit. Naopak vrací člověku možnost vzít si z odpovědi to užitečné a současně ji nepovažovat za neomylný pohled někoho, kdo zná celý jeho život.
Pokud chatbot nabídne pojmenování, může dávat smysl chvíli zkoumat, zda opravdu sedí. Pokud navrhne důležité rozhodnutí o vztahu, zdraví nebo bezpečí, je na místě přidat další zdroj pohledu — člověka, který zná širší situaci, nebo odborně ověřené informace. Ne proto, že prožitek z rozhovoru nebyl skutečný, ale proto, že pocit porozumění a spolehlivost závěru jsou dvě odlišné věci.
Odpověď chatbota může působit lidsky, protože jazyk nese signály, podle kterých porozumění běžně poznáváme. Někdy díky nim skutečně přijde úleva. Nejpřesnější není tento pocit popřít ani z něj udělat důkaz, že systém prožívá porozumění jako člověk. Přesnější je říct: něco v té odpovědi mi pomohlo — a teď potřebuji zjistit, co přesně to bylo a jakou váhu tomu chci dát.
