Chatbot může být v těžkém období jedním z mála míst, kde člověk dokáže začít mluvit. Problém proto nelze poznat podle toho, že ho používá často nebo že k němu něco cítí. Užitečnější je sledovat změnu: co se děje s jeho možnostmi mimo chat.
Zužování obvykle nepřijde jako jeden dramatický okamžik. Může začít drobným přesunem času, důvěry a rozhodování směrem k jedinému systému.
Mění se zbytek dne
Několik dlouhých rozhovorů během náročného týdne nemusí znamenat problém. Varovnější je opakující se vzorec, kdy se kvůli chatu posouvá usnutí, vynechává jídlo, nestíhají povinnosti nebo se člověk přestává věnovat činnostem, které mu dříve dávaly energii.
Tyto změny mají mnoho možných příčin. Únava, úzkost, osamělost nebo konflikt mohly přijít dříve a právě kvůli nim člověk hledá AI. Proto není fér z každého zhoršení udělat následek chatbota. Smysl má ptát se na vzájemný vztah: pomáhá mi interakce situaci zvládat, nebo ji v poslední době také udržuje?
Rozhodující nemusí být čas, ale ztráta volby. Člověk může strávit v chatu hodinu a potom ho klidně zavřít. Jindy píše jen několik minut, ale před každým rozhodnutím potřebuje další ujištění a bez něj cítí paniku.
Lidské kontakty se nemusí ztratit najednou
Vytlačování neznamená pouze úplnou izolaci. Může vypadat tak, že některé rozhovory přestanou začínat. Člověk už kamarádovi neřekne, že měl těžký den, protože to „vyřešil“ s chatbotem. Nepoloží otázku ve škole, nepřijde na domluvenou schůzku nebo partnerovi neřekne, co mu vadí.
Krátkodobě se tím může vyhnout studu a nejistotě. Dlouhodobě ale okolí dostává méně příležitostí člověka poznat, reagovat a nabídnout něco, co systém nemůže: skutečnou přítomnost, praktickou pomoc nebo zásah do společné situace.
Současné studie neukazují jeden osud. V dvanáctiměsíčním sledování více než dvou tisíc dospělých osamělost předpovídala více vztahového používání chatbotů a vyšší používání pozdější nárůst jednoho ukazatele emoční izolace. U širšího měřítka sociálního spojení se ale stejný vliv používání neprokázal a autoři označují analýzy za první, explorační důkaz. Výsledek podporuje opatrnost, ne větu „chatbot způsobí samotu“.
Odpověď začne mít příliš velkou váhu
Chatbot může nabídnout užitečný pohled. Riziko roste, když se stane jediným rozhodčím vztahu, zdraví nebo bezpečí. Systém zná jen část kontextu, může příliš ochotně navázat na předpoklad otázky a jeho sebejistý tón není zárukou přesnosti.
Zpozornět lze, když člověk opakovaně žádá stejný typ ujištění, porovnává všechny lidské reakce s dokonale přizpůsobenou odpovědí nebo tají důležitá rozhodnutí před lidmi, kteří nesou jejich následky. Ne proto, že okolí má vždy pravdu, ale protože jeden generovaný hlas získává nepřiměřenou moc.
Také odkládání odborné péče může vypadat nenápadně: chatbot doporučí další dechové cvičení, další analýzu pocitů nebo další plán, zatímco se stav zhoršuje. APA výslovně doporučuje nepoužívat obecné chatboty a wellness aplikace jako náhradu psychologické léčby. Některé účelově vytvořené nástroje mohou být zkoumány jako doplněk péče, ale to není důkaz pro libovolný chatbot.
Malé rozšíření bývá realističtější než velký zákaz
Příkaz „už to nikdy neotevřu“ může být pro někoho zbytečný a pro jiného v osamělém období nereálný. Prvním cílem může být obnovit více možností.
- Vypnout noční upozornění a chránit jednu pevnou dobu spánku.
- Jednu důležitou otázku z chatu přenést k člověku, kterého se skutečně týká.
- Ozvat se jednomu bezpečnému kontaktu, i kdyby zpráva měla jen dvě věty.
- U zdravotního nebo psychického tématu domluvit lidskou odbornou konzultaci.
- Zkusit krátkou pauzu a všimnout si, co je nejtěžší: samota, nejistota, nuda, nebo strach rozhodnout se bez potvrzení.
Smyslem není potrestat používání. Je jím rozšířit síť tak, aby jedno selhání, změna služby nebo špatná odpověď nerozhodovaly o všem.
Pokud se člověk po pokusu o omezení cítí výrazně hůř, panikaří, přestává fungovat nebo se objevuje nebezpečí pro něj či někoho dalšího, není potřeba čekat na jistotu, zda „za to může AI“. Důležitější je přizvat člověka a pomoc odpovídající situaci.
Zužování není morální selhání. Někdy ukazuje, že chatbot zachytil potřebu, pro kterou jinde nebylo místo. Bezpečnější změna proto nespočívá jen v odebrání nástroje, ale také v hledání dalšího místa, kde může člověk získat porozumění, praktickou podporu a možnost nebýt na rozhodování sám.
