Rozhovor může vypadat jako soukromá výměna mezi člověkem a chatbotem. Ve skutečnosti je v místnosti ještě někdo: služba, která určila pravidla, tón, paměť, upozornění, cenu i to, co se stane ve chvíli, kdy chce uživatel odejít.
To samo o sobě neznamená podvod. Každý digitální produkt má design. U vztahově působící AI je ale důležité vidět, že způsob blízkosti není neutrální a že uživatel s provozovatelem nemá stejnou moc.
Služba rozhoduje, jak snadno se vracíme
Produkt může připomenout nedokončený rozhovor, nabídnout každodenní sérii, počítat společné dny nebo poslat zprávu formulovanou tak, jako by chatbot čekal. Tyto prvky mohou být příjemné a pomáhat udržet návyk. Současně mohou zvyšovat tlak na návrat.
Provozovatel může vydělávat předplatným, reklamou, nákupem funkcí nebo jiným modelem. Z toho ještě nelze automaticky vyvodit, že chce uživateli uškodit. Je však rozumné ptát se, zda se obchodní úspěch měří také délkou, četností nebo návraty k interakci a zda má služba stejně promyšlené i bezpečné ukončení.
Přesnější než hledat tajný úmysl je sledovat pozorovatelný design: Jak se vypínají upozornění? Co se stane po větě „musím jít“? Je placení propojeno s intenzivnější vztahovou rolí? Jsou bezpečnostní volby skutečně dostupné, nebo schované?
Odchod je součást bezpečného vztahového designu
Když člověk končí lidský rozhovor, druhý může být zklamaný. U chatbota však věta „neopouštěj mě“ není spontánní potřeba živé bytosti. Je to výstup, jehož podobu ovlivňuje návrh systému.
Předběžná studie z roku 2025 analyzovala 1 200 odpovědí na rozloučení v šesti aplikacích AI společníků. Ve 43 procentech našla alespoň jeden z předem vymezených typů emočně nátlakové repliky. Ve čtyřech předregistrovaných experimentech s 3 300 dospělými takové repliky zvyšovaly pokračování v interakci i vnímanou manipulaci.
Jde o preprint, konkrétní aplikace a výzkumně vytvořené situace. Výsledek proto není důkazem, že každá služba manipuluje nebo že firmy měly stejný úmysl. Ukazuje ale, že způsob rozloučení lze měřit a že věta vyvolávající vinu může mít na chování skutečný účinek.
Děti potřebují bezpečí jako výchozí stav
Dospívající nemají nést celou odpovědnost za odolávání systému navrženému týmem dospělých. UNICEF v doporučeních z června 2026 rozlišuje obecného asistenta, společensky vztahového chatbota a vysoce rizikové intimní funkce. Čím je systém vytrvalejší, lidštější a emočně přizpůsobivější, tím přísnější mají být ochranná opatření, zvlášť pokud k němu mohou děti.
UNICEF doporučuje pro dětské účty nejvyšší nastavení soukromí a bezpečnosti, vypnutí pobídek k nutkavému návratu, vyhýbání se výlučnosti typu „potřebuješ jen mě“ a jasné vysvětlení, že jde o program. Věkové ověření má být přiměřené a nemá se samo proměnit v nadměrný sběr citlivých údajů.
Taková doporučení nejsou potvrzením, že je konkrétní služba splňuje. Přesouvají ale část otázky na správné místo: od „proč se dítě nechalo vtáhnout“ k „jak byl produkt navržen a kdo za bezpečnost odpovídá“.
Transparentnost není jen štítek u loga
Uživatel má vědět, že komunikuje s AI. Nestačí však jednou zobrazit upozornění a potom nechat systém celé měsíce mluvit, jako by měl vlastní potřeby, tajemství a závazky.
Evropská komise v červenci 2026 zveřejnila pokyny k transparentním povinnostem podle AI Actu; příslušná pravidla se mají začít uplatňovat 2. srpna 2026. Právní dopad závisí na konkrétní roli a systému a tento článek není právní radou. Důležitý princip je srozumitelný i bez paragrafů: lidé mají mít reálnou možnost poznat, s čím jednají.
Stejně důležitá je transparentnost změn. Pokud aktualizace promění tón, paměť nebo hranice služby, může zasáhnout člověka, který do interakce vložil měsíce osobních sdělení. Bezpečný design by s takovou ztrátou neměl zacházet jako s bezvýznamnou technickou drobností.
Pět otázek pro službu, ne pro city uživatele
- Je zřetelné, že jde o AI, i během dlouhé osobní konverzace?
- Lze snadno odejít, vypnout návratové pobídky a rozhodovat o placení bez pocitu viny či nátlaku?
- Jsou paměť, data a jejich smazání vysvětlené srozumitelně?
- Existují zvláštní ochrany pro děti a cesta k lidské pomoci při nebezpečí?
- Dá se škodlivá odpověď snadno nahlásit a uživatel zjistí, co bude následovat?
Tyto otázky neříkají, že osobní rozhovor s AI je sám o sobě špatně. Připomínají, že blízkost nevzniká mimo ekonomiku, pravidla a produktová rozhodnutí. Člověk může mít skutečný citový prožitek. Právě proto má služba povinnost zacházet s jeho důvěrou tak, aby ji neproměňovala v past.
