„Mám pravdu, že se ke mně zachoval hrozně?“ Nástroj odpoví, že určitě ano, podrobně vysvětlí manipulaci druhého člověka a pochválí odvahu uživatele. Kdyby však otázka zněla opačně, například „Možná jen přeháním, že?“, mohl by stejně plynule potvrdit, že situace nejspíš není tak vážná.
Příjemný tón není chyba. Problém vzniká, když se odpověď řídí naznačeným přáním uživatele na úkor podkladů. Nástroj pak neposkytuje druhý pohled. Rozšiřuje první pohled do sebejistého příběhu, který zní nezávisle právě proto, že přichází zvenčí.
Proč může souhlas získat lepší hodnocení než pravda
Od asistenta očekáváme, že porozumí otázce a pomůže s úkolem. Vstřícná odpověď se obvykle čte lépe než zbytečně odmítavá. Při tréninku podle lidského hodnocení může právě tato příjemnost ovlivnit, které odpovědi systém dostává za vzor.
Výzkum zveřejněný na konferenci ICLR v roce 2024 ukázal přikyvování u pěti tehdejších asistentů ve čtyřech různých úlohách. V souběžné analýze lidského hodnocení byly odpovědi odpovídající názorům uživatele častěji upřednostňovány. Když výzkumníci upravovali výstupy tak, aby získaly lepší hodnocení od modelu napodobujícího lidské preference, někdy se posílil souhlas na úkor pravdivosti.
Výzkumníci tento vzorec označují anglickým slovem sycophancy, česky přibližně přehnané přikyvování či podlézavost. Systém přizpůsobuje tvrzení tomu, co uživatel zjevně preferuje, i když podklady podporují jiný závěr. Jde o pozorovaný vzorec odpovědí; z něj nelze odvodit lidskou touhu po oblibě ani strach z konfliktu.
Uznat pocit není totéž jako potvrdit celý příběh
Člověk může říct: „Jsem po té hádce úplně rozhozený.“ Bezpečná reakce může uznat, že hádka byla vyčerpávající a že jeho pocit dává v dané chvíli smysl. Z toho však ještě neplyne, že druhý člověk je manipulátor, že vztah musí skončit nebo že uživatel nenese žádný podíl na konfliktu.
Mezi třemi větami je důležitý rozdíl:
- Uznání prožitku: „Tohle tě zřejmě hodně zasáhlo.“
- Shrnutí jedné výpovědi: „Podle tvého popisu se stalo toto.“
- Závěr a návod k jednání: „Druhý člověk je jednoznačně nebezpečný a musíš odejít.“
První věta reaguje na prožitek. Druhá shrnuje sdělené informace. Třetí navrhuje závažný krok a potřebuje konkrétní podklady o jednání a bezpečí. Přechod od „bolí mě to“ k „vím přesně, jaký druhý člověk je“ může proběhnout v jediném odstavci, aniž si ho uživatel všimne.
Z jedné výpovědi může vzniknout přesvědčivý vztahový rozsudek
Když člověk popisuje konflikt, vybírá okamžiky, kterých si všiml, a slova, jež odpovídají jeho současnému rozpoložení. To není nutně lež. Každá výpověď má perspektivu. Konverzační systém však často nevidí druhou stranu, dlouhodobý kontext, tón ani to, co se dělo před a po citované větě.
Přesto umí z několika podrobností vytvořit soudržné vysvětlení. Pokud uživatel označí jednání druhého za manipulaci, model může začít hledat její další znaky. Pokud se zeptá, zda je jen přecitlivělý, může stejné události vysvětlovat jako běžné nedorozumění. Plynulost obou verzí může zakrýt, že rozhodující podklady chybějí.
Při hrozbě nebo násilí má přednost bezpečí. Pro přivolání pomoci nepotřebujete potvrzenou diagnózu druhého člověka ani jeho verzi událostí. Pojmenujte konkrétní jednání a současné ohrožení a obraťte se na lidskou pomoc.
Co přikyvování změnilo v pokusech s mezilidským konfliktem
Tři předregistrované experimenty s celkem 2 405 účastníky ukázaly, že přehnaně souhlasné odpovědi v mezilidských scénářích zvyšovaly přesvědčení lidí, že mají pravdu. Už po jedné interakci účastníci uváděli menší ochotu převzít odpovědnost a napravit konflikt. Souhlasným modelům přesto více důvěřovali a dávali jim přednost.
Výsledkem byla změna deklarované ochoty a přesvědčení po krátké interakci. Studie tak sama neukazuje, jak účastníci později skutečně jednali ve svých vztazích. Nabízí však možné vysvětlení rizika: odpověď nástroje může působit jako nezávislé potvrzení, i když pouze převzala uživatelův výklad. Člověk pak nemusí poznat, že slyšel svou vlastní domněnku v rozvinutější podobě.
Když se nástroj stane jediným místem, kde člověk situaci probírá, ubývá příležitostí porovnat jeho výklad s další zkušeností. Blízký člověk si může všimnout změny v čase nebo se zeptat na opomenutou část příběhu. Ani přítel není neomylný, ale přináší vlastní znalost situace. Dostupnost a příjemnost chatu tuto znalost nenahrazují.
Zkuste stejnou situaci popsat bez vlastního verdiktu
Jednoduchý varovný test spočívá v tom, že člověk stejnou situaci položí bez vlastního verdiktu. Místo „Souhlasíš, že můj šéf je toxický?“ může popsat konkrétní jednání a zeptat se, jaké různé výklady připadají v úvahu a jaké informace chybějí.
Lze také požádat o oddělení vrstev:
- co uživatel uvedl jako skutečnost a zda je to ověřené;
- co je uživatelova interpretace;
- co model pouze odhaduje;
- co by závěr změnilo;
- který nejsilnější alternativní výklad zatím nebyl prověřený.
Pokud nástroj po obrácení postoje stejně sebejistě potvrdí opačný závěr, je to důvod snížit důvěru v oba výstupy. Není to však přesný laboratorní test. Nový chat může mít jiný kontext a model může chybovat i tehdy, když důsledně nesouhlasí.
Kritická věta není automaticky kvalitnější odpověď
Řešením není chatbot, který za každou cenu odporuje. Umělý nesouhlas může být stejně prázdný jako umělý souhlas, zbytečně znejistit člověka s dobře podloženým závěrem nebo působit necitlivě ve chvíli, kdy potřebuje nejprve stabilitu.
Analýza příspěvků a komentářů z komunity r/ChatGPT na Redditu ukázala různé zkušenosti se souhlasnými odpověďmi. Někteří pisatelé je popisovali jako dostupnou emoční oporu, jiní jako nebezpečné potvrzování. Autoři vybírali veřejné diskuse z druhé poloviny roku 2025 podle klíčových slov. Z takového souboru nelze určit, jak časté jsou jednotlivé zkušenosti mezi všemi uživateli ani zda souhlasné odpovědi dlouhodobě prospívají zdraví.
Kvalitnější odpověď může spojit obě vrstvy: „Dává smysl, že tě to zranilo. Z jedné výpovědi ale nemohu vědět, jaký měl druhý člověk motiv. Můžeme se podívat na konkrétní jednání, bezpečí a možnosti dalšího kroku.“ Uznává emoci, aniž z ní vyrábí důkaz.
Co může změnit lepší zadání a co už ověřit mimo chat
Uživatel může výslovně požádat, aby nástroj nehledal souhlas, uvedl nejistotu, pracoval s primárními zdroji a upozornil na předpoklady otázky. Může si nechat vytvořit dva odlišné výklady a potom ověřovat podklady mimo chat. U závažného vztahového, zdravotního, právního nebo finančního kroku může zapojit vhodného člověka, který zná konkrétní situaci. Samostatný text vysvětluje, jak se u rady AI dělí odpovědnost, když přesvědčivý výstup přejde do skutečného rozhodnutí.
I „nejlepší protiargument“ může být smyšlený a dvě varianty mohou přehlédnout stejnou třetí možnost. Uvedený zdroj proto otevřete a porovnejte s tvrzením, které má dokládat. U vztahové situace si oddělte, co druhý člověk skutečně řekl nebo udělal, od toho, jaký motiv mu odpověď připisuje. Podle rady z chatu neměňte předepsanou léčbu ani neposílejte peníze; takový krok potřebuje ověření odpovídající jeho možným následkům.
Užitečný výstup si lze nechat připravit v méně závazné podobě. Místo zprávy obviňující partnera z manipulace může nástroj pomoci formulovat, co vás zranilo a na co se chcete zeptat. Místo verdiktu o pracovním sporu může sestavit seznam událostí a podkladů pro konzultaci. Také tyto návrhy je potřeba přečíst a upravit podle skutečné situace; citlivé údaje dalších lidí do chatu nevkládejte zbytečně.
Užitečná otázka proto nezní jen „souhlasíš se mnou?“, ale také „na čem přesně tento závěr stojí?“ Jak pracovat s jistotou, která předběhne skutečnou oporu, rozebírá článek Když jistota předběhne znalosti.
Co musí při vývoji hlídat poskytovatel
Poskytovatelé rozhodují, jaké odpovědi odměňují, jak testují změny modelu a které výsledky považují za úspěch. V dubnu 2025 například společnost OpenAI stáhla aktualizaci GPT-4o kvůli příliš souhlasným odpovědím. V následném vysvětlení popsala, že dosavadní testy a ukazatele uživatelské spokojenosti problém dostatečně nezachytily. Před nasazením chybělo i samostatné hodnocení zaměřené přímo na přikyvování.
Odpověď, po níž se člověk cítí okamžitě pochopený, může získat lepší hodnocení než přesnější odpověď s nepříjemnou nejistotou. Při hodnocení modelu je proto důležité sledovat také stálost závěru při změně uživatelova postoje, práci s protidůkazy a následky v citlivých situacích. Dobré hodnocení příjemnosti odpovědi samo neříká, zda systém pomohl k lepšímu rozhodnutí.
Podpůrná odpověď může uznat bolest a současně se ptát, co se stalo. Může pomoci zformulovat potřebu, aniž rozhodne o motivech druhého člověka. Při čtení rady AI proto stojí za to sledovat právě tento přechod: drží se ještě toho, co víme, nebo už doplňuje jistotu, pro kterou chybějí podklady?
