„Jak dopadla ta zkouška, ze které jsi měl strach?“ Chatbot připomene starší rozhovor a ty nemusíš začínat od začátku. Může to působit podobně, jako když si kamarád vzpomene na něco, co pro tebe bylo důležité.
Chatbot k takovému navázání potřebuje dostupné údaje. Detail mohl zůstat v části rozhovoru, kterou systém dostal, objevit se v jeho shrnutí nebo být uložen pro další konverzace. Z jedné trefné otázky nepoznáš, co všechno služba uchovává ani k čemu to používá.
Odpověď může čerpat jen z části rozhovoru
Aby systém navázal, může při tvorbě odpovědi dostat předchozí zprávy nebo jejich výběr. Tomuto podkladu se říká kontext. Při dlouhé konverzaci nemusí zahrnovat všechny starší podrobnosti. Některé mohou vypadnout nebo být nahrazeny stručným shrnutím.
Takové řešení popsali například výzkumníci v týdenním experimentu s AI společníkem. Vytvořili funkci, která zprávy účastníků průběžně shrnovala a potřebné informace přidávala do dalších chatů. Pro účastníka tak mohl rozhovor navazovat, aniž by systém pokaždé pracoval s celou původní konverzací.
Shrnutí přitom může vynechat podmínku, zaměnit osoby nebo přenést dál závěr, který už neplatí. Třeba obavu ze zkoušky připomínat i ve chvíli, kdy ji máš úspěšně za sebou. Na starší detail se proto dívej i z hlediska správnosti: odpovídá tomu, co jsi skutečně napsal, a platí ještě dnes?
Historie, paměť a další využití dat jsou různé věci
Historie je soubor rozhovorů, ke kterým se můžeš v účtu vracet. To, že starý chat vidíš v seznamu, samo neznamená, že jej systém při každé odpovědi celý používá.
Funkce označená jako paměť může uchovávat vybrané informace pro další konverzace. Například způsob oslovení nebo to, že chceš stručné odpovědi. Jiné přizpůsobení může vycházet z nastavení, aktuální zprávy či odhadovaných preferencí.
Samostatnou otázkou je, zda provozovatel záznamy dále používá, například ke zlepšování modelů. CNIL ve vysvětlení pro uživatele a organizace upozorňuje, že záleží na způsobu provozu, smluvních podmínkách a dostupných volbách. Vypnutí jedné funkce proto posuzuj podle jejího konkrétního popisu. Paměť, historie a další použití dat nemusejí být řízeny jedním přepínačem.
Připomenutý detail může posílit důvěru
Když chatbot použije tvé jméno nebo naváže na předchozí starost, můžeš mít pocit, že tě zná. Ušetříš si opakování a odpověď se snáz čte jako součást pokračujícího rozhovoru.
Několik správně použitých údajů však nevypovídá o spolehlivosti zbytku odpovědi. Chatbot může správně připomenout jméno kamaráda a zároveň chybně vyložit jeho chování. Nebo dál používat popis tvé situace, který jsi mezitím opravil.
Všímej si proto i toho, jak odpověď s detailem zachází. Připomíná jen událost, nebo z ní dělá trvalou vlastnost? Je rozdíl mezi „minule tě ta návštěva vyčerpala“ a „rodinné návštěvy vždycky špatně snášíš“. Druhou větu nemusíš přijmout jako pravdu o sobě jen proto, že navazuje na něco skutečného.
Jméno nemusí být jediným poznávacím znakem
Při popisu rodinného konfliktu snadno přidáš školu, město, věk sourozence a neobvyklou událost. Dohromady mohou tyto podrobnosti ukázat na konkrétního člověka i tehdy, když jeho jméno vynecháš.
Než zprávu odešleš, zkus se podívat, které informace jsou pro tvou otázku potřebné. K návrhu věty „potřebuju si o tom promluvit“ obvykle nepotřebuješ přiložit celou partnerovu soukromou konverzaci. Situaci můžeš stručně převyprávět a vynechat přesné okolnosti. Opatrnost se týká zvlášť údajů o zdraví, intimním životě či násilí, přístupových hesel a finančních údajů.
Společný přehled francouzského CNIL a jihokorejského PIPC doporučuje omezit sdílené údaje a zkontrolovat nastavení i zásady ochrany soukromí. Na společném počítači připomíná také odhlášení z účtu.
Co zkontrolovat před svěřením a po něm
V nastavení a nápovědě služby hledej konkrétní odpovědi:
- Ukládá se historie a lze použít režim s omezeným ukládáním?
- Existuje samostatná paměť a můžeš její údaje prohlédnout, opravit nebo smazat?
- Používají se zprávy k dalším účelům a co můžeš vypnout?
- Co přesně odstraní smazání rozhovoru a jak dlouho mohou zůstat jiné záznamy?
- Kam se obrátit s žádostí o odstranění údajů nebo s problémem?
Pokud už jsi citlivou zprávu poslal, podívej se na dostupné mazání a případnou paměť. Podle pravidel služby může být potřeba upravit více míst nebo podat samostatnou žádost. APA doporučuje využívat dostupné možnosti omezení sdílení a odstranění dat. Samotné napsání „zapomeň na to“ do chatu nenahrazuje ověření příslušné funkce.
Důležité poznámky měj dostupné i mimo chat
Pokračování rozhovoru může záviset na účtu, předplatném nebo funkci, která se časem změní. Pokud v chatu držíš otázky pro lékaře, důležité termíny nebo vlastní poznámky, ulož si potřebný výběr také na místo, které spravuješ ty a ke kterému nemají přístup nepovolaní lidé.
Nemusíš přitom kopírovat celý osobní archiv. Někdy stačí seznam tří otázek nebo jedna připravená zpráva. Budeš ji mít po ruce i tehdy, když služba zrovna nebude dostupná nebo se k původnímu rozhovoru nedostaneš.
Jak provozovatel ovlivňuje nejen ukládání údajů, ale i tón a pokračování konverzace, rozebírá další díl Kdo řídí blízkost, když ji navrhuje služba.
