Někdo má v hlavě celý příběh, ale zápis každé stránky ho stojí nepoměrně víc energie než vymýšlení děje. Jiný dokáže přesně popsat scénu, jen neumí kreslit rukou tak, jak si ji představuje. Další člověk zná svůj argument, ale v cizím jazyce hledá každé druhé slovo. A někdo by rád tvořil hodinu, ale kvůli nemoci, bolesti nebo vyčerpání vydrží jen deset minut.
Generativní AI může nabídnout osnovu, pomoci formulovat nadiktované myšlenky nebo z popisu vytvořit první obrazový návrh. Člověk se tak dostane k části práce, na kterou mu dříve nezbývala síla nebo kterou nemohl provést dostupnými prostředky. Spolu s tím se otevírá otázka: dokáže návrh posoudit, změnit a odmítnout?
Tentýž nástroj může jednomu člověku nahradit část činnosti, kterou si chtěl osvojit, a druhému zpřístupnit něco, k čemu se dříve vůbec nedostal. Rozhoduje konkrétní překážka, lidský záměr a práce, kterou nástroji svěříme.
Kdo rozhoduje o tom, co vznikne
Představme si člověka, který chce napsat dopis. Ví, komu je určen, co potřebuje sdělit i kterou větu nechce použít, protože by zněla příliš tvrdě. Potíže se zápisem a kontrolou textu mu však práci ztěžují. Nadiktuje vlastní myšlenky, nechá si navrhnout úpravy a porovná je se svým záměrem. Nástroj mu pomohl překonat část překážky mezi tím, co chtěl říct, a hotovým dopisem.
Teď si představme jinou situaci. Člověk zadá pouze „napiš citlivý dopis“, vybere první variantu a odešle ji bez kontroly. I zde vznikl dopis, ale většinu nosných voleb udělal systém: zvolil argumenty, pořadí, míru omluvy i tón. Výsledek může být uhlazenější, zatímco lidská účast je užší.
V obou situacích lze použít stejnou aplikaci. Odlišuje je rozdělení práce. První člověk přinesl vlastní sdělení a průběžně rozhodoval o jeho podobě. Druhý předal nástroji také podstatnou část rozhodování. Pod slovem pomoc se tak skrývají různé činnosti i různá míra lidské účasti.
Kdy se nástroj stane použitelnou oporou
Světová zdravotnická organizace používá pojem asistivní technologie pro pomůcky, služby a systémy, které lidem pomáhají například s komunikací, pohybem, sluchem nebo zrakem. Patří mezi ně i digitální řešení, jako je rozpoznávání řeči, titulkování nebo software pro práci s časem. Nestačí však samotný výrobek. Důležité jsou také bezpečnost, účinnost, dostupná cena, související služby a zapojení člověka, který má technologii používat.
Generativní AI může podobnou podporu doplnit, ale samotná schopnost něco vygenerovat z ní nedělá vhodnou pomůcku pro každého. Chatbot, který umí přeformulovat odstavec, může pomoci při konkrétním úkolu. Pokud však jeho ovládací prvky nefungují se čtečkou obrazovky, člověk se do služby nepřihlásí bez cizí pomoci nebo výstup nelze bezpečně ověřit, vzniká nová bariéra.
Také potřeby lidí se liší. Dyslexie, omezená pohyblivost, ztráta zraku, únava nebo potíže s cizím jazykem kladou člověku různé překážky. Lidé s těmito obtížemi mohou využívat stejnou funkci, například diktování textu, každý však z jiného důvodu a s jinými nároky na kontrolu. W3C připomíná, že lidé mají různorodé schopnosti, strategie, preference i technické vybavení, a to i v rámci jedné široké kategorie postižení.
Jeden nástroj může mít pět různých rolí
Nástroje s AI mohou zasáhnout do různých částí tvorby. Některé funkce pouze převádějí už dodané sdělení do jiného formátu, jiné navrhují nový obsah. Diktování například převede řeč do textu; generativní model pak může navrhnout jeho uspořádání. U každé takové pomoci stojí za pozornost, o čem dál rozhoduje člověk.
| Role nástroje | Konkrétní pomoc | Co je potřeba hlídat |
|---|---|---|
| orientace | rozdělení úkolu na kroky, návrh otázek, vysvětlení zadání | zda nástroj neurčil i cíl, který měl zvolit člověk |
| převod | řeč na text, změna formátu, pracovní popis obrazu, jazyková opora | chyby převodu, ztrátu významu a přístupnost výsledku |
| první varianta | hrubá osnova, několik možností začátku, technický návrh | zda první nabídka neuzavře směr příliš brzy |
| zpětná vazba | upozornění na nejasnost, opakování, chybějící krok či rozpor | smyšlenou jistotu a přizpůsobení textu obecnému vkusu |
| provedení | vytvoření podstatné části textu, obrazu, hudby nebo kódu | zda člověk už pouze vybírá a schvaluje hotové návrhy |
Člověk může potřebovat hotovou pozvánku a nemít zájem učit se grafický design. Pro jeho účel je rozsáhlá pomoc přiměřená. Kdyby však pozvánku odevzdával jako doklad vlastních výtvarných dovedností, záleželo by na tom, co skutečně navrhl sám. Čím více práce nástroj přebírá, tím důležitější je rozlišit kvalitu výstupu a dovednost, kterou člověk při jeho vzniku uplatnil.
Co lidé v AI hledají a na co narážejí
Dotazník mezi 124 studenty s různými druhy postižení na univerzitě v Sheffieldu zachytil tři hlavní možnosti, které respondenti v generativní AI viděli: vysvětlit, pomoci vyjádřit myšlenku a naplánovat postup. V odpovědích z února a března 2024 zmiňovali jednodušší výklad pojmů, uspořádání myšlenek, kontrolu gramatiky nebo rozdělení zahlcujícího úkolu na menší kroky.
Objevovaly se také obavy z nepřesných odpovědí, porušení akademické poctivosti a ztráty osobního hlasu. Výzkum zahrnoval zkušené uživatele i studenty, kteří AI nepoužívali. Vypovídá tedy o jejich zkušenostech a očekáváních; dlouhodobé učení neměřil.
Jiný výzkum spojil rozhovory s 19 nevidomými a slabozrakými uživateli s ukázkami práce s nástroji. Na začátku roku 2024 využívali chatboty a generované popisy obrazů k získávání informací i tvorbě obsahu. Zároveň naráželi na nepřístupné ovládání, smyšlené odpovědi a potíže s ověřováním. Někteří také přeceňovali schopnost systému vyhledávat nebo kontrolovat fakta. Nástroj tak mohl usnadnit jeden krok a zkomplikovat další.
Lepší výsledek ještě nemusí znamenat, že se člověk něco naučil
V experimentu z roku 2023 dostalo 453 vysokoškolsky vzdělaných lidí z několika profesí dvě krátká písemná zadání. Před druhým úkolem výzkumníci náhodně vybrané polovině pomohli zřídit účet ChatGPT a vysvětlili jeho použití. Tato skupina pak pracovala v průměru rychleji a získala lepší hodnocení. V kvalitě výsledku se více zlepšili lidé se slabším výkonem v prvním úkolu. Zadání zahrnovala například tiskové zprávy a pracovní e-maily, nevyžadovala ovšem dohledávání přesných faktů ani podrobnou znalost konkrétní firmy.
Studie však nezkoumala lidi podle zdravotního postižení ani neověřovala, co se naučili na příště. Měřila výkon člověka s nástrojem v konkrétním okamžiku. Stejný rozdíl jsme podrobněji rozebrali v textu Když už člověk nemusí umět začátek: lepší výsledek celé soustavy není automaticky lepší samostatná dovednost jejího uživatele.
Pro přístupnost z toho neplyne, že je pomoc méně skutečná. Vozík nemusí měnit tělo člověka, aby mu umožnil pohyb. Pravopisná opora nemusí odstranit dyslexii, aby zpřístupnila psaní. Jen je potřeba vědět, zda cílem je něco vytvořit, něco se naučit, prokázat konkrétní dovednost, nebo všechny tři věci zároveň. Jinak můžeme nástroj nespravedlivě zakázat tam, kde odstraňuje vedlejší bariéru, nebo naopak prohlásit za učení situaci, v níž člověk pouze převzal hotové řešení.
Prázdná stránka není pro každého stejná překážka
Rada „prostě začni“ předpokládá, že první krok stojí každého přibližně totéž. Nestojí. Někdo se bojí nedokonalosti, jiný ztrácí myšlenku během zápisu, další bojuje s bolestí při ovládání klávesnice a někdo musí nejprve přeložit vlastní představu do jazyka, v němž má výsledek odevzdat.
První hrubá varianta může v těchto chvílích fungovat jako lešení: umožní člověku dostat se k místu, kde už dokáže návrh posuzovat a měnit. Někdo si nechá rozdělit úkol na pět kroků. Někdo nadiktuje neupravený odstavec a požádá pouze o označení míst, kterým čtenář nemusí rozumět. Jiný si nechá popsat několik možných kompozic, ale motiv i konečnou podobu vytvoří sám.
Užitečnost nespočívá v tom, že výstup vypadá profesionálně. Spočívá v nově dostupné možnosti jednat: začít, reagovat, odmítnout, přepracovat a dokončit něco, co nese vlastní záměr.
První návrh může určit směr příliš brzy
První varianta může pomoci, ale také určit směr dřív, než si člověk stačí položit vlastní otázku. Hotový návrh působí přesvědčivěji než nejasná představa a bývá snazší jej upravovat než zahodit. Kdo chtěl napsat příběh, najednou opravuje děj, postavy a tón, které nevymyslel. Kdo hledal vlastní vizuální jazyk, vybírá z možností, jež už nesou estetické zvyklosti systému.
Experiment s krátkými příběhy zjistil, že nápady od generativní AI zvýšily průměrné čtenářské hodnocení novosti a užitečnosti výsledků, zvlášť u autorů s nižším skóre ve vstupním testu tvořivosti. Příběhy napsané s touto podporou si však byly navzájem podobnější. Jednotlivý autor tak mohl získat lepší hodnocení, zatímco se zmenšily rozdíly mezi příběhy celé skupiny.
Také záleží na podobě spolupráce. Ve dvou experimentech s osmiveršovými básněmi hodnotili profesionální básníci výsledky úprav hotového návrhu AI jako méně tvořivé než samostatně napsané básně. Ve druhém experimentu přibyla průběžná spolupráce: člověk vybral téma a střídal se se systémem v psaní veršů. Tato skupina získala lepší hodnocení než skupina upravující hotovou báseň; od samostatného psaní se statisticky významně nelišila. Změnil se přitom celý způsob práce včetně volby tématu, takže výsledek nelze připsat samotnému střídání veršů.
Pro vlastní tvorbu z toho vyvstává praktická otázka: vstupuji do procesu už při hledání směru, nebo až při opravování téměř hotového výsledku? Článek Když AI píše správně, ale ne za vás rozebírá, jak hladký text může ztrácet rozhodnutí, podle nichž poznáme konkrétního autora.
Ověřování může být novou bariérou
Často se říká, že člověk má výstup AI prostě zkontrolovat. To je rozumná zásada, ale slovo prostě zakrývá další práci. Ověření obrazu předpokládá, že jej člověk může prohlédnout nebo má dostupný jiný spolehlivý popis. Kontrola cizojazyčné formulace předpokládá dostatečnou znalost jazyka. Posouzení kódu vyžaduje možnost jej bezpečně spustit a porozumět výsledku. Uživatel, kterému nástroj nahrazuje právě chybějící dovednost, nemusí mít nejlepší podmínky pro odhalení jeho chyby.
Sedm výzkumníků s postižením i bez něj po tři měsíce v roce 2023 zaznamenávalo vlastní zkušenosti s generativními nástroji. Vedle užitečných prvních návrhů zachytili také nepřístupné nebo nesmyslné výsledky. Systém například dokázal popsat pravidla přístupnosti, ale nedodržel je v návrhu, který sám vytvořil. U obrazových výstupů se objevovalo stereotypní zobrazování postižení. První návrh proto ještě mohl vyžadovat další práci i pomoc s kontrolou.
Řešením není přesunout všechnu odpovědnost na jednotlivce. Někdy pomůže druhý způsob kontroly: převést text zpět do řeči, porovnat změny po větách, ověřit tvrzení v původním zdroji, nechat vizuální výstup zkontrolovat důvěryhodným člověkem nebo použít nástroj, který ukazuje nejistotu a dovoluje snadno vrátit změnu. Jestliže však bezpečné ověření vyžaduje drahou službu, odborníka nebo množství energie, které člověk nemá, nelze tvrdit, že původní bariéra jednoduše zmizela.
Kontrola začíná možností říct ne
Lidská účast se neměří počtem kliknutí. Jeden zásadní nesouhlas může být důležitější než hodina kosmetických oprav. Užitečnější je sledovat pět vrstev:
- Záměr: Přináší člověk vlastní potřebu, zkušenost, otázku nebo představu, nebo ji teprve přebírá z nabídky systému?
- Provedení: Kterou překážku nástroj odstraňuje a kterou podstatnou část práce přitom přebírá?
- Výběr: Může člověk navržené možnosti skutečně porovnat a odmítnout, nebo pouze volí mezi variantami, kterým nerozumí?
- Revize: Mění výsledek podle vlastního záměru, nebo jen uhlazuje to, co už systém rozhodl?
- Odpovědnost: Ví, co zveřejňuje či odevzdává, a může za výsledek ručit v rozsahu, který situace vyžaduje?
Tyto otázky pomáhají pojmenovat, co člověk díky technologii mohl udělat a která rozhodnutí přenechal systému. Právní a společenské otázky autorství rozebírá článek Je to ještě moje práce?. Pro přístupnost je podstatné, aby člověk mohl rozhodovat o vlastním cíli a o tom, jak se jeho představa ve výsledku projeví.
Zachovat dovednost neznamená dělat všechno ručně
Některé překážky není potřeba oslavovat jako poctivou součást řemesla. Člověk nemusí text přepisovat ručně jen proto, aby dokázal, že si pomoc zaslouží. Nemusí snášet bolest při ovládání nástroje, když existuje jiný vstup. A člověk s dyslexií nemusí ponechávat v textu chyby, aby výsledek působil autenticky.
Jindy je obtížná část současně místem, kde se člověk chce učit. Kdo se učí cizí jazyk, může potřebovat nápovědu, ale také vlastní pokus. Kdo chce kreslit, nemusí mít radost z okamžitého hotového obrazu, protože smyslem činnosti je právě vedení čáry. Kdo píše pro potěšení, může zjistit, že rychlejší odstavec mu vzal chvíli hledání, kvůli níž si sedal k prázdné stránce.
Dobré rozdělení práce proto nezačíná otázkou „co všechno AI umí“, ale „co chci dělat já“. Nástroj může převzít vedlejší dřinu, nabídnout oporu u příliš náročného kroku nebo vytvořit alternativní cestu. Neměl by bez povšimnutí spolknout právě tu část zkušenosti, pro kterou člověk tvoří.
Cena a soukromí rozhodují o tom, komu se dveře otevřou
Technologie není dostupná jen proto, že existuje webová stránka s bezplatným tlačítkem. Lepší funkce mohou být placené. Služba může vyžadovat nový telefon, rychlé připojení, účet, znalost angličtiny nebo rozhraní, které člověk bez pomoci neovládne. Bezplatná verze se může změnit, omezit nebo zmizet. Kdo na jednom nástroji postaví celý pracovní postup, stává se také závislým na ceně a rozhodnutích jeho provozovatele.
WHO u asistivních technologií připomíná právě dostupnou cenu a zapojení uživatelů. Pokud se základní možnost vyjádřit nebo pracovat přesune do soukromé služby s proměnlivými podmínkami, nejde jen o pohodlí. Jde o to, kdo si může dlouhodobě dovolit vlastní hlas zprostředkovat.
Při tvorbě lidé do služeb vkládají také deníky, zdravotní informace, fotografie blízkých nebo pracovní podklady. Evropský sbor pro ochranu osobních údajů ve stanovisku k vývoji a nasazování AI modelů požaduje individuální posouzení jejich anonymity a podmínek zpracování osobních údajů. Pro uživatele z toho plyne potřeba zjistit, co konkrétní služba s vloženým obsahem dělá. Neveřejná konverzace sama nezaručuje, že data zůstanou pouze soukromým konceptem.
Praktická opatrnost může znamenat anonymizovat příklad, nahradit skutečná data smyšlenými, neposílat cizí fotografie, ověřit nastavení uchovávání a řídit se pravidly školy nebo zaměstnavatele. Když je však pomoc užitečná právě při zpracování citlivé osobní zkušenosti, požadavek „žádná citlivá data“ není úplným řešením. Potřebujeme také nástroje a služby navržené tak, aby přístupnost nebyla vykoupena ztrátou soukromí.
Stejné pravidlo může bránit podvodu i potřebné opoře
Škola, soutěž nebo pracoviště může chtít jednoduché pravidlo: AI je povolena, nebo zakázána. Takové rozdělení usnadňuje kontrolu, ale může přehlédnout, že tatáž funkce znamená pro různé lidi něco jiného. Gramatická úprava může jednomu studentovi nahradit ověřovanou dovednost, zatímco druhému umožní ukázat znalost historie, kterou pravopisný výkon neměl zastínit.
Spravedlivější pravidlo proto začíná cílem. Ověřuje úkol pravopis, argumentaci, znalost faktů, výtvarné provedení, schopnost plánovat, nebo porozumění tématu? Podle toho lze předem domluvit povolenou podporu, způsob přiznání jejího použití, rozsah vlastní kontroly i to, co má člověk umět vysvětlit sám. Student i učitel pak vědí, co odevzdaná práce skutečně dokládá.
Co o použití AI přiznat, záleží na situaci
Není nutné přidávat ke každému soukromému obrázku technický protokol. Jiné nároky ale má školní práce, placená zakázka, soutěž, odborná informace nebo dílo prodávané jako ruční originál. Vysvětlení použitého postupu není trestem za to, že člověk potřeboval oporu. Pomáhá ostatním pochopit, co výsledek dokládá a jakou roli v něm člověk skutečně měl.
Užitečnější než neurčité „vytvořeno s AI“ může být konkrétní věta: nástroj pomohl převést diktát do textu a označit pravopisné chyby; navrhl osnovu, kterou autor přestavěl; vytvořil obraz podle lidské skici; nebo vygeneroval většinu vizuálu, který člověk vybral a upravil. Potřebná míra podrobnosti závisí na očekávání publika a pravidlech prostředí.
Člověk přitom nemusí zveřejňovat diagnózu, zdravotní stav ani citlivé podklady, aby vysvětlil použitou metodu. Přiznat funkci nástroje a odhalit osobní důvod jeho použití jsou dvě různé věci.
Otevřené dveře poznáme podle prostoru za nimi
AI může snížit náročnost prvního kroku. Pro člověka, kterému psaní, kreslení, střih nebo ovládání nástroje dosud kladly nepřiměřenou překážku, to není drobný bonus. Možnost převést vlastní představu do sdělitelné podoby může znamenat účast ve škole, práci či veřejné debatě, ale také obyčejnou radost z tvorby.
Otevřené dveře mají smysl tehdy, když si člověk za nimi může zvolit vlastní cestu: určit cíl, vybrat si druh pomoci, porozumět důležitým změnám v návrhu a rozhodnout, co si ponechá. Když tyto možnosti chybějí, překážka se může přesunout z prázdné stránky do hotové odpovědi, kterou člověk neumí posoudit nebo změnit.
O přínosu pomoci mnoho napoví i následující krok. Má člověk chuť a možnost pokračovat podle sebe, nebo už jen hledá tlačítko, kterým schválí návrh systému?
