Umělá inteligence působí jako automat na odpovědi. Člověk vloží otázku a o několik sekund později se objeví souvislý text, obrázek nebo kus kódu. Nevidí autora článku, z něhož se kdysi stala část trénovacích dat. Nevidí člověka, který označil nevhodný obrázek, porovnal dvě odpovědi, opravil chybný přepis nebo zkoušel systém přimět k nebezpečnému jednání. Nevidí ani zaměstnance, který po nasazení hlídá, zda nástroj neradí zákazníkům nesmysly.
Rozhraní celý tento řetězec schová za jediné tlačítko. Pak je snadné říct, že „AI se to naučila sama“. Model se skutečně učí vztahy v datech a dokáže vytvářet nové výstupy. Jeho schopnosti však závisejí také na lidské tvorbě, úsudku a rozhodnutích lidí, jejichž jména se na výsledném produktu nikdy neobjeví.
Jak se model učí
Když se člověk učí vyřizovat reklamace, zkušenější kolega mu vysvětlí pravidla, ukáže příklady a opraví chyby. Po čase začátečník chápe nejen jednotlivé věty, ale také situaci: kdy být stručný, kdy se doptat a kdy případ předat někomu s větší pravomocí. U jazykového modelu slovo „učení“ označuje jiný proces. Algoritmus během tréninku upravuje velké množství číselných parametrů tak, aby lépe předpovídal další část textu nebo vytvářel výstup odpovídající zadanému cíli.
Naučené vztahy jsou rozložené v obrovském množství parametrů. Model z nich vytváří odpověď podle zadání a dostupného kontextu; při každé otázce nevyhledává jednu hotovou větu z archivu. Může si ale také zapamatovat části trénovacích dat a za určitých podmínek je reprodukovat. To je jeden z důvodů, proč má původ dat význam i po dokončení tréninku.
Za mnoha zdroji jsou autoři textů, obrazů, kódu a nahrávek. Další lidé rozhodují, která data shromáždit, co odstranit, jak měřit úspěch a které chování odměnit. A někdo stále kontroluje situace, v nichž plynulá odpověď nestačí.
Od prvního zdroje k poslední opravě
Ve veřejné debatě se jako trénování často označuje cokoli, při čem člověk systému poskytne text nebo opraví výsledek. Tím se však mísí procesy, které mají odlišný technický i pracovní význam.
| Vrstva | Co se děje | Typická lidská práce |
|---|---|---|
| tvorba zdrojů | vznikají texty, obrazy, zvuk, kód a další obsah | psaní, fotografování, programování, dokumentace, výzkum |
| předtrénování | model se učí obecné vztahy z velkého souboru dat | vývoj architektury, sběr, filtrování, čištění a dokumentace dat |
| dolaďování | model se přizpůsobuje úkolu nebo žádoucímu stylu odpovědí | tvorba příkladů, opravy, označování, porovnávání výstupů |
| testování a hodnocení | zjišťuje se přesnost, užitečnost, bezpečnost a hranice systému | odborné posouzení, red teaming, uživatelské testy, audit |
| znalostní báze | model při odpovědi dostává nalezené podklady ze spravované dokumentace | psaní a správa dokumentace, přístupová pravidla, kontrola zdrojů |
| provoz | systém pomáhá při skutečné práci a může chybovat v nových situacích | kontrola, opravy, řešení stížností, průběžné sledování a rozhodování o výjimkách |
Jedna aplikace může využívat všechny vrstvy, jiná jen některé. Liší se také samotné metody. Některé modely více využívají lidské hodnocení, jiné syntetická data vytvořená dalšími modely a mnohé postupy obojí kombinují. Někdo však stále vybírá cíle, nastavuje postup, přijímá či odmítá výsledek a nese důsledky.
První neviditelní lidé jsou autoři zdrojů
Jazykový model se při tréninku setkává s velkým množstvím textu. Pro tvorbu obrázků podle zadání jsou důležité obrazy propojené s popisy, pro programování zase příklady kódu. Část zdrojů může pocházet z licencovaných databází, veřejných datasetů, dokumentů vytvořených samotnou firmou, uživatelských interakcí nebo syntetických dat. Část velkých jazykových modelů využila také odvozené soubory z webových archivů.
Například neziskový Common Crawl zpřístupňuje rozsáhlý archiv webových stránek, z něhož výzkumníci a firmy vytvářejí filtrované datasety. Jde o výběr webu; zdroje konkrétního modelu je nutné zjišťovat u jeho poskytovatele. Veřejná dostupnost stránky sama neurčuje, kdo má práva k jejímu obsahu ani za jakých podmínek jej lze dále použít.
Z jednoho blogového textu model obvykle nezíská celou schopnost psát. Učí se z mnoha příkladů, opakování a souvislostí. Jeho obecná jazyková schopnost se tak opírá o práci lidí, kteří předtím psali návody, zprávy, diskuse, knihy, dokumentaci nebo zdrojový kód. Jejich příspěvek ke konkrétní odpovědi se zpravidla obtížně měří. U některých doslovně převzatých pasáží lze zdroj poznat, u obecných jazykových schopností se vliv jednotlivých textů odděluje mnohem hůř.
Evropská unie proto vyžaduje od poskytovatelů modelů pro obecné účely uváděných na její trh veřejné shrnutí trénovacího obsahu. Jednotná šablona Evropské komise rozlišuje veřejné a soukromé datasety, data sbíraná z webu, uživatelská i syntetická data. Povinnost se uplatňuje od 2. srpna 2025; modely uvedené na trh před tímto datem mají lhůtu do 2. srpna 2027. Shrnutí poskytuje přehled zdrojů a způsobů zpracování, nikoli seznam každé věty a každého autora.
Data se nepřipraví sama
Obrovské množství zdrojů ještě nevytvoří použitelný trénovací soubor. Web obsahuje duplicity, automaticky generovaný balast, osobní údaje, špatně rozpoznané jazyky, spam, násilný obsah i návody, které si navzájem odporují. Někdo musí navrhnout pravidla výběru a nástroje, které data filtrují. Někdo musí rozhodnout, co znamená „kvalitní“, „bezpečné“ nebo „relevantní“.
Část práce zvládnou další algoritmy. Filtr ale musí mít nastavená kritéria a u nejasných případů se může mýlit: například zaměnit ironii za nenávist nebo odborný popis zranění za nevhodný obsah. Při rozhodování o tom, co odstranit, proto záleží i na účelu dat a znalosti jejich kontextu.
Tato vrstva je snadno přehlédnutelná, protože její výsledek vypadá jako absence. Uživatel nevidí odstraněný spam, duplicitní stránky ani tisíce příkladů, které hodnotitel odmítl. Právě taková rozhodnutí ale určují, co bude model považovat za běžný jazyk, které zkušenosti potká často a které téměř vůbec.
Kdo jsou datoví pracovníci
Pod výrazem datový pracovník se skrývá široké spektrum činností. Někdo kreslí rámečky kolem chodců na snímcích pro počítačové vidění. Jiný přepisuje špatně srozumitelnou nahrávku, třídí emoce v textu, označuje nevhodný obsah, píše vzorovou odpověď nebo vybírá lepší ze dvou návrhů. Další člověk kontroluje práci ostatních, vysvětluje nejasná pravidla nebo řeší případy, na které původní zadání nepamatovalo.
Tito lidé mohou být zaměstnanci vývojáře, pracovníci dodavatelské firmy, odborníci najatí pro konkrétní oblast i lidé přijímající drobné úkoly přes digitální platformu. Liší se požadovanou odborností, odměnou, smlouvou i vyjednávací silou. Posoudit odbornou odpověď nebo rozhodnout o významu nejasné věty přitom může vyžadovat značné znalosti, i když pracovní rozhraní nabízí jen několik tlačítek.
Uma Rani a Morgan Williams z ILO ve svém příspěvku pro Weizenbaum Journal of the Digital Society rozlišují algoritmickou a datovou práci. První bývá spojována s prestižním vývojem, druhá s opakovaným označováním, přepisováním, filtrováním a hodnocením. Upozorňují na rozdíl v uznání a pracovních podmínkách těchto lidí.
Kdo rozhoduje, která odpověď je lepší?
Předtrénovaný jazykový model může dobře pokračovat v textu, aniž se tím sám od sebe stane užitečným pomocníkem v rozhovoru. Proto může následovat další fáze: lidé píší ukázkové odpovědi, porovnávají několik návrhů nebo označují, který výstup lépe splnil zadání. Model se pak dolaďuje tak, aby častěji vytvářel odpovědi podobné těm preferovaným.
Konkrétním příkladem je vývoj InstructGPT, popsaný v roce 2022. Výzkumný tým zapojil přibližně čtyřicet smluvních hodnotitelů přes Upwork a Scale AI. Jejich vzorové odpovědi sloužily k řízenému dolaďování. Z porovnávání výstupů vznikl model odměny, který předpovídal lidské preference a následně vedl další trénink jazykového modelu.
I zdánlivě jednoduchý pokyn „vyber lepší odpověď“ vyžaduje úsudek. Co je dostatečně zdvořilé? Kdy má systém odmítnout? Co je vtip a co urážka? Má dát jednu stručnou radu, nebo vyjmenovat výjimky? Hodnotitel rozhoduje podle zadání, v časovém limitu a s vlastní zkušeností i kulturním zázemím.
Autoři studie proto vymezují, komu se model přizpůsoboval: převážně anglicky mluvícím hodnotitelům, výzkumníkům, kteří psali pokyny, a potřebám tehdejších zákazníků. Tato skupina nezastupovala všechny lidi, kterých se model mohl dotknout. Při posuzování jeho chování tak záleží i na tom, čí představy o dobré odpovědi se do něj promítly.
Bezpečnost také někdo odpracuje
Před vydáním se systém netestuje jen otázkou, zda dokáže napsat básničku nebo shrnout dokument. Lidé zkoušejí, kdy si vymýšlí, jak reaguje na manipulativní zadání, zda neprozradí citlivé informace nebo zda nepomůže s nebezpečným postupem. Takové zátěžové testování se často označuje jako red teaming. Vedle bezpečnostních specialistů mohou být potřeba lékaři, právníci, pedagogové, lingvisté nebo lidé znalí konkrétní kultury.
Práce nekončí jedním seznamem testů. Nový způsob použití může odhalit problém, který se v laboratoři neukázal. Změní se aplikace, znalostní báze, skupina uživatelů i okolnosti. Dobrovolný rámec NIST pro generativní AI doporučuje ověřovat systém před nasazením i během provozu a znovu posuzovat jeho ochranná opatření v nových podmínkách.
Také zde se skrývá práce, jejímž úspěchem je, že se nic nestane. Uživatel neuvidí zachycenou chybu, odmítnuté nasazení ani odborníka, který prosadil omezení. Uvidí pouze systém, který v dané situaci odpověděl přiměřeně. Neviditelná prevence pak může působit, jako by nebyla potřeba.
Opravil jsem odpověď. Trénoval jsem tím model?
Někdy ano, ale rozhodně ne automaticky. Představme si pracovníka podpory, kterému AI připraví návrh e-mailu. Pracovník opraví cenu, změní tón a zprávu odešle. Systém může s opravou naložit několika způsoby.
- Oprava zůstane jen v odeslaném e-mailu a model se nezmění.
- Firma si ji uloží jako dobrý příklad pro školení lidí, nikoli AI.
- Opravená informace se zapíše do dokumentace nebo znalostní báze.
- Vývojový tým ji po kontrole zařadí do hodnoticího souboru.
- Stane se součástí dat pro budoucí dolaďování modelu.
- Poskytovatel může některé interakce použít k vývoji podle smlouvy, nastavení a zásad konkrétní služby.
Tyto možnosti zvenčí vypadají podobně, technicky však stejné nejsou. U systému s vyhledáváním může aplikace před odpovědí najít správnou cenu v oddělené firemní databázi a předat ji modelu jako podklad. NIST tento princip označuje jako generování rozšířené o vyhledávání neboli RAG: znalostní bázi lze aktualizovat bez přetrénování základního modelu.
Když tedy zaměstnanci měsíce opravují dokumentaci, mohou významně zlepšovat celý AI nástroj, aniž by měnili parametry modelu. Také oprava použitá jen v testu může vývojáři ukázat, který systém vybrat nebo co upravit. Samotné vyhodnocení testu však model netrénuje. A pokud lepší nástroj později umožní omezit některé pracovní úkoly, může k tomu dojít i díky přesnější dokumentaci nebo změně aplikace. Otázku přímého trénování je proto třeba oddělit od širší otázky, jak firma využívá zkušenosti zaměstnanců.
Na kontrolu musí být čas i pravomoc
Firmy často uklidňují větou, že výstup AI vždy zkontroluje člověk. Samotná přítomnost člověka však nic negarantuje. Kontrolor musí vědět, co má hledat, mít přístup ke zdrojům, dostatek času a skutečnou možnost výstup odmítnout. Pokud na něj systém chrlí stovky návrhů a výkon se měří především rychlostí, lidský dohled může být jen administrativní podpis pod strojovým rozhodnutím.
Paradoxně mohou být chyby AI obtížněji viditelné než chyby začátečníka. Odpověď zní sebejistě, má správnou strukturu a většina vět je v pořádku. Člověk postupně přestane každou položku ověřovat stejně pečlivě. Když pak systém udělá neobvyklou chybu, kontrolor ji snáze přehlédne. Odpovědnost však může dál nést on.
Smysluplný lidský dohled proto potřebuje pravomoc. Patří k němu možnost zastavit proces, zaznamenat nejasnost, obrátit se na odborníka, zpochybnit výkonový cíl a vědět, co se s opravami děje. Jinak hrozí, že firma přenese odpovědnost na kontrolora, který nemá na fungování systému dostatečný vliv.
Když je práce skrytá i levná
Neviditelnost není jen otázkou uznání v titulcích. Může ztížit kontrolu pracovních podmínek. Datová práce se často dělí mezi několik dodavatelů a digitálních platforem. Vývojář modelu, klient, zprostředkovatel a člověk plnící jednotlivý úkol mohou působit v různých zemích. Uživatel na konci řetězce pak neví, kdo přesně nesl náklady rychlé a levné služby.
Rani a Williams v příspěvku z roku 2026 vycházejí z průzkumů ILO provedených v letech 2022 a 2023 v Indii a Keni. U indických pracovníků dodavatelských center uvádějí hodinovou odměnu 2,2 amerického dolaru, u pracovníků mikroúkolových platforem 3,9 dolaru. V Keni uvádějí pro obě skupiny 1,1 dolaru. Popisují také omezené sociální zabezpečení, noční směny a zátěž moderátorů násilného obsahu.
Jde o údaje z konkrétních průzkumů, nikoli o dnešní sazby všech datových pracovníků. Příspěvek podrobně nerozepisuje výběr respondentů, takže z čísel nelze určit, nakolik zastupují celé odvětví. Pro posouzení dodavatele je potřeba znát jeho skutečné podmínky: odměnu, čas na úkol, dostupnou podporu a možnost označit zadání za nejasné.
Pracovní podmínky navíc nejsou oddělené od technické kvality. Kdo je placen za rychlost, může mít méně prostoru řešit hraniční případ. Kdo nezná účel dat, nemusí vědět, která chyba bude v provozu závažná. Kdo se bojí ztráty zakázky, může raději tipnout odpověď než přiznat nejistotu. Špatně nastavená práce se tak může propsat do datasetu a později do chování systému.
Neviditelnost prospívá příběhu o autonomii
Proč se o tomto řetězci mluví méně než o počtu parametrů a rychlosti modelu? Částečně proto, že technický výrobek se lépe představuje jednoduchým příběhem. „Stroj pochopil jazyk“ zní působivěji než popis sběru dat, dodavatelských smluv, hodnoticích pokynů, oprav a neúspěšných testů.
Neviditelnost také umožňuje přisoudit úspěch technologii a chybu jednotlivci na konci procesu. Když AI připraví skvělý návrh, mluví se o schopnosti modelu. Když obsahuje nebezpečnou chybu, odpovědnost může spadnout na pracovníka, který ji měl zkontrolovat během několika sekund. Technický systém si tak ponechá pověst téměř autonomního výkonu, zatímco člověk nese provozní riziko.
Výsledek vzniká společně: algoritmus vytváří návrh, infrastruktura umožňuje jeho rychlé doručení a lidé určují podklady, pravidla i způsob použití. Pokud při hodnocení úspěchu a chyb některou část vynecháme, zkreslíme i podíl ostatních.
Je AI jen poskládaná práce jiných lidí?
Model dokáže vytvářet nové kombinace, zobecňovat vzory a řešit zadání, která se v trénovacích datech nevyskytovala ve stejné podobě. Vedle toho existuje i zapamatování konkrétních pasáží. NIST popisuje riziko reprodukce trénovacích dat v souvislosti se soukromím a duševním vlastnictvím. Nový způsob tvorby tedy sám nezaručuje, že každý výstup bude původní.
Při posouzení konkrétního výstupu tak záleží na jeho podobnosti se zdroji i na způsobu, jak vznikl. Samostatnou otázkou zůstává původ trénovacích dat a oprávnění k jejich použití. To, že model napsal novou větu, ještě neodpovídá na to, podle jakých pravidel získal podklady k učení a komu připadl ekonomický užitek.
Když příklady pro model píše jiný model
Modely dnes mohou vytvářet další trénovací příklady, opravovat vlastní návrhy nebo hodnotit výstupy jiných modelů. To může omezit některé ruční úkoly a rozšířit data tam, kde je obtížné získat skutečné příklady. Snadno pak vznikne dojem, že se celý řetězec uzavřel a lidé už nejsou potřeba.
Syntetická data však nevznikají ve vakuu. Vytváří je model, který už byl natrénovaný na dřívějších zdrojích. Lidé stanovují zadání, vybírají generátor, filtrují výsledky, rozhodují o přijatelné kvalitě a testují, zda se chyby nezačaly opakovat. Pokud výstup jednoho modelu hodnotí jiný model, je stále potřeba ověřit, zda použité měřítko odpovídá skutečnému účelu a zda oba systémy nesdílejí stejnou slepou skvrnu.
Lidská práce proto může změnit podobu a přesunout se dál od jednotlivého příkladu. Místo ručního označování každé věty může spočívat v navrhování pravidel, kontrolních vzorků a výjimek. Neviditelnost se tím může ještě zvětšit: člověk už není vidět ani jako autor konkrétního štítku, přesto určuje, co systém považuje za úspěch.
Kdo má dostat uznání a kdo podíl na hodnotě
Na otázku, kdo „naučil“ model, neexistuje jedno jméno. Autoři zdrojů vytvořili materiál. Vývojáři navrhli model a trénovací postup. Datoví pracovníci připravili a hodnotili příklady. Odborníci stanovili hranice. Zaměstnanci a uživatelé mohou odhalovat chyby v provozu. Firma zajistila výpočetní infrastrukturu, organizaci a kapitál. Každý příspěvek má jinou podobu a může být odměňován jinak.
Provozovatel, který chce tento řetězec zprůhlednit, by měl znát odpovědi alespoň na základní otázky:
- Jaké druhy dat byly použity a odkud přibližně pocházely?
- Kteří dodavatelé zajišťovali označování, moderování a hodnocení?
- Jaké pracovní standardy, mzdy, podporu a možnost odvolání měli jejich lidé?
- Kdo napsal hodnoticí pravidla a jak se řešil nesouhlas mezi hodnotiteli?
- Co se děje s dotazy, opravami a pracovními dokumenty po použití nástroje?
- Kdo kontroluje systém v provozu a má právo jej zastavit?
- Kdo získá čas a peníze, které systém ušetří?
Poslední otázka se týká i lidí, kteří nástroji předali své zkušenosti. Ušetřený čas se může proměnit v klidnější práci, vyšší mzdu i další výkonový požadavek. Při dohodě o využití nástroje proto má smysl projednat také to, jak se jeho přínos projeví v odměně a podmínkách těchto pracovníků.
Co by měli vědět zaměstnanci, jejichž práci AI využívá
Když firma zavede nástroj, který navrhuje texty, shrnuje hovory nebo opravuje výstupy, zaměstnanci by neměli tápat, zda jejich práce slouží také k dalšímu vývoji. Potřebují srozumitelně vědět, jaká data se ukládají, kdo k nim má přístup, jak dlouho zůstávají uchovaná a zda vstupují do znalostní báze, interního hodnocení nebo budoucího dolaďování.
Stejně důležité je, podle čeho se posuzuje jejich vlastní výkon. Pokud člověk opraví více chyb, může ve statistice vypadat pomaleji než kolega, který návrhy bez kontroly odesílá. Když se opravy zároveň stávají kvalitními daty pro zlepšení systému, firma získává další hodnotu, kterou běžné měření času vůbec nezachytí.
Zaměstnanci proto potřebují možnost mluvit do způsobu zavedení, upozorňovat na chyby bez trestu a rozumět tomu, zda se jejich odborná zkušenost mění v podklad pro automatizaci. Pokud může AI změnit počet míst, nábor nebo podobu celé profese, rozhoduje se zároveň o jejich budoucí práci.
Po spuštění práce pokračuje
Hotový systém se často popisuje minulým časem: byl natrénován, otestován a nasazen. Ve skutečnosti se kolem něj dál pracuje. Mění se zdroje, objevují se nové podvody, uživatelé hledají nečekané způsoby použití a firemní pravidla zastarávají. Někdo musí aktualizovat dokumenty, řešit incidenty, přezkoumávat stížnosti, kontrolovat kvalitu a rozhodovat, zda je systém ještě vhodný pro daný účel.
Čím lépe tato údržba funguje, tím méně ji uživatel vidí. Plynulé rozhraní pak dál posiluje iluzi samostatného stroje. Za ním však zůstává síť lidí, jejichž práce se přesunula z viditelné výroby jednotlivého textu k přípravě dat, pravidel, kontrol a oprav.
Příště, až AI připraví odpověď během několika sekund, stojí za to myslet i na práci před tímto okamžikem a po něm. Někdo vytvořil zdroje, jiný posuzoval příklady a další musí poznat, zda lze výsledek použít. Záleží na tom, jakou odměnu dostali, za jakých podmínek pracovali a zda mají možnost upozornit, že něco není v pořádku.
