Jak rozumět AI: model, chatbot, agent, tokeny, kontext a API

Platíte za AI, ale v nabídce vidíte jméno firmy, několik modelů, režim „thinking“ a ještě samostatný nástroj pro práci se soubory. Která položka rozhoduje o kvalitě a která o účtu? Nejdřív oddělte čtyři vrstvy: výrobce, konkrétní model, aplikaci a způsob placení. Stejný model může mít v různých aplikacích jiné nástroje, limity i výslednou cenu.

Tento průvodce vysvětluje pojmy na jednom modelovém příkladu: potřebujete z podkladů připravit přehled dodavatelů. Postupně uvidíte, co dělá model, co obstará aplikace a proč se z jednoduché otázky může stát několik placených operací. Pro samotný výběr pokračujte na srovnání AI modelů.

Výrobce, model, aplikace a tarif nejsou totéž

OpenAI a Anthropic jsou výrobci. GPT a Claude označují modelové rodiny, jejichž konkrétní členové mají vlastní názvy a verze. ChatGPT je zároveň hotová aplikace, ve které můžete používat dostupné modely a nástroje. U značek se názvy různých vrstev překrývají, proto nestačí napsat pouze „používám Claude“.

Model je výpočetní systém naučený zpracovávat vstupy a vytvářet výstupy. Aplikace kolem něj řeší přihlášení, historii rozhovorů, přikládání souborů, vyhledávání nebo export. Tarif stanovuje, ke kterým funkcím získáte přístup a v jakém rozsahu. Dražší tarif může rozšířit kapacitu bez změny modelu, který právě používáte.

Představte si automobil: výrobce není konkrétní motor a motor není celá služba pronájmu. Podobně nemůžete z ceny API jednoho modelu odvodit, co bude stát měsíční používání jeho hotové aplikace. Srovnávat musíte stejnou vrstvu a stejný způsob použití.

Čtyři vrstvy, které je při výběru potřeba oddělit. Na mobilu lze tabulku posouvat do stran.

Jak jazykový model vytváří odpověď

Text se převede na číselnou reprezentaci a model postupně vybírá další části odpovědi podle vstupu a naučených souvislostí. To mu umožňuje vysvětlovat, překládat, psát programy nebo porovnávat dokumenty. Plynulá formulace ale sama neznamená, že každé uvedené tvrzení bylo ověřeno v databázi skutečností.

Naše zadání o dodavatelích může obsahovat tři nabídky a požadavek na tabulku. Model dokáže jejich text uspořádat, rozpoznat podobné položky a navrhnout závěr. Pokud nabídka neuvádí cenu dopravy, správný výsledek má tuto hodnotu označit jako chybějící. Přesvědčivě vypadající doplnění odhadu by změnilo zadání i význam srovnání.

Pojem halucinace označuje věcně chybný nebo nepodložený výstup, který může působit věrohodně. Není nutné jej chápat jako úmyslnou lež. Praktická obrana spočívá v kontrolovatelných podkladech, jasném zadání a ověření důležitých údajů. Pokyn „nevymýšlej si“ je užitečný požadavek, nikoli technická záruka správnosti.

Token není slovo a milion tokenů není milion dotazů

Token je jednotka, ve které model zpracovává obsah. Může odpovídat slovu, jeho části, interpunkci nebo jinému úseku. Rozdělení určuje tokenizer konkrétního modelu. Stejná česká věta proto nemusí mít u dvou modelů stejný počet tokenů a nelze ji spolehlivě přepočítat jedním univerzálním koeficientem.

Vstupní tokeny zahrnují obsah poslaný modelu. Kromě vaší otázky mohou obsahovat historii rozhovoru, instrukce aplikace, úryvky dokumentů a výsledky nástrojů. Výstupní tokeny vznikají při generování odpovědi; podle modelu a ceníku se účtuje také uvažování. Krátká zpráva v okně aplikace tak nemusí znamenat krátký placený vstup.

Modelový výpočet: odešlete 20 000 vstupních tokenů a získáte 2 000 výstupních. Při sazbě 2 USD za milion na vstupu a 10 USD na výstupu zaplatíte 0,04 + 0,02, tedy 0,06 USD. Není to cena všech podobně dlouhých konverzací. Další otázka může znovu připojit historii a následné opravy vytvoří novou spotřebu.

Kontextové okno: pracovní prostor pro konkrétní požadavek

Kontextové okno určuje kapacitu obsahu, se kterým může model při zpracování pracovat. Přesné rozdělení mezi vstup, vytvářený výstup a další části závisí na modelu. Maximální délka odpovědi je přitom samostatný parametr. Údaj „milion tokenů kontextu“ neříká, že model vytvoří milion tokenů odpovědi.

Pro nabídky dodavatelů je důležitější úplnost relevantních podmínek než zaplnění dostupného prostoru. Přiložíte-li deset starých ceníků bez označení verzí, přidáte modelu rozpory. Lepší je určit platné podklady a vysvětlit, jak se mají řešit výjimky. Velký kontext rozšiřuje možnosti, ale neodstraňuje potřebu připravit vstup.

Po naplnění dostupného prostoru může aplikace historii zkrátit, vytvořit souhrn nebo některé části vynechat. Takový souhrn je další zpracování, při kterém může vypadnout důležitá výjimka. U dlouhé práce proto udržujte krátký soupis závazných pravidel a po změně etapy zkontrolujte, že stále odpovídá původním podkladům.

Paměť není trénování modelu

Uložená historie, paměť preferencí a soubory v projektu tvoří různé mechanismy aplikace. Mohou dodat potřebnou informaci do budoucího požadavku. Neznamená to, že jste při každé zprávě změnili samotné parametry modelu. Také nemusí platit, že všechny informace z uloženého projektu jsou vždy součástí každé odpovědi.

Fine-tuning je samostatný způsob přizpůsobení modelu na připravených příkladech. Naproti tomu RAG znamená, že systém nejprve vyhledá relevantní podklady a předloží je modelu. Pro průběžně měněný seznam dodavatelů dává často větší smysl práce s aktuálními zdroji než snaha naučit model každý nový ceník změnou jeho vah.

V modelovém projektu může být v paměti preference stručných odpovědí a ve zdrojích tři nabídky. Pro správný závěr ale stále musíte určit, zda porovnáváte cenu bez daně, včetně dopravy nebo za celý rok. Preference stylu nevyřeší chybějící pravidlo výpočtu. Důležitá rozhodnutí patří přímo do zadání konkrétní práce.

Thinking, reasoning a effort: více prostoru pro řešení

Režimy uvažování umožňují některým modelům věnovat úloze další výpočetní práci před konečnou odpovědí. Nastavení effort obvykle ovlivňuje její rozsah. Vyšší hodnota může pomoci u obtížného problému, ale může zvýšit dobu čekání a spotřebu. Přesný význam jednotlivých stupňů není mezi výrobci standardizovaný.

Názvy „high“ u dvou poskytovatelů tedy nejsou měrná jednotka stejného výkonu. Některé modely dovolují uvažování omezit, jiné je mají vždy zapnuté. Ani zobrazené vysvětlení postupu není spolehlivým důkazem všech vnitřních kroků. Hodnoťte správnost výsledku, nikoli délku komentáře o tom, jak k němu model došel.

Pro jednoduché převedení nabídky do tabulky začněte střídmým nastavením. U hledání skrytých rozdílů smluvních podmínek může být podrobnější režim vhodným kandidátem k ověření. Přesto zkontrolujte originální znění. Výkonnější model nenahrazuje člověka, který odpovídá za rozhodnutí a zná obchodní souvislosti.

Model, který vidí obrázek, nemusí obrázky vytvářet

Multimodalita znamená práci s více druhy obsahu. Vždy ale potřebujete vědět, zda jde o vstup, nebo výstup: porozumění fotografii, přepis řeči a generování obrázku jsou různé schopnosti. Služba je může spojovat pod jednou značkou, přestože ve skutečnosti zapojuje několik specializovaných modelů.

Naskenovaná nabídka vyžaduje nejprve přečíst obraz stránky. Někdy to provede obrazový model, jindy OCR, tedy převod obrazu na text. Pokud se při převodu ztratí desetinná čárka nebo se smíchají sloupce, následný jazykový rozbor už vychází z chybných dat. Kontrola proto začíná kvalitou extrakce, nikoli až závěrečným shrnutím.

Při výběru se ptejte, zda aplikace zachová tabulky, rozpozná poznámky pod čarou a umožní dohledat původ každého údaje. Obecná položka „podpora PDF“ vám neřekne, jak dobře se zpracuje konkrétní poškozený sken. Vyzkoušejte reprezentativní podklad, který umíte sami přečíst a zkontrolovat.

Při zkoušce práce se souborem si ověřte tři rozdílné věci:

• Přečtení vstupu: částka a poznámka z originálu se správně dostaly do zpracování. Nestačí potvrzení, že se soubor nahrál.
• Správnost závěru: výsledek zachoval podmínky, rozlišil chybějící údaje a nepoužil odhad místo skutečné hodnoty.
• Použitelnost výstupu: soubor otevřete v cílové aplikaci, tabulka obsahuje správné hodnoty a potřebné části zůstávají upravitelné.

Tyto kontroly oddělují schopnosti modelu od převodu dat a práce aplikace. Pokud se výsledek nepovede, snáze poznáte, kterou část má smysl opravit, místo abyste bez důvodu měnili celý nástroj.

Nástroje dávají modelu přístup k dalším možnostem

Samotný model nemusí znát dnešní cenu ani mít přístup k internetu. Aplikace mu může nabídnout vyhledávání, kalkulačku, běhové prostředí programu nebo konektor do úložiště. Model pak navrhne použití nástroje, aplikace požadavek provede a výsledek vrátí do dalšího zpracování. Záleží také na oprávněních účtu.

U našeho přehledu může vyhledávání dohledat dopravu, program přepočítat měny a editor vytvořit tabulku. Cena a kvalita celého postupu už nezávisí jen na modelu. Selhat může načtení stránky, převod dat nebo uložení souboru. Citace ve výsledku je cesta ke kontrole, nikoli automatické potvrzení pravdivosti.

MCP je způsob propojení AI aplikací s externími nástroji a zdroji. Samotná přítomnost konektoru nevypovídá o jeho ceně, oprávněních ani důvěryhodnosti. Před připojením pracovního úložiště zjistěte, co lze číst a měnit. Pro první zkoušku bývá vhodnější vybraná složka než přístup k celému firemnímu prostředí.

Co odlišuje agenta od běžného chatu

V běžném chatu často žádáte jednu odpověď a sami provádíte další kroky. Agent dostane cíl, plánuje průběžné operace, používá nástroje, vyhodnocuje jejich výsledky a pokračuje. Jedno zadání tak může způsobit desítky volání modelu. Počet zpráv, které napíšete vy, nevystihuje objem vykonané práce.

Agent pro porovnání nabídek může otevřít soubory, vyžádat chybějící údaje, zkusit výpočet a připravit výstup. Rozumné zadání předem stanoví, zda smí pouze vytvořit návrh, nebo také objednat službu. Oprávnění se nemají odvozovat z toho, že nástroj technicky umí kliknout na tlačítko. Cíl a hranice práce patří dohromady.

Před zadáním agentní práce si napište:

• Které zdroje jsou závazné a která verze je platná.
• Jak má vypadat odevzdaný soubor a co musí obsahovat.
• Co může agent změnit a které akce vyžadují schválení.
• Jak má označit chybějící údaje a nejisté závěry.
• Podle čeho poznáte, že úkol skutečně dokončil.

API a předplatné řeší rozdílné potřeby

API je rozhraní pro programové používání služby. Umožní například automaticky zpracovávat nové nabídky, aniž by je člověk pokaždé vkládal do chatu. Obvykle však potřebujete obslužný program, správu přístupu, kontrolu nákladů a zpracování chyb. Samotný účet s kreditem není hotová automatizace.

Předplatné aplikace kupujete především kvůli připravenému prostředí a zahrnutému rozsahu používání. Některé nabídky přidávají API kredity, ale jejich pravidla je nutné přečíst zvlášť. Nelze obecně tvrdit ani „předplatné zahrnuje libovolné API“, ani „předplatné a API nikdy nesouvisejí“. Rozhoduje aktuální plán a způsob přihlášení.

Cache umožňuje zvýhodněné opakované zpracování části vstupu za podmínek poskytovatele. Batch znamená dávkové zpracování, které může být levnější výměnou za jiné časové podmínky. Rate limit omezuje rychlost nebo objem požadavků. Tyto pojmy popisují provoz a účtování; nejsou přímým měřítkem kvality odpovědi.

Otevřené váhy neznamenají bezplatnou službu

Open-weight model poskytuje váhy, ze kterých lze za příslušných podmínek sestavit vlastní provoz. Licence určuje, co je dovoleno. Otevřené váhy samy nezaručují zveřejněná trénovací data, úplnou reprodukovatelnost tréninku ani právo použít každou variantu bez omezení. Označení open source proto používejte přesně podle konkrétního projektu.

Vlastní provoz vyžaduje paměť, výpočetní výkon, obslužný software a správu. Kvantizace snižuje přesnost číselné reprezentace vah a může omezit nároky; její dopad je třeba ověřit na úlohách. Ani model uložený na firemním serveru nezůstane automaticky bez kontaktu s okolím, pokud jeho aplikace používá externí vyhledávání nebo jiné služby.

Pro jednotlivce bývá první otázkou jednoduchost a vhodnost aplikace. Pro firmu s velkým pravidelným objemem může být vlastní infrastruktura smysluplná. Srovnání rozpočtů najdete v průvodci cenou AI, konkrétní modelovou rodinu v detailu GLM a Z.ai.

Jak vypadá dobře zadaný první úkol

Místo „porovnej tyto nabídky“ napište: „Z přiložených tří nabídek vytvoř tabulku celkové ceny za první rok. Zachovej původní měnu, odděl jednorázové a pravidelné platby, dopravu uveď zvlášť a chybějící údaje označ. Ke každé částce napiš název souboru a oddíl. Zatím nic neobjednávej.“ Zadání určuje cíl, zdroje, strukturu i hranice.

Potom připravte kontrolu nezávislou na dojmu z odpovědi. Ručně sečtěte jednu nabídku, ověřte tři citované částky a zkontrolujte, zda výsledek nezaměnil jednorázovou instalaci za měsíční platbu. Pokud souhrn obsahuje doporučení, musí být zřejmé, na jakém předpokladu stojí. Nejnižší základní cena nemusí být nejnižší platbou za požadované období.

Při navazující změně zachovejte stejné označení podkladů. Například doplnění dopravy z nové zprávy dodavatele zaznamenejte jako nový zdroj, ne jako tiché přepsání původní nabídky. Tak lze později vysvětlit, proč se pořadí změnilo. Model má pomáhat s orientací v důkazech, nikoli zakrýt rozdíl mezi podkladem a odhadem.

Co znamenají parametry a kvantizace

Parametry jsou naučené číselné hodnoty modelu. Jejich počet může napovědět o nárocích, ale sám neurčuje kvalitu. U některých architektur se při zpracování aktivuje jen část dostupných parametrů. Údaj o aktivní části proto není celková velikost souborů, které potřebujete pro vlastní provoz uložit nebo načíst.

Kvantizace používá úspornější číselnou reprezentaci a může snížit paměťové nároky. Vhodnost konkrétní varianty závisí na implementaci a úlohách. Pro běžného uživatele cloudové aplikace jde většinou o provozní detail; pro vlastní server o zásadní část konfigurace. Výsledek porovnání vždy vztahujte k přesné variantě, kterou jste skutečně použili.

Časté otázky

Je placená AI automaticky přesnější?

Vyšší plán může nabídnout jiné modely, nástroje nebo vyšší limity. Přesnost konkrétní odpovědi tím není zaručená. Pro výběr si připravte několik úloh se známým výsledkem a sledujte zejména věcné chyby, chybějící údaje a potřebné opravy.

Znamená milion tokenů kontextu neomezenou paměť?

Ne. Jde o kapacitu konkrétního zpracování, která má technické podmínky a může mít cenové hranice. Historie účtu a paměť aplikace jsou jiné vrstvy. Důležité pokyny udržujte v přehledné aktuální podobě.

Umí každý model hledat na internetu?

Vyhledávání musí být dostupné v použitém prostředí a zapnuté pro daný požadavek. Model může pouze vytvářet odpověď z dodaného kontextu a naučených informací. U čerstvých údajů požadujte dohledatelný zdroj a otevřete jej.

Potřebuji API, pokud chci pracovat s dokumenty?

Pro občasnou ruční práci obvykle můžete začít hotovou aplikací. API zvažujte při opakovaném programovém zpracování, vlastním rozhraní nebo zapojení do firemního postupu. Započtěte i přípravu a správu celého řešení.

Co mám uvést, když porovnávám dvě AI?

Zapište přesný model, aplikaci, tarif, datum a nastavení. Přidejte použité nástroje, podklady, cenu všech pokusů a pravidla hodnocení. Bez těchto údajů se snadno srovnávají dvě odlišné služby pod podobným názvem.

Kde začít při prvním výběru?

Vyberte jednu pravidelnou činnost a podklad, který dobře znáte. Určete požadovaný výsledek i závažné chyby. Teprve potom porovnejte vhodné modely a tarify; seznam funkcí získá smysl až ve vztahu k práci, kterou skutečně potřebujete dokončit.