Česká Resistant AI roste: jak umělá inteligence odhaluje falešné dokumenty

Zatímco většina debat o AI řeší chatboty a obrázky, česká Resistant AI používá umělou inteligenci k hledání finančních podvodů. V rozhovoru, který CzechCrunch zveřejnil 26. října, popsal spoluzakladatel Martin Rehák růst týmu přibližně ze stovky na dvě stovky lidí během roku. Pro čtenáře je ale ještě zajímavější samotný problém: jak poznat upravený výpis nebo potvrzení, které na první pohled vypadá naprosto věrohodně.

Co je na říjnové zprávě podstatné

Rozhovor přibližuje rozšiřování české společnosti a jejího podnikání. Počty zaměstnanců a hodnocení růstu jsou údaje zveřejněné ve zdrojovém rozhovoru, nikoli náš nezávislý audit firmy. Zpráva také není oznámením nového veřejného chatbotu. Resistant AI dodává specializované nástroje institucím, které prověřují dokumenty a finanční transakce.

Na vlastním webu rozlišuje dokumentovou kontrolu a vyhodnocování transakcí. První oblast hledá známky manipulace či podvodného původu v předložených souborech. Druhá doplňuje sledování podezřelého finančního chování. Jde o jinou kategorii AI než ChatGPT nebo Claude, i když se pro všechny používá stejné zastřešující označení.

Firma má české kořeny, ale samotný původ dodavatele neodpovídá na všechny otázky provozu. U banky či fintechu záleží také na smlouvě, zpracovatelských vztazích, umístění dat a konkrétní integraci. Z označení „česká AI“ nelze automaticky vyvozovat, že každý dokument zůstává na serveru v Česku.

Proč nestačí, že dokument dobře vypadá

Při běžném čtení hledáme hlavně obsah: jméno, datum, částku a název instituce. Vizuálně přesvědčivý dokument ale může obsahovat nepravdivé údaje. Naopak obyčejný scan s horším kontrastem může být pravý. Vzhled a pravost jsou dvě různé vlastnosti, které se při rychlé kontrole snadno zamění.

Generativní nástroje tento rozdíl ještě zvýrazňují. Umějí pomoci s úpravou obrázku nebo formulací textu, takže samotný dojem profesionální sazby ztrácí část hodnoty. Neznamená to, že každý uhlazený soubor vytvořila AI. Znamená to, že hezké logo a správná čeština nemají být jedinou kontrolou.

Praktický příklad je potvrzení o příjmu. Přečtení částky odpoví na otázku, co je v souboru napsané. Neověří však, kdo soubor vytvořil, zda částku někdo změnil a jestli uvedený příjem skutečně existuje. Správně přečtený údaj může být stále nepravdivý. Právě proto vedle sebe existují vytěžování dat, kontrola dokumentu a ověřování reality.

OCR, chatbot a detekce podvodů řeší odlišné úkoly

OCR převádí text z obrazu do strojově zpracovatelné podoby. Může například vytáhnout datum splatnosti z fotografie faktury. Jazykový model potom dovede údaje uspořádat, vysvětlit nebo porovnat s požadovaným seznamem. To je užitečné, ale samotné vytěžení ještě neurčuje, zda je podklad důvěryhodný.

Specializovaná kontrola může pracovat s jinými signály než obecný chatbot. U dokumentů mají význam vztahy mezi jednotlivými prvky, soubory a opakujícími se vzory. U transakcí zase záleží na návaznosti událostí. Konkrétní schopnosti je ovšem potřeba ověřovat u daného produktu; není správné připisovat dodavateli každou myslitelnou metodu jen podle jeho oboru.

Pro běžného podnikatele z toho plyne jednoduché pravidlo: nahrání PDF do chatu není ověření jeho pravosti. Chat může upozornit na nesrovnalost, ale přesvědčivá odpověď není potvrzením od banky, zaměstnavatele ani vystavitele. Citlivé rozhodnutí potřebuje přiměřený další podklad.

Přečtení údajů a ověření pravosti nejsou stejný úkol Na mobilu lze tabulku posouvat do stran.

Co znamená falešný poplach

Žádný hodnoticí systém by se neměl posuzovat jen podle počtu nalezených problémů. Důležité je také, kolik poctivých klientů označí omylem a jak se s takovým označením naloží. Příliš citlivé nastavení může zahlcovat kontrolory; příliš benevolentní může přehlížet podvody.

Představme si vlastní modelový příklad s tisícem žádostí. Pokud systém vytipuje padesát případů, nevíme ještě, zda je dobrý. Potřebujeme znát skutečné výsledky prověření, počet přehlédnutých případů a čas potřebný k nápravě omylu. Samotná velikost fronty neposkytuje pořadí kvality mezi dodavateli.

Pro člověka, který žádost podává, má význam i způsob vysvětlení. Oznámení „systém vás vyhodnotil“ je málo použitelné, pokud chybí cesta k doplnění dokumentu nebo lidskému přezkoumání. Technické skóre by proto mělo sloužit procesu, ve kterém lze odlišit chybu souboru, nedostatek údajů a skutečné podezření.

Co to může změnit v bankách a dalších službách

Smysluplná automatizace může soustředit pozornost na neobvyklé případy a uvolnit kapacitu lidí. Není nutné, aby pracovník stejně dlouho prohlížel každý standardní soubor. Přínos ale vzniká až ve chvíli, kdy je výsledek kontroly spojený s jasným dalším postupem.

Například podezřelý dokument může vést k vyžádání originálu z důvěryhodného kanálu. Neúplný podklad může vyvolat žádost o doplnění. Jednoznačně technicky poškozený soubor může potřebovat nové nahrání. Jestli všechny případy skončí stejným zamítnutím, ztrácí se velká část užitečné informace.

Výrobci podobných nástrojů často zveřejňují úspory času a vyšší počet odhalených podvodů. Taková tvrzení je potřeba číst s podmínkami měření. Výsledek jednoho zákazníka není automatická garance pro jiného. Rozdíl tvoří typ dokumentů, jazyk, kvalita vstupů, četnost podvodů i způsob zapojení lidské kontroly.

Jak poznat kvalitní pilot místo hezké prezentace

Firma, která vybírá řešení, by měla začít vlastními případy. Ideální je připravit reprezentativní směs běžných dokumentů a dříve prověřených problémů. Citlivé údaje přitom nelze bez dalšího rozesílat více dodavatelům; nejprve je potřeba vyřešit oprávnění a způsob předání.

Na začátku pilotu si určete, co znamená použitelný výsledek. Jednou institucí může být největší bolest dlouhé ruční prověřování, jinou trápí přehlížené související žádosti. Stejná technologie se tak hodnotí podle jiného cíle. Bez předem definovaného cíle lze téměř jakékoli číslo vydávat za úspěch.

V pilotu bych sledoval zejména:

• skutečně potvrzené problémy oproti pouhým upozorněním systému;
• poctivé případy chybně poslané do podrobné kontroly;
• čas od nahrání podkladu do konečného rozhodnutí;
• srozumitelnost důvodů a možnost dohledat postup;
• náklady na provoz, integraci a práci kontrolorů dohromady.

Takový seznam je obecný návrh hodnocení, nikoli popis konkrétního nasazení Resistant AI. Pomáhá oddělit schopnost modelu od výsledku celého procesu. Někdy největší úsporu nepřinese přesnější skóre, ale odstranění zbytečného ručního předávání mezi dvěma odděleními.

Cena není jen sazba za dokument

Veřejnou spotřebitelskou cenu předplatného zde nedává smysl hledat. Jde o firemní službu, jejíž podmínky se mohou odvíjet od rozsahu a integrace. Bez konkrétní nabídky by částka v korunách vytvářela falešnou přesnost. Ceník chatbotu za měsíční poplatek proto není vhodný srovnávací základ.

Celkové náklady mohou zahrnovat přípravu dat, napojení systémů, provoz, lidské došetřování a změny pracovních postupů. Vedle toho stojí hodnota odvrácené škody a rychlejšího odbavení poctivých zákazníků. Jedna položka bez druhé nestačí k rozumnému rozhodnutí.

Uvažujme čistě modelově: nástroj zrychlí automatickou část o minutu, ale každé upozornění vyvolá deset minut ručního hledání podkladů. Výsledek závisí na četnosti upozornění a jejich hodnotě. Proto je cena dokončeného prověření praktičtější údaj než samotná cena jednoho strojového volání.

Co může udělat běžný člověk už dnes

Především neberte dokument zaslaný neznámou osobou jako důkaz jen proto, že vypadá oficiálně. Když jde o platbu, smlouvu nebo změnu účtu, ověřujte podstatné údaje přes známý kanál. Kontaktní informace uvedené přímo v podezřelé příloze nemusí být vhodným výchozím bodem.

U vlastních podkladů uchovávejte originály a posílejte je způsobem, který daná instituce požaduje. Zbytečné převody mezi fotografií, screenshotem a PDF mohou zhoršit čitelnost a zkomplikovat kontrolu. To neznamená automatické podezření z podvodu, ale může to přidat další dotazy a zdržení.

Užitečné bývají tyto návyky:

• originální výpis si stáhněte přímo z příslušné služby a neupravujte jeho obsah;
• před odesláním zkontrolujte, že soubor patří správnému příjemci a období;
• citlivé dokumenty nevkládejte do náhodného veřejného „ověřovače AI“;
• při sporu žádejte konkrétní vysvětlení a dostupný postup přezkoumání.

Proč je český příběh zajímavý i mimo startupovou scénu

Resistant AI ukazuje, že ekonomicky užitečná umělá inteligence nemusí mít podobu univerzálního asistenta. Specializovaný nástroj může řešit úzký, ale drahý problém. Úspěch pak méně závisí na poutavé konverzaci a více na práci s nejistotou, integraci a kvalitě kontrolních postupů.

Pro české firmy je to také připomenutí, že rozhodování nezačíná otázkou, který model má nejvyšší skóre v obecném žebříčku. Začíná popisem úkolu. Když potřebujete prověřovat podklady, jsou důležité jiné parametry než při psaní marketingového e-mailu nebo vytváření obrázků.

Srovnání nákladových přístupů rozebíráme v článku kolik skutečně stojí AI. U specializovaných systémů je tento pohled zvlášť užitečný: účet za technologii je pouze část ceny a kvalitu neurčuje jen to, jak rychle dorazí automatická odpověď.

Jak rozlišit pravost souboru a pravdivost jeho obsahu

I skutečný dokument od správného vystavitele může obsahovat chybu nebo zastaralý údaj. Naopak soubor může věrně zobrazovat čísla, ale být vytvořený někým jiným, než tvrdí. Kontrola musí vědět, kterou otázku právě řeší. Jinak může pozitivní výsledek jedné kontroly působit jako potvrzení něčeho, co se vůbec neposuzovalo.

Modelově může firma dostat pravé potvrzení staré několik měsíců. Soubor není zfalšovaný, ale pro současné rozhodnutí už nestačí. Jindy se může shodovat jméno a přesto patřit jiné osobě se stejným názvem. Proto je důležitý časový rozsah, návaznost na žádost a způsob získání podkladu.

Při nákupu nástroje se ptejte, jaký závěr výsledek dovoluje. Známka možného zásahu do souboru je jiná informace než ověření totožnosti a jiná než posouzení schopnosti splácet. Jedno skóre by nemělo v komunikaci suplovat všechny tyto úkoly. Přesné pojmenování výsledku pomáhá kontrolorům i poctivým zákazníkům.

Proč potřebuje kontrola možnost nápravy

Pokud klient dodá nečitelnou fotografii, může být řešením nové nahrání. Pokud nesouhlasí období, stačí správný výpis. Když se objeví zásadní nesrovnalost, je potřeba další prověření. Proces, který neumí tyto situace odlišit, může zbytečně prodlužovat práci a zvyšovat nespokojenost.

Zákazníkovi pomůže konkrétní a přiměřené vysvětlení požadovaného dalšího kroku. Nemusí znát interní detekční metodu, aby věděl, jaký dokument chybí. Současně není vhodné zveřejňovat podrobnosti, které by pomohly kontrolu obcházet. Praktický návrh komunikace má hledat rovnováhu mezi použitelností a ochranou procesu.

Firma by také měla umět rozpoznat vlastní opakující se chyby. Pokud se do ruční kontroly často dostává legitimní typ podkladu, je to důvod k prověření nastavení. Neznamená to automaticky snížit ochranu. Může být potřeba lepší předzpracování, přesnější instrukce pro klienta nebo oprava návazného systému.

Jak přemýšlet o aktualizacích a změně podvodů

Detekce není jednorázový nákup, po kterém už není co řešit. Mění se podoba dokumentů, služby vystavitelů i chování podvodníků. Výsledek pilotu proto potřebuje doprovázet průběžné sledování. Jinak může postupně přestat odpovídat novým vstupům, aniž by si toho tým okamžitě všiml.

Rozumná provozní dohoda stanoví, kdo sleduje kvalitu a jak se řeší náhlá změna. Může například přibýt nový formát dokumentu nebo se výrazně zvýšit počet upozornění. Kontrolor potřebuje vědět, komu problém předat a zda existuje bezpečný náhradní postup. Bez této návaznosti zůstane i dobrý model izolovanou součástkou.

Uchovávejte také důvody zásadních změn nastavení. Při zpětném posouzení případu může být podstatné, jaká pravidla platila v daném okamžiku. Samotný aktuální stav aplikace nemusí vysvětlit starší rozhodnutí. Záznam má odpovídat potřebám a podmínkám instituce, nikoli bez rozmyslu shromažďovat další citlivá data.

Pro malou firmu z toho plyne obecně použitelná rada: nespoléhejte na jediný signál. Kombinujte důvěryhodný způsob získání podkladu, přiměřenou automatickou kontrolu a možnost lidského posouzení. Technologii vybírejte podle toho, jak zapadne do tohoto řetězce. Úspěch neurčuje pouze rychlost detekce na demonstračním souboru.

Co si odnést z říjnového rozhovoru

Růst dodavatele vypovídá o zájmu trhu, ale nenahrazuje vlastní výběr řešení. Firma by měla chtít ukázku na relevantních podkladech, srozumitelný popis výsledku a dohodnutý postup při chybě. Pro běžného čtenáře je hlavním poučením rozdíl mezi věrohodným vzhledem a ověřenou skutečností. Umělá inteligence může pomoci s obojím různým způsobem, a právě proto je potřeba rozumět konkrétnímu úkolu, který dostala. Univerzální otázka „je v tom AI?“ nestačí k posouzení kvality ani bezpečnosti.

Časté otázky

Je Resistant AI český chatbot?

Není to veřejný univerzální chatbot. Česká společnost dodává specializované nástroje pro kontrolu dokumentů a finančních transakcí. Zákazníkem bývá instituce, která je zapojuje do vlastního procesu. Běžný klient se s výsledkem může setkat nepřímo při ověřování podkladů.

Dokáže obyčejný AI chat ověřit pravost výpisu?

Může upozornit na některé rozpory nebo pomoci s přečtením údajů. Neměl by se ale považovat za potvrzení pravosti ani za ověření u vystavitele. K tomu je potřeba odpovídající postup a spolehlivý zdroj, zvlášť pokud podle výsledku někdo rozhoduje o penězích.

Znamená upozornění systému prokázaný podvod?

Ne samo o sobě. Význam závisí na konkrétním výsledku a procesu instituce. Upozornění může vést k doplnění podkladů či podrobnějšímu prověření. Proto je důležité rozlišovat podezření, technický problém souboru a potvrzenou manipulaci.

Jsou data automaticky v Česku, když je firma česká?

Takový závěr z původu společnosti neplyne. Místo zpracování a pravidla přístupu určuje konkrétní služba, smlouva a integrace. Instituce musí posuzovat celý datový tok včetně dalších dodavatelů. Národnost zakladatelů tuto kontrolu nenahrazuje.

Kolik specializovaná detekce stojí?

Bez konkrétní nabídky nelze uvést spolehlivou cenu pro daný provoz. Při porovnání je potřeba započítat integraci, objem, lidské došetřování a případné limity. Veřejná měsíční cena běžného chatbota není přímo srovnatelný produkt ani měřítko celkových nákladů.

Co je nejdůležitější pro malou firmu?

Začít ověřováním podstatných údajů přes důvěryhodný kanál, chránit citlivé podklady a mít postup pro podezřelý dokument. Nákup složitého systému není automaticky první krok. Smysl má podle objemu práce, rizika škody a schopnosti výsledek opravdu využít.