Co jsem si odvezl z Černá.AI

Na Černou jsem jel hlavně kvůli dvěma věcem. Zajímala mě přednáška Patricka Zandla o harnessech, tedy o všem, co se kolem AI modelu staví, aby dělal, co má. A mezi partnery festivalu byly dvě firmy, které jsem chtěl vidět naživo. Program ale měl přes sto přednášek na několika stagích a všechny jsem samozřejmě neviděl. Když jsem si potom procházel přepisy, zarazilo mě, kolik lidí z úplně různých oborů došlo nezávisle na sobě ke stejnému závěru.

Ten závěr má dvě části. Problém není model, ale všechno kolem něj. A nasazením práce nekončí, ale teprve začíná.

Model je ta menší starost

Zandl to řekl nejstručněji: modely se výkonem vyrovnaly a rozdíl dělá všechno, co je kolem nich, tedy jaký kontext a jaké nástroje model dostane. Ivan Kutil to samé z druhé strany: agent je tak dobrý, jak dobré má nástroje, a zlepšit nástroje je levnější než sáhnout po větším modelu.

Nejlepší důkaz přinesl Pavel Gloss, protože ho změřil. Na jedné účetní úloze (report tržeb e-shopu za kvartál, přesně na haléř) pustil agenta patnáctkrát s každým z několika modelů. Levnější model neuspěl ani jednou. A pokaždé sebejistě ohlásil, že má hotovo. Pak do zadání explicitně dopsal pravidlo o časové zóně, zhruba jeden řádek, a tentýž levný model prošel patnáctkrát z patnácti. Nejlevnější cesta k lepšímu výsledku nebyla dražší licence, ale lépe napsané zadání.

Sedí to i s tím, co vidím ve vlastních experimentech. Slabší modely, které zkouším lokálně, jsou zjevně trénované hlavně na to, aby uspěly. Když to nejde po dobrém, klidně ohnou měření nebo akceptační kritéria, a i když zadání nesplnily, s naprostou jistotou tvrdí, že ano. Proto u AI nestačí věřit hlášení „hotovo“. Výsledek musí ověřit něco, co model nemůže obejít. Poslední dva měsíce jsem na to ladil vlastní metodiku: nezávislého auditora, který práci modelu kontroluje, měřicí nástroje, které model nemůže ohnout, a postup, jak napsat zadání tak, aby bylo jasné, co přesně znamená hotovo.

Podobnou zkušenost mám z účetní automatizace. Agent mi jednou neřekl, že chybí faktura za cloudovou službu, kterou platím jednou ročně. Dodavatel tentokrát neposlal e-mail, já zapomněl doklad založit a agent mlčel. Nebyla to chyba modelu. Nikde nebylo napsané pravidlo „tenhle náklad se opakuje každý rok, hlídej ho“. A agent nemůže hlídat něco, o čem neví, že existuje.

Pro firmu z toho plyne, že otázka „který model si máme koupit“ je ta méně důležitá. Důležitější je, kdo dá AI data, kontext a jasná pravidla. A jestli ta pravidla platí proto, že je hlídá systém, nebo jen proto, že jsou napsaná v zadání. Zandl tomu druhému říká zdvořilý návrh. Model ho může, ale nemusí poslechnout.

Nasazením práce teprve začíná

Tomáš Lancinger měl přednášku přímo s tímhle názvem. Agent podle něj žije déle než model, na kterém vznikl, a pod běžícím provozem se mu hýbe podlaha.

Pavel Novák to shrnul větou, kterou bych si pověsil nad stůl: fungující AI ve firmě je nudné IT. Myslí tím, že AI není zázrak ani experiment, ale další firemní systém jako každý jiný. Než se na ní něco změní, otestuje se to. Ví se, jaká verze právě běží. Změny se nasazují řízeně, ne narychlo. A ve firmě je konkrétní člověk, který za ni odpovídá. Přesně tak, jak to firmy dávno dělají u účetního systému nebo ERP.

Lukáš Benzl připomněl, že pilot není strategie. A Jakub Szlaur z výroby dodal, že piloty technicky skoro vždy uspějí a selžou na tom, že nikdo předem neřekl, co je úspěch.

Tohle znám z klasického vývoje až moc dobře. Dodavatel předá, vystaví fakturu a odejde. Software ale žije dál: mění se data, procesy i lidé. U AI je to ještě ostřejší, protože se pod vámi mění i samotný model. Kdo za to po předání odpovídá? Ve firmě bez technického vedení obvykle nikdo.

Tři otázky před dalším AI projektem

Kdybych měl celý festival shrnout pro majitele firmy, položil bych mu tři otázky dřív, než podepíše další AI projekt:

1. Kdo bude AI ve firmě vlastnit po nasazení? Konkrétní jméno. Ne oddělení, ne dodavatel, ne odstavec ve smlouvě.
2. Jak poznáte, že funguje? Ne „vypadá to dobře“, ale opakované měření proti odpovědím, o kterých víte, že jsou správné. Agent vám nikdy neřekne „nevím“.
3. Co je potřeba postavit kolem modelu? Data, kontext, oprávnění a pravidla, která vynutí systém, ne jen prompt.

Klidnější vody

Na Černé jsem neslyšel nic, co by mi převrátilo pohled na svět. Slyšel jsem spíš desítky lidí říct po svém totéž: AI není kouzelná krabička, ale další systém ve firmě. A každý systém potřebuje někoho, kdo drží kormidlo i potom, co dodavatel odpluje.

To je práce, kterou dělám. Pokud řešíte, jak AI ve firmě uchopit a kdo za ni bude ručit, domluvme si 15minutový úvodní hovor.