AI agent objednáva tovar za vás a vy neviete kde, kedy a koľko? V GemiSys to nikdy nedovolíme

Posledné týždne čítam čoraz viac príbehov o firmách, ktoré sa chvália, že nasadili AI agentov bez zásahu človeka. Agent odpovedá na emaily v ich mene. Agent má rozpočet a objednáva tovar. A oni sami priznávajú, že nevedia presne povedať kde, kedy a koľko — len že to "funguje" a "vyzerá to, že to žije".

Znie to ako pokrok. Mne to znie ako varovanie.

Rozdiel medzi pomocníkom a čiernou skrinkou

Keď AI urobí rozhodnutie za vašu firmu a vy nevidíte ako k nemu prišla, neprenajali ste si nástroj — odovzdali ste kúsok vlastného rozumu. Roky skúseností, presne to, čo ste sa naučili na vlastných chybách (kedy objednať, koho si chrániť, čo počkaj a čo nie), sa tichým tempom presúva do promptu pre cudzí systém, ktorému nerozumiete a ktorý nerozumie vám.

A to je ešte ten lepší prípad. V tom horšom svoje firemné know-how nevedomky posielate cez API priamo k zahraničnému poskytovateľovi — niekedy aj mimo Európy. Pohodlie má cenu, len ju často nevidíte hneď.

Vlastná skúsenosť: prvá Linda

My sme si týmto prešli skôr, než to bolo cool. Prvá verzia Lindy (našej AI asistentky) mala voľný prístup k dátam a vlastnému uvažovaniu. Dávala krásne, presvedčivo znejúce odpovede — analýzy, odporúčania, čísla. Problém bol, že to často nesúviselo s realitou. Model si dokázal niečo dopočítať, niečo si "pomyslieť", a znelo to rovnako sebavedomo, či to bola pravda alebo nie.

Z pekných rečí dobrý chlieb nenapečiete. V biznise platí stoprocentná pravda, aj keď je nepríjemná — sklad chýba, marža klesá, vodič stratil prepravky. Príjemne znejúca, ale nesprávna odpoveď vás v praxi stojí peniaze.

Ako to robíme inak

Postavili sme vrstvu (voláme ju Nexus), ktorá robí všetku skutočnú prácu s vašimi dátami — počíta, overuje, porovnáva s tým, čo je reálne v sklade, v objednávkach, v saldokontách. Je to čistý, deterministický kód. Žiadne hádanie.

Linda potom tieto už overené fakty len preloží do ľudskej reči. Nehrabe sa sama v databáze, nevymýšľa si SQL dotazy na žiadosť, nerozhoduje sama, koľko tovaru objednať. Stratila časť "kompetencie" — právo počítať a rozhodovať za vás — ale neprišla o dušu. Stále je to tá istá milá, ústretová spoločníčka v práci, len jej rozhodnutia majú vždy pod sebou overiteľný základ.

Prečo je to dôležité pre vás

Ak vám niekto ponúkne AI, ktorá "za vás" objednáva surovinu, plánuje výrobu alebo komunikuje s odberateľmi bez toho, aby ste kedykoľvek vedeli povedať presne prečo sa tak rozhodla — opýtajte sa, čo sa stane v deň, keď sa pomýli. Kto to zistí? Ako to opravíte? Bude to vôbec vidno?

V GemiSys chceme, aby ste vy zostali tým, kto rozhoduje. AI má byť spoločník, ktorý vám ušetrí čas a povie vám pravdu — nie tichý rozhodovateľ, ktorému ste odovzdali kľúče od podniku a dúfate, že to dobre dopadne.

Viac o tom, prečo je pre nás deterministické správanie Lindy (žiadne halucinácie, žiadne rozhodovanie za vás) neprekročiteľná hranica, nájdete v rozhovore so zakladateľom GemiSys.