Čo AI smie a nesmie napísať

V hornej časti tunajšej verejnej stránky so štatistikami môžu byť dve či tri vety opisujúce, čo počítadlo urobilo tento mesiac. Píše ich jazykový model. Model si nič nevymýšľa a usporiadanie, ktoré to zaisťuje, sa oplatí opísať, pretože zjavný spôsob vytvorenia tejto funkcie túto vlastnosť nemá.

Server vykonáva SQL, rozhoduje, ktoré číslo stojí za zmienku, a píše pokyn. Model mení jeden fakt na jednu vetu v požadovanom jazyku. Potom server prečíta odpoveď a zahodí ju, ak niektorá jej číslica nepochádza z pokynu.

Jedinou slobodou modelu je teda formulácia. Nevyberá, čo je zaujímavé, nepočíta, nezaokrúhľuje. Prispieva tým, čo šablóny nedokážu: jedenástimi jazykmi, ktoré znejú ako jazyk.

Tri kontroly a zlyhanie, na ktoré slúžia

Žiadna nevznikla z opatrnosti. Každá existuje preto, že sa 17. augusta 2026 niečo konkrétne pokazilo. Malý model dostal dva fakty o jednom počítadle — najsilnejší deň v týždni pondelok so 46 % a 76 % návštevníkov z Poľska spomedzi 5 krajín — a vytvoril vetu hovoriacu, že najsilnejšia bola streda a že 46 % návštevníkov prišlo z Poľska.

Dve rôzne chyby v jednej vete a ani jedna nie je vymysleným číslom.

• Každá číslica musí byť v pokyne. To zachytáva vymyslené čísla. Má to dôsledok, ktorý možno neskôr ľahko pokaziť: časť pokynu s inštrukciami neobsahuje vôbec žiadne číslice. Hovorí „jedna alebo dve vety“, nikdy „1-2“, pretože inak by sa 1 a 2 stali povolenými číslami v odpovedi.
• Jeden pokyn na fakt. To zachytáva vymenené čísla. Číslo 46 vyššie bolo skutočné — jednoducho patrilo druhému faktu a kontrola množiny čísel to nedokáže vidieť. Ak model vždy vidí iba jeden fakt, nie je čo vymeniť.
• Kontrolujú sa aj názvy. To zachytáva premenu názvu „pondelok“ na názov „streda“. Názov sa objavuje vo fakte v cieľovom jazyku, v odpovedi musí byť doslovne a súvisiace názvy v nej byť nesmú.

Čo nezachytia

To treba povedať spolu so všetkým ostatným. Dve veci prejdú.

Vetu, ktorá hovorí niečo nepravdivé bez číslic — „väčšina návštevníkov“, keď to bolo 46 % — nezachytí žiadna z týchto troch kontrol. Namiesto toho to rieši návrh: posúdenie už je vo fakte vybranom serverom, nie v slobode modelu.

A prejde aj veta o inom predmete než jej fakt, pokiaľ sa číslice zhodujú. Proti tomu stojí iba model, ktorý dodržiava pokyny. Pri údajoch nesúcich názov — deň v týždni, zariadenie, robot, stránka — to pokrýva aj tretia kontrola.

Overovanie, ktoré zachytáva iba vymyslené čísla, by uvedenú vetu prepustilo bez zmeny. Boli to skutočné čísla na nesprávnych miestach, čo je spôsob zlyhania, ktorý sa objaví iba vo výstupe, nikdy v samotnej myšlienke.