Mit írhat az MI, és mit nem

Egy itteni nyilvános statisztikaoldal tetején két-három mondat állhat arról, mit csinált a számláló ebben a hónapban. Ezeket egy nyelvi modell írja. A modell semmit sem talál ki, és érdemes leírni, milyen elrendezés biztosítja ezt, mert a funkció kézenfekvő megvalósítása nem rendelkezik ezzel a tulajdonsággal.

A szerver futtatja az SQL-t, eldönti, melyik számot érdemes megemlíteni, és megírja a promptot. A modell egy tényből egy mondatot formál a kért nyelven. Ezután a szerver visszaolvassa a választ, és elveti, ha benne egy számjegy nem a promptból származik.

A modell egyetlen szabadsága tehát a megfogalmazás. Nem ő választja ki, mi érdekes, nem számol, nem kerekít. Amit hozzátesz, az, amire a sablonok nem képesek: tizenegy nyelv, amely valódi nyelvként hangzik.

Három ellenőrzés, és hogy melyik milyen hiba ellen szól

Egyiket sem óvatosságból írtuk. Mindegyik azért létezik, mert 2026. augusztus 17-én valami konkrét dolog elromlott. Egy kis modell két tényt kapott egy számlálóról — a legerősebb hétköznap a hétfő 46%-kal, valamint a látogatók 76%-a Lengyelországból érkezett, összesen 5 országból —, és olyan mondatot írt, amely szerint a szerda volt a legerősebb, és a látogatók 46%-a Lengyelországból jött.

Két különböző hiba egy mondatban, és egyik sem kitalált szám.

• Minden számjegynek szerepelnie kell a promptban. Ez kiszűri a kitalált számokat. Van egy következménye, amelyet később könnyű elrontani: a prompt utasításrésze egyetlen számjegyet sem tartalmaz. Azt írja, „egy vagy két mondat”, soha nem azt, hogy „1-2”, mert különben az 1 és a 2 megengedett számmá válna a válaszban.
• Tényenként egy prompt. Ez kiszűri a felcserélt számokat. A fenti 46 valódi volt — csak a másik tényhez tartozott, és egy ellenőrzés, amely a számok halmazát nézi, ezt nem láthatja. Ha a modell mindig csak egy tényt lát, nincs mit felcserélnie.
• A neveket is ellenőrizzük. Ez kiszűri, ha a hétfőből szerda lesz. A név a célnyelven szerepel a tényben, szó szerint meg kell jelennie a válaszban, a vele egy csoportba tartozó többi név pedig nem jelenhet meg.

Amit nem szűrnek ki

Ezt ugyanabban a lélegzetben kell elmondani, mint a többit. Két dolog átjut.

Az a mondat, amely számjegyek nélkül állít valami hamisat — „a legtöbb látogató”, amikor 46% volt —, a három ellenőrzés egyikén sem akad fenn. Ezt a felépítés nyeli el: az ítélet már abban a tényben benne van, amelyet a szerver kiválasztott, nem a modell szabadságában.

Átjut az a mondat is, amely más témáról szól, mint a hozzá tartozó tény, amíg a számjegyek egyeznek. Ez ellen csak egy utasításokat követő modell véd. A nevet hordozó jellemzőknél — hétköznap, eszköz, robot, oldal — ezt a harmadik ellenőrzés is lefedi.

Az az ellenőrzés, amely csak a kitalált számokat szűri ki, változtatás nélkül átengedte volna a fenti mondatot. Valódi számok voltak rossz helyen, és ez olyan hibamód, amely csak a kimenetben mutatkozik meg, az ötletben soha.