Mida tehisintellekt tohib ja mida mitte kirjutada

Avaliku statistikalehe ülaosas võib olla kaks või kolm lauset, mis kirjeldavad, mida loendur sel kuul tegi. Need kirjutab keelemudel. Mudel ei mõtle midagi välja ja korraldus, mis selle tõeks teeb, väärib kirjeldamist, sest funktsiooni ilmne ehitamisviis seda omadust ei oma.

Server käivitab SQL-i, otsustab, millist arvu tasub mainida, ja kirjutab viiba. Mudel muudab ühe fakti üheks lauseks soovitud keeles. Seejärel loeb server vastuse tagasi ja viskab selle ära, kui mõni selles olev number ei pärinenud viibast.

Seega on mudeli ainus vabadus sõnastus. See ei vali, mis on huvitav, see ei arvuta, see ei ümarda. Mis ta annab, on see, mida mallid ei suuda: üksteist keelt, mis loevad nagu keel.

Kolm kontrolli ja viga, mille vastu igaüks on

Ükski neist ei kirjutatud ettevaatusest. Igaüks on olemas, sest 17. augustil 2026 läks midagi konkreetset valesti. Väikesele mudelile anti kaks fakti ühe loenduri kohta — tugevaim nädalapäev esmaspäev 46 % ja 76 % külastajatest Poolast 5 riigi hulgas — ja see kirjutas lause, mis ütles, et tugevaim oli kolmapäev ja et 46 % külastajatest tuli Poolast.

Kaks erinevat viga ühes lauses ja kumbki ei ole väljamõeldud number.

• Iga number peab viibas olema. See tabab väljamõeldud arve. Sellel on tagajärg, mida on hiljem lihtne valesti teha: viiba juhendav osa ei sisalda üldse numbreid. Seal on „üks või kaks lauset“, mitte kunagi „1–2“, sest muidu muutuksid 1 ja 2 vastuses lubatud arvudeks.
• Üks viip faktile. See tabab vahetatud arve. Ülaltoodud 46 oli päris — see kuulus lihtsalt teisele faktile ja kontroll arvude hulga üle ei näe seda. Kui mudel näeb alati ainult ühte fakti, pole midagi vahetada.
• Kontrollitakse ka nimesid. See tabab olukorda, kus „esmaspäev“ muutub „kolmapäevaks“. Nimi esineb faktis sihtkeeles, see peab vastuses sõna-sõnalt olema ja selle õed-vennad mitte.

Mida need ei taba

See kuulub samasse hingetõmbesse ülejäänuga. Kaks asja pääsevad läbi.

Lauset, mis ütleb midagi valet ilma numbriteta — „enamik külastajaid“, kui oli 46 % — ei taba ükski kolmest. Disain neelab selle hoopis ära: otsus on juba serveri valitud faktis, mitte mudeli vabaduses.

Ja lause, mis räägib teisest teemast kui selle fakt, pääseb läbi, kui numbrid klapivad. Selle vastu on ainult mudel, mis järgib juhiseid. Nimega funktsioonide puhul — nädalapäev, seade, bot, leht — katab seda ka kolmas kontroll.

Kontroll, mis tabab ainult väljamõeldud numbreid, oleks ülaltoodud lause muutmata läbi lasknud. Need olid päris numbrid valedes kohtades, mis on tõrkerežiim, mis ilmneb ainult väljundis, mitte kunagi ideekavandis.