Ce are voie IA să scrie și ce nu

În partea de sus a unei pagini publice de statistici de aici pot exista două sau trei propoziții care descriu ce a făcut contorul luna aceasta. Ele sunt scrise de un model lingvistic. Modelul nu inventează nimic, iar mecanismul care face ca asta să fie adevărat merită descris, pentru că modul evident de a construi această funcție nu are această proprietate.

Serverul rulează SQL-ul, decide care cifră merită menționată și scrie promptul. Modelul transformă un fapt într-o propoziție în limba cerută. Apoi serverul citește răspunsul și îl aruncă dacă o cifră din el nu provine din prompt.

Așadar, singura libertate a modelului este formularea. Nu alege ce este interesant, nu calculează, nu rotunjește. Contribuția lui este ceea ce șabloanele nu pot face: unsprezece limbi care se citesc ca o limbă vie.

Trei verificări și eșecul pentru care există fiecare

Niciuna nu a fost scrisă din simplă prudență. Fiecare există pentru că ceva anume a mers prost pe 17 august 2026. Un model mic a primit două fapte despre un contor — cea mai puternică zi a săptămânii, lunea, cu 46 %, și 76 % dintre vizitatori din Polonia, dintr-un total de 5 țări — și a produs o propoziție care spunea că miercurea a fost cea mai puternică și că 46 % dintre vizitatori au venit din Polonia.

Două erori diferite într-o singură propoziție, și niciuna nu este un număr halucinat.

• Fiecare cifră trebuie să apară în prompt. Aceasta prinde cifrele inventate. Are o consecință care poate fi ușor încălcată mai târziu: partea de instrucțiuni a promptului nu conține nicio cifră. Spune „una sau două propoziții”, niciodată „1-2”, pentru că altfel 1 și 2 ar deveni numere permise în răspuns.
• Un prompt per fapt. Aceasta prinde cifrele inversate. Cifra 46 de mai sus era reală — doar că aparținea celuilalt fapt, iar o verificare făcută pe mulțimea de numere nu poate vedea asta. Dacă modelul vede mereu un singur fapt, nu are ce inversa.
• Sunt verificate și numele. Aceasta prinde transformarea lui „luni” în „miercuri”. Numele apare în fapt în limba țintă, trebuie să apară literal în răspuns, iar celelalte nume din aceeași serie nu au voie să apară.

Ce nu prind

Acest lucru trebuie spus în aceeași respirație cu restul. Două lucruri trec.

O propoziție care spune ceva fals fără să folosească cifre — „cei mai mulți vizitatori” când era vorba de 46 % — nu este prinsă de niciuna dintre cele trei. Construcția sistemului absoarbe asta în alt mod: judecata se află deja în faptul pe care l-a selectat serverul, nu în libertatea modelului.

Și mai trece o propoziție care vorbește despre alt subiect decât faptul ei, atâta timp cât cifrele se potrivesc. Împotriva acestui lucru nu există decât un model care respectă instrucțiunile. Pentru caracteristicile care poartă un nume — ziua săptămânii, dispozitivul, robotul, pagina — a treia verificare acoperă și acest caz.

O verificare care prinde doar numere inventate ar fi lăsat să treacă neschimbată propoziția de mai sus. Erau numere reale în locuri greșite, un tip de eșec care apare doar în rezultat, niciodată în idee.