Apa yang boleh dan tidak boleh ditulis AI

Di bagian atas halaman statistik publik di sini bisa terdapat dua atau tiga kalimat yang menggambarkan apa yang dilakukan penghitung bulan ini. Kalimat-kalimat itu ditulis oleh model bahasa. Model tersebut tidak mengarang apa pun, dan susunan yang membuat hal itu benar layak dijelaskan, karena cara yang paling jelas untuk membangun fitur ini tidak memiliki sifat tersebut.

Server menjalankan SQL, memutuskan angka mana yang layak disebut, dan menulis prompt. Model mengubah satu fakta menjadi satu kalimat dalam bahasa yang diminta. Kemudian server membaca kembali jawabannya dan membuangnya jika ada digit di dalamnya yang tidak berasal dari prompt.

Jadi satu-satunya kebebasan model adalah perumusan kalimat. Model tidak memilih apa yang menarik, tidak menghitung, dan tidak membulatkan. Yang ia sumbangkan adalah hal yang tidak bisa dilakukan templat: sebelas bahasa yang terbaca seperti bahasa sungguhan.

Tiga pemeriksaan, dan kegagalan yang menjadi alasan masing-masing

Tidak satu pun ditulis karena sekadar berhati-hati. Masing-masing ada karena sesuatu yang spesifik salah pada 17 Agustus 2026. Sebuah model kecil diberi dua fakta tentang satu penghitung — hari paling ramai dalam seminggu adalah Senin dengan 46 %, dan 76 % pengunjung berasal dari Polandia dari total 5 negara — lalu menghasilkan kalimat yang menyatakan bahwa Rabu adalah hari paling ramai dan bahwa 46 % pengunjung berasal dari Polandia.

Dua kesalahan berbeda dalam satu kalimat, dan tidak satu pun berupa angka hasil halusinasi.

Setiap digit harus muncul di dalam prompt. Ini menangkap angka karangan. Pemeriksaan ini membawa konsekuensi yang kelak mudah dilanggar: bagian instruksi dari prompt sama sekali tidak mengandung digit. Bagian itu menulis “satu atau dua kalimat”, tidak pernah “1-2”, karena jika tidak, angka 1 dan 2 akan menjadi angka yang diizinkan dalam jawaban.
Satu prompt per fakta. Ini menangkap angka yang tertukar. Angka 46 di atas memang nyata — hanya saja angka itu milik fakta yang lain, dan pemeriksaan atas himpunan angka tidak dapat melihat hal itu. Jika model hanya pernah melihat satu fakta, tidak ada yang bisa tertukar.
Nama juga diperiksa. Ini menangkap “Senin” yang berubah menjadi “Rabu”. Nama tersebut muncul di dalam fakta dalam bahasa sasaran, harus muncul apa adanya di dalam jawaban, dan nama-nama sejenisnya tidak boleh muncul.

Apa yang tidak mereka tangkap

Hal ini perlu disebutkan dalam satu tarikan napas dengan yang lainnya. Ada dua hal yang lolos.

Kalimat yang menyatakan sesuatu yang keliru tanpa menggunakan digit — “sebagian besar pengunjung” padahal angkanya 46 % — tidak tertangkap oleh satu pun dari ketiganya. Sebagai gantinya, rancangannya yang meredam hal ini: penilaiannya sudah terkandung dalam fakta yang dipilih server, bukan dalam kebebasan model.

Dan kalimat yang membahas pokok yang berbeda dari faktanya akan lolos, selama digitnya cocok. Untuk menghadapi itu, yang ada hanyalah model yang mematuhi instruksi. Untuk fitur yang membawa nama — hari dalam seminggu, perangkat, bot, halaman — pemeriksaan ketiga juga menanganinya.

Verifikasi yang hanya menangkap angka karangan akan meloloskan kalimat di atas tanpa perubahan. Isinya angka nyata di tempat yang salah, dan itu jenis kegagalan yang hanya tampak pada keluaran, tidak pernah pada gagasan.