Τι επιτρέπεται να γράφει η τεχνητή νοημοσύνη και τι όχι

Στην κορυφή μιας δημόσιας σελίδας στατιστικών εδώ μπορεί να υπάρχουν δύο ή τρεις προτάσεις που περιγράφουν τι έκανε ο μετρητής αυτόν τον μήνα. Τις γράφει ένα γλωσσικό μοντέλο. Το μοντέλο δεν επινοεί τίποτα, και η διάταξη που το εξασφαλίζει αξίζει να περιγραφεί, επειδή ο προφανής τρόπος να κατασκευαστεί αυτή η λειτουργία δεν έχει αυτή την ιδιότητα.

Ο διακομιστής εκτελεί το SQL, αποφασίζει ποιο στοιχείο αξίζει να αναφερθεί και γράφει το prompt. Το μοντέλο μετατρέπει ένα γεγονός σε μία πρόταση στη ζητούμενη γλώσσα. Έπειτα ο διακομιστής διαβάζει την απάντηση και την πετά αν κάποιο ψηφίο της δεν προήλθε από το prompt.

Έτσι η μόνη ελευθερία του μοντέλου είναι η διατύπωση. Δεν επιλέγει τι είναι ενδιαφέρον, δεν υπολογίζει, δεν στρογγυλοποιεί. Αυτό που προσφέρει είναι ό,τι δεν μπορούν να κάνουν τα πρότυπα: έντεκα γλώσσες που διαβάζονται σαν φυσική γλώσσα.

Τρεις έλεγχοι, και η αποτυχία για την οποία υπάρχει ο καθένας

Κανένας δεν γράφτηκε από απλή προνοητικότητα. Ο καθένας υπάρχει επειδή κάτι συγκεκριμένο πήγε στραβά στις 17 Αυγούστου 2026. Ένα μικρό μοντέλο πήρε δύο γεγονότα για έναν μετρητή — ισχυρότερη ημέρα της εβδομάδας η Δευτέρα με 46%, και 76% των επισκεπτών από την Πολωνία σε σύνολο 5 χωρών — και παρήγαγε μια πρόταση που έλεγε ότι η Τετάρτη ήταν η ισχυρότερη και ότι το 46% των επισκεπτών ήρθε από την Πολωνία.

Δύο διαφορετικά λάθη σε μία πρόταση, και κανένα δεν είναι επινοημένος αριθμός.

• Κάθε ψηφίο πρέπει να υπάρχει στο prompt. Αυτό πιάνει τα επινοημένα στοιχεία. Έχει μια συνέπεια που είναι εύκολο να παραβλεφθεί αργότερα: το τμήμα οδηγιών του prompt δεν περιέχει κανένα ψηφίο. Λέει «μία ή δύο προτάσεις», ποτέ «1-2», γιατί αλλιώς το 1 και το 2 θα γίνονταν επιτρεπτοί αριθμοί στην απάντηση.
• Ένα prompt ανά γεγονός. Αυτό πιάνει τα στοιχεία που έχουν αντιμετατεθεί. Το 46 παραπάνω ήταν πραγματικό — απλώς ανήκε στο άλλο γεγονός, και ένας έλεγχος πάνω στο σύνολο των αριθμών δεν μπορεί να το δει αυτό. Αν το μοντέλο βλέπει μόνο ένα γεγονός κάθε φορά, δεν υπάρχει τίποτα να αντιμετατεθεί.
• Ελέγχονται και τα ονόματα. Αυτό πιάνει τη «Δευτέρα» που γίνεται «Τετάρτη». Το όνομα εμφανίζεται στο γεγονός στη γλώσσα-στόχο, πρέπει να εμφανίζεται αυτολεξεί στην απάντηση, και τα ομοειδή του δεν επιτρέπεται να εμφανίζονται.

Τι δεν πιάνουν

Αυτό πρέπει να λεχθεί μαζί με τα υπόλοιπα. Δύο πράγματα περνούν.

Μια πρόταση που λέει κάτι ψευδές χωρίς να χρησιμοποιεί ψηφία — «οι περισσότεροι επισκέπτες» ενώ ήταν 46% — δεν πιάνεται από κανέναν από τους τρεις. Ο σχεδιασμός το απορροφά με άλλον τρόπο: η κρίση βρίσκεται ήδη στο γεγονός που επέλεξε ο διακομιστής, όχι στην ελευθερία του μοντέλου.

Και μια πρόταση που αφορά διαφορετικό θέμα από το γεγονός της περνά, εφόσον τα ψηφία ταιριάζουν. Απέναντι σε αυτό υπάρχει μόνο ένα μοντέλο που ακολουθεί οδηγίες. Για στοιχεία που φέρουν όνομα — ημέρα της εβδομάδας, συσκευή, bot, σελίδα — ο τρίτος έλεγχος καλύπτει και αυτό.

Μια επαλήθευση που πιάνει μόνο επινοημένους αριθμούς θα άφηνε την παραπάνω πρόταση να περάσει αναλλοίωτη. Ήταν πραγματικοί αριθμοί σε λάθος θέσεις, ένας τρόπος αποτυχίας που φαίνεται μόνο στο αποτέλεσμα, ποτέ στην ιδέα.