מה מותר ואסור לבינה המלאכותית לכתוב

בראש דף סטטיסטיקה ציבורי כאן יכולים להיות שניים או שלושה משפטים שמתארים מה המונה עשה החודש. הם נכתבים בידי מודל שפה. המודל אינו ממציא דבר, וכדאי לתאר את הסידור שמאפשר זאת, כי הדרך המובנת מאליה לבנות את התכונה הזאת אינה מבטיחה זאת.

השרת מריץ את ה־SQL, מחליט איזה נתון כדאי להזכיר וכותב את ההנחיה. המודל הופך עובדה אחת למשפט אחד בשפה המבוקשת. ואז השרת קורא את התשובה ומשליך אותה אם ספרה בה לא הגיעה מההנחיה.

לכן החופש היחיד של המודל הוא הניסוח. הוא אינו בוחר מה מעניין, אינו מחשב ואינו מעגל. הוא תורם את מה שתבניות אינן יכולות לעשות: כתיבה טבעית באחת עשרה שפות.

שלוש בדיקות, והכשל שכל אחת נועדה לתפוס

אף אחת מהן לא נכתבה מתוך זהירות. כל אחת קיימת מפני שמשהו מסוים השתבש ב־17 באוגוסט 2026. מודל קטן קיבל שתי עובדות על מונה אחד — היום החזק ביותר בשבוע היה יום שני עם 46%, ו־76% מהמבקרים מפולין מתוך 5 מדינות — והפיק משפט שאמר שיום רביעי היה החזק ביותר וש־46% מהמבקרים הגיעו מפולין.

שתי שגיאות שונות במשפט אחד, ואף אחת אינה מספר מומצא.

כל ספרה חייבת להופיע בהנחיה. זה תופס נתונים מומצאים. יש לכך תוצאה שקל לטעות בה בהמשך: חלק ההוראות בהנחיה אינו מכיל ספרות כלל. הוא אומר “משפט אחד או שניים”, לעולם לא “1-2”, כי אחרת 1 ו־2 יהפכו למספרים מותרים בתשובה.
הנחיה אחת לכל עובדה. זה תופס מספרים שהוחלפו. המספר 46 שלמעלה היה אמיתי — הוא פשוט השתייך לעובדה האחרת, ובדיקה של קבוצת המספרים אינה יכולה לראות זאת. אם המודל תמיד רואה רק עובדה אחת, אין מה להחליף.
גם שמות נבדקים. זה תופס הפיכה של “יום שני” ל־“יום רביעי”. השם מופיע בעובדה בשפת היעד, הוא חייב להופיע בתשובה כלשונו, והשמות האחרים מאותה קבוצה אינם רשאים להופיע.

מה הן אינן תופסות

זה צריך להיאמר באותה נשימה עם כל היתר. שני דברים עוברים.

משפט שאומר דבר שגוי בלי להשתמש בספרות — “רוב המבקרים” כשהנתון היה 46% — אינו נתפס באף אחת מהשלוש. התכנון מטפל בכך במקום זאת: השיפוט כבר נמצא בעובדה שהשרת בחר, ולא בחופש של המודל.

ומשפט שעוסק בנושא שונה מזה של העובדה שלו עובר, כל עוד הספרות תואמות. נגד זה יש רק מודל שמציית להוראות. בתכונות שמכילות שם — יום בשבוע, מכשיר, רובוט, דף — גם הבדיקה השלישית מכסה זאת.

אימות שתופס רק מספרים מומצאים היה מעביר את המשפט שלמעלה ללא שינוי. אלה היו מספרים אמיתיים במקומות הלא נכונים, וזה אופן כשל שמתגלה רק בפלט, לעולם לא ברעיון.