ما يجوز للذكاء الاصطناعي كتابته وما لا يجوز

في أعلى صفحة الإحصائيات العامة هنا قد تظهر جملتان أو ثلاث تصف ما جرى مع العداد هذا الشهر. يكتبها نموذج لغوي. والنموذج لا يختلق شيئًا، والترتيب الذي يضمن ذلك يستحق الشرح، لأن الطريقة البديهية لبناء هذه الميزة لا تتمتع بهذه الخاصية.

ينفّذ الخادم استعلام SQL، ويقرر أيّ رقم يستحق الذكر، ويكتب الموجّه. ويحوّل النموذج معلومة واحدة إلى جملة واحدة باللغة المطلوبة. ثم يقرأ الخادم الإجابة ويرميها إذا كان فيها رقم لم يأتِ من الموجّه.

فحرية النموذج الوحيدة هي الصياغة. لا يختار ما هو مثير للاهتمام، ولا يحسب، ولا يقرّب الأرقام. وما يضيفه هو ما لا تقدر عليه القوالب: إحدى عشرة لغة تُقرأ كلغة حقيقية.

ثلاثة فحوص، ولكلٍّ منها العطل الذي وُضع من أجله

لم يُكتب أيٌّ منها من باب الحيطة. فكلٌّ منها موجود لأن أمرًا محددًا ساء في 17 أغسطس 2026. أُعطي نموذج صغير معلومتين عن عداد واحد — أقوى أيام الأسبوع الاثنين بنسبة 46 %، و76 % من الزوار من بولندا من بين 5 دول — فأنتج جملة تقول إن الأربعاء كان الأقوى وإن 46 % من الزوار جاؤوا من بولندا.

خطآن مختلفان في جملة واحدة، وليس أيٌّ منهما رقمًا مختلقًا.

يجب أن يرد كل رقم في الموجّه. هذا يكشف الأرقام المختلقة. وله نتيجة يسهل الإخلال بها لاحقًا: جزء التعليمات في الموجّه لا يحتوي على أي رقم إطلاقًا. فهو يقول «جملة أو جملتين»، ولا يقول أبدًا «1-2»، وإلا لصار الرقمان 1 و2 مسموحين في الإجابة.
موجّه واحد لكل معلومة. هذا يكشف الأرقام المتبادلة. فالرقم 46 أعلاه كان حقيقيًا — لكنه ينتمي ببساطة إلى المعلومة الأخرى، والفحص الذي يعمل على مجموعة الأرقام لا يستطيع رؤية ذلك. وإذا لم يرَ النموذج قط سوى معلومة واحدة، فلا يوجد ما يمكن تبديله.
الأسماء تُفحص أيضًا. هذا يكشف تحوّل «الاثنين» إلى «الأربعاء». يرد الاسم في المعلومة باللغة المستهدفة، ويجب أن يرد حرفيًا في الإجابة، ويجب ألا ترد نظائره.

ما لا تكشفه

وهذا يجب أن يُذكر جنبًا إلى جنب مع ما سبق. هناك أمران يفلتان.

الجملة التي تقول شيئًا خاطئًا من دون استخدام أرقام — «معظم الزوار» بينما كانت النسبة 46 % — لا يكشفها أيٌّ من الفحوص الثلاثة. بل يستوعب التصميم ذلك: فالحكم موجود أصلًا في المعلومة التي اختارها الخادم، لا في حرية النموذج.

كذلك تفلت الجملة التي تتناول موضوعًا غير موضوع معلومتها، ما دامت الأرقام متطابقة. ولا يقف في وجه ذلك إلا نموذج يلتزم بالتعليمات. أما في الخصائص التي تحمل اسمًا — يوم الأسبوع، الجهاز، الروبوت، الصفحة — فالفحص الثالث يغطي ذلك أيضًا.

التحقق الذي لا يكشف إلا الأرقام المختلقة كان سيُمرّر الجملة المذكورة أعلاه دون تغيير. فقد كانت أرقامًا حقيقية في غير مواضعها، وهذا نمط من الأعطال لا يظهر إلا في المخرجات، ولا يظهر أبدًا في الفكرة.