AI हमारे सर्वर पर क्यों नहीं चलता

जो मशीन यह वेबसाइट चलाती है, उस पर कोई भाषा मॉडल नहीं चलता। सारांश एक दूसरे डिवाइस पर तैयार होते हैं, जो काम उठाता है, उसे पूरा करता है और वाक्य वापस लाता है।

वजह सीधा हिसाब है। एक 3B मॉडल एक गीगाबाइट से ज़्यादा मेमोरी घेरता है और हर जवाब के लिए कई सेकंड लेता है। इस पूरे ऐप्लिकेशन की सबसे भारी डेटाबेस क्वेरी में 581 मिलीसेकंड लगते हैं। दोनों को एक ही बोर्ड पर रखने का मतलब है कि 3,79,000 काउंटरों की इमेज एक टेक्स्ट जनरेटर के पीछे इंतज़ार करेंगी, और असली उत्पाद यही इमेज हैं।

इसकी कीमत क्या है, और इससे क्या मिलता है

कीमत है एक दूसरी मशीन और एक कतार। काम एक बार में ज़्यादा से ज़्यादा बीस दिए जाते हैं; कतार की एक ऊपरी सीमा है, और जब वह भर जाती है, तो कुछ नया नहीं बनता — जो वाक्य पहले लिखे जा चुके हैं, वे दिखते रहते हैं। एक हफ़्ता पुराना सारांश ठीक है। सारांश का न होना भी ठीक है। लेकिन आँकड़ों का ऐसा पेज ठीक नहीं, जो इसलिए धीमा हो कि उसी बोर्ड पर कोई और चीज़ सोच रही है।

बदले में यह मिलता है कि गिनती की प्रक्रिया कभी किसी अप्रत्याशित चीज़ के साथ मशीन साझा नहीं करती। काउंटर इमेज बनाना छोटा और सीमित काम है। टेक्स्ट बनाना ऐसा नहीं है: यहाँ एक वाक्य के लिए मापा गया दायरा 5.4 से 54.3 सेकंड है, यानी तेज़ और धीमे मामले के बीच दस गुना का फ़र्क, और यह किसी ऐसी चीज़ से तय होता है जिसे सर्वर पहले से नहीं देख सकता।

घर से बाहर क्या जाता है

यह हिस्सा कुछ भी बनाने से पहले तय करना था, क्योंकि यही वह हिस्सा है जिसे बाद में ठीक नहीं किया जा सकता।

दूसरी मशीन को सिर्फ़ वे संख्याएँ मिलती हैं, जो काउंटर के अपने आँकड़ों के पेज पर पहले से सार्वजनिक हैं, और सिर्फ़ उन काउंटरों से, जिनका आँकड़ों का पेज सार्वजनिक है — न निजी, न पासवर्ड से सुरक्षित। वर्कर को ऐसा कुछ पता नहीं चलता, जो उस पेज पर आने वाला कोई विज़िटर उसे खोलकर न पढ़ सके।

यह इस बात का कोई सुखद संयोग नहीं है कि कोड कैसा बन गया। उम्मीदवार चुनने वाली क्वेरी इसी शर्त पर फ़िल्टर करती है, और उस फ़िल्टर के बिना पूरी सुविधा दूसरों के डेटा को एक दूसरे डिवाइस पर भेजना बन जाती। “हम इसे सावधानी से संभालेंगे” का कोई भी रूप उतना अच्छा नहीं, जितना उसे भेजना ही नहीं।

आम सबक

इससे दो नियम निकले, जो खुद इस सुविधा से ज़्यादा कीमती हैं।

असीमित काम को सीमित रास्ते से दूर रखें। जिस काम का समय दस गुना के दायरे तक भी पहले से न बताया जा सके, वह उस मशीन पर नहीं होना चाहिए जिसे मिलीसेकंड में जवाब देना है। “आम तौर पर ठीक” काफ़ी नहीं — धीमा मामला ही मायने रखता है, और वह हमेशा आता है।

क्या बनाना है, यह तय करने से पहले तय करें कि क्या बाहर जा सकता है। अगर जवाब होता “वर्कर को निजी काउंटर भी चाहिए”, तो सही प्रतिक्रिया स्थानांतरण को सुरक्षित करना नहीं थी। सही प्रतिक्रिया यह थी कि सुविधा निजी काउंटरों को शामिल नहीं करती, और वह सचमुच उन्हें शामिल नहीं करती।