एक मशीन साफ़, सुव्यवस्थित और कभी-कभी बेहद प्रभावशाली उत्तर देती है। वह किसी अवधारणा का उल्लेख करती है, विस्तार से समझाती है और कहीं भी संदेह प्रकट नहीं होने देती। तब हमारे भीतर एक बहुत मानवीय प्रतिक्रिया जन्म लेती है: चूँकि उसकी भाषा ज्ञान जैसी लगती है, हम उसे ज्ञान का दर्जा दे देते हैं। समस्या केवल यह नहीं है कि जनरेटिव कृत्रिम बुद्धिमत्ता गलत हो सकती है। समस्या यह है कि उसके गलत होने का तरीका विश्वास करने की हमारी इच्छा से पूरी तरह मेल खाता है।

विज्ञान की दो पुरानी भूलें इस प्रवृत्ति को दूसरे ढंग से देखने में मदद करती हैं। ये न तो शौकिया लोगों से जुड़ी हैं, न रंगे हाथ पकड़े गए धोखेबाज़ों से, बल्कि दो प्रतिष्ठित वैज्ञानिकों, इव रोकार और प्रोस्पर रेने ब्लॉन्डलो, से जुड़ी हैं। दोनों ने ऐसे परिघटनाओं पर काम किया जो बाद में अस्तित्वहीन साबित हुईं। दोनों के पास ऐसा प्रायोगिक ढाँचा था जिसे वे गंभीर मानते थे। और दोनों हमें याद दिलाते हैं कि वैज्ञानिक पद्धति तब अपनी शक्ति खो सकती है जब उसका मुख्य काम वही पुष्टि करना बन जाए जिसे प्रयोगकर्ता पहले से देखने की आशा कर रहा हो।

वैज्ञानिक भी अपेक्षा के प्रभाव से मुक्त नहीं होता

1957 से इव रोकार ने पानी खोजने वाले डाउज़रों की कथित क्षमताओं के लिए भौतिक स्पष्टीकरण तलाशना शुरू किया। उनका जीवनवृत्त उन्हें आसानी से विश्वास कर लेने वाला व्यक्ति नहीं दिखाता था: वे एकोल नॉर्माल सुपेरियर में प्रोफेसर, वहाँ की भौतिकी प्रयोगशाला के निदेशक और CEA के वैज्ञानिक सलाहकार थे, तथा शोध के कई मान्य क्षेत्रों में योगदान दे चुके थे। फिर भी उन्होंने यह विचार रखा कि कुछ लोग भूमिगत जल की उपस्थिति से जुड़ी पृथ्वी के चुंबकीय क्षेत्र की स्थानीय भिन्नताओं को महसूस कर सकते हैं।

इस परिकल्पना की जाँच के लिए रोकार ने अन्य व्यवस्थाओं के साथ ऐसा उपकरण बनाया जिसमें बिजली का तार नियंत्रित चुंबकीय क्षेत्र उत्पन्न करता था। पास में एक व्यक्ति लोलक पकड़े खड़ा होता था। धारा की दिशा उलटकर यह देखना था कि क्या लोलक के घूमने की दिशा भी बदलती है। कागज़ पर यह प्रयोग किसी पहचानी जा सकने वाली भौतिक चर के इर्द-गिर्द संगठित लगता था। लेकिन उनकी पद्धति और परिणामों के आलोचनात्मक विश्लेषण में इतने महत्वपूर्ण पक्षपात सामने आए कि इस प्रसंग को धोखाधड़ी नहीं, बल्कि वैज्ञानिक भूल माना गया।

प्रोस्पर रेने ब्लॉन्डलो का मामला इससे पुराना है। 1903 में नैंसी विश्वविद्यालय के इस प्रोफेसर और विज्ञान अकादमी के सदस्य ने ऐसी किरणों के अस्तित्व की घोषणा की जिन्हें उन्होंने “N” नाम दिया। उस समय का संदर्भ इस संभावना को विश्वसनीय बनाता था: एक्स-किरणें 1895 में खोजी गई थीं, रेडियोधर्मिता 1896 में, और 1903 में इन खोजों से जुड़ी कई हस्तियों को भौतिकी का नोबेल पुरस्कार मिला। उस दौर में, जब नई विकिरणों की खोज विज्ञान को बदल रही थी, एक और परिघटना का सामने आना आज की तुलना में कम असंगत लगता था।

ब्लॉन्डलो का दावा था कि गरम होकर चमकती सिरेमिक छड़ वाली एक लैम्प से उत्पन्न N-किरणें मंद रोशनी वाले पर्दे को थोड़ा अधिक चमकीला बना देती हैं। इसलिए पूरा निष्कर्ष लगभग न दिखने वाले ऐसे अंतर पर टिका था जो दृश्य अनुभूति की सीमा के करीब था और जिसे केवल प्रशिक्षित पर्यवेक्षक पहचान सकता था। बाद में उन्हें लगा कि वे शास्त्रीय प्रकाशिकी की विधियों से इन किरणों के प्रसार, अपवर्तन और विवर्तन का अध्ययन कर सकते हैं।

इन दोनों मामलों में एक निर्णायक समानता है: अवलोकन स्वयं परिघटना द्वारा स्पष्ट रूप से थोप दिया गया नहीं था। वह एक कमजोर, अस्पष्ट और व्याख्यायोग्य संकेत पर निर्भर था। लोलक प्रतिक्रिया देता हुआ लग सकता था। पर्दा उजला होता हुआ लग सकता था। तभी से शोधकर्ता की अपेक्षा प्रयोग के बाहर नहीं रहती। वह परिणाम का हिस्सा बन जाती है।

एआई से इसका संबंध तकनीकी नहीं, मनोवैज्ञानिक है

यह तुलना इन दोनों मामलों का हिस्सा नहीं है; इसे उसी रूप में प्रस्तुत करना चाहिए जैसा यह है—एक विश्लेषण। मेरी दृष्टि में N-किरणें और एआई की मतिभ्रमित प्रतिक्रियाएँ पूरी तरह अलग युगों और व्यवस्थाओं से संबंधित हैं, लेकिन वे पर्यवेक्षक में एक ही कमजोरी सक्रिय करती हैं। जब किसी दावे का रूप पहले से हमारी अपेक्षा के अनुरूप होता है, तो हम उसका आकलन कम कठोरता से करते हैं।

ब्लॉन्डलो के मामले में नई विकिरणों की खोज की होड़ ने एक अतिरिक्त परिघटना के अस्तित्व को विश्वसनीय बनाया। रोकार के मामले में चुंबकीय परिकल्पना ने विश्वासों से घिरी प्रथा को भौतिक रूप दे दिया। एआई के साथ स्थिति बदल जाती है: अब हम मंद रोशनी वाला पर्दा या लोलक नहीं देखते, बल्कि एक सुसंगत, तुरंत मिलने वाला और व्यक्तिगत पाठ पढ़ते हैं। अस्पष्ट संकेत एक भरोसेमंद वाक्य बन जाता है।

तीन समान तंत्र पहचाने जा सकते हैं, बशर्ते उन्हें सिद्ध परिणाम नहीं बल्कि समझने की रूपरेखा माना जाए:

  • अपेक्षा व्याख्या की दिशा तय करती है। जब हम किसी उत्तर, स्पष्टीकरण या पुष्टि की आशा करते हैं, तो हमें उसके पक्ष में जाने वाली बातें अधिक आसानी से दिखाई देती हैं।
  • दिखने वाली विशेषज्ञता आश्वस्त करती है। प्रतिष्ठित वैज्ञानिक, जटिल प्रोटोकॉल या तकनीकी रूप से सहज भाषा किसी दावे को सत्यापन से पहले ही वजन दे सकती है।
  • दोहराव सामान्यता पैदा करता है। जब कई लोग एक ही ढाँचा स्वीकार कर लेते हैं, तो संदेह कम वैध लगने लगता है। तब सामूहिक सहमति प्रमाण जैसी दिखाई दे सकती है।

इसलिए एआई पर अत्यधिक भरोसा केवल तकनीकी ज्ञान की कमी से नहीं आता। वह एक अधिक साधारण प्रवृत्ति से भी आता है: हम सुसंगतता को सत्य समझ लेते हैं। अच्छी तरह लिखा उत्तर अक्सर हिचकिचाते उत्तर से अधिक ठोस लगता है, जबकि शैलीगत आत्मविश्वास किसी बात की गारंटी नहीं देता।

एआई नया उत्पन्न कर सकती है, सत्य नहीं

तीसरी, समकालीन बहस जनरेटिव एआई की रचनात्मकता से जुड़ी है। उपलब्ध आँकड़ों से वे मौलिक या अप्रत्याशित संयोजन बना सकती हैं, जबकि कुछ पर्यवेक्षकों का मानना है कि वे केवल सीखी हुई अवस्थाओं को फिर से जोड़ती हैं। दूसरी ओर, जाँ-क्लोद ओदैं पुनर्संयोजन, उत्परिवर्तन और चयन पर आधारित आनुवंशिक एल्गोरिदम की दिशा तलाशते हैं, जिसे वे एल्गोरिद्मिक रचनात्मकता का एक रूप बताते हैं।

यह बहस समस्या को अधिक स्पष्ट करती है। कोई रचना मौलिक, आश्चर्यजनक और उपयोगी भी हो सकती है, फिर भी तथ्यात्मक रूप से गलत हो सकती है। नवीनता प्रमाण नहीं है। सुंदरता भी नहीं। एआई ऐसा संबंध सुझा सकती है जिसे किसी ने इस रूप में पहले व्यक्त न किया हो और उसी समय ऐसी जानकारी जोड़ सकती है जिसका अस्तित्व ही न हो। ठीक यही मिश्रण उसे प्रभावशाली बनाता है: सत्य, संभाव्य और गढ़ी हुई बात एक ही आवाज़ में बोल सकती हैं।

इसलिए यदि हम केवल यह पूछें—“क्या यह उत्तर बुद्धिमान लगता है?”—तो हम गलती करेंगे। उपयोगी प्रश्न अधिक कठोर है: “इस उत्तर में क्या चीज़ स्वतंत्र सत्यापन के सामने टिकेगी?” पुराने वैज्ञानिक भूल-प्रसंग हमें अंतर्ज्ञान, विशेषज्ञता या नवाचार को तुच्छ समझने को नहीं कहते। वे केवल यह कहते हैं कि अंतिम निर्णय उन्हें न सौंपें।

N-किरणों से हमारे उपयोग में क्या बदलना चाहिए

पहली सीख है अभिव्यक्ति की गुणवत्ता को प्रमाण की गुणवत्ता से अलग करना। साफ़ उत्तर गलत हो सकता है। सावधान भाषा किसी चकाचौंध भरी व्याख्या से अधिक विश्वसनीय हो सकती है। किसी महत्वपूर्ण दावे के सामने हमें केवल यह नहीं देखना चाहिए कि वह आकर्षक क्यों लगता है, बल्कि यह भी कि उसे गलत सिद्ध करने के लिए क्या चाहिए।

दूसरी सीख है कि जाँच को उस प्रणाली से बाहर ले जाया जाए जो दावा उत्पन्न करती है। रोकार अपने ही उपकरण की व्याख्या करते थे। ब्लॉन्डलो ऐसी सूक्ष्म अनुभूति पर निर्भर थे जो प्रशिक्षित पर्यवेक्षकों तक सीमित थी। इसी तरह, एआई से अपने पहले उत्तर की पुष्टि करवाना हमेशा वास्तविक सत्यापन नहीं होता: वह अभी कही गई बात के अनुरूप एक नया औचित्य बस पुनर्निर्मित कर सकती है। जाँच किसी स्वतंत्र स्रोत, सुलभ दस्तावेज़ या पुनरुत्पाद्य माप पर आधारित होनी चाहिए।

तीसरी सीख समूह से जुड़ी है। साझा की गई गलती फिर भी गलती ही रहती है। जब कई उपयोगकर्ता एक ही जनरेटेड उत्तर दोहराते हैं, तो उसका मूल स्रोत गायब हो सकता है और दोहराव उसे कृत्रिम अधिकार दे सकता है। किसी बात के बार-बार दोहराए जाने से मूल तथ्य अधिक मजबूत नहीं हो जाता।

खतरा यह नहीं है कि एआई हमें विश्वास करने के लिए मजबूर करती है। खतरा यह है कि वह हमें ठीक वही उत्तर देती है जिसे हम पहले से स्वीकार करने को तैयार थे।

विज्ञान की पहचान त्रुटियों के अभाव से नहीं, बल्कि उन्हें उजागर करने और अपने निष्कर्ष बदलने की क्षमता से होती है। N-किरणों का प्रसंग एक प्रसिद्ध सामूहिक भ्रम के रूप में प्रस्तुत किया जाता है और साथ ही आत्मसुधार की इसी क्षमता को दिखाता है। शायद जनरेटिव एआई के लिए यही सर्वोत्तम मॉडल है: उसका व्यापक उपयोग करें, लेकिन उसके आसपास सक्रिय असहमति और जाँच की संस्कृति बनाए रखें।

रोकार और ब्लॉन्डलो किसी भोले अतीत से हमें नहीं देख रहे। वे हमारे सामने आईना रखते हैं। उनकी गलती साहसी परिकल्पना की कल्पना करना नहीं थी। गलती यह थी कि उन्होंने परिकल्पना को अपनी आँखों को यह सिखाने दिया कि उन्हें क्या देखना चाहिए। आज हमारी आँखें अधिक चमकीले पर्दे और अधिक तेज़ उत्तर पढ़ती हैं। हमारी जिम्मेदारी वही है: विश्वास को प्रमाण से बहुत आगे कभी न निकलने देना।