इस साल की शुरुआत में, वैज्ञानिकों ने प्रकाशित पत्रों में दिखाई देने वाले एक अजीब शब्द की खोज की: “वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी”।
यह वाक्यांश, जो तकनीकी लगता है, लेकिन वास्तव में बकवास है, एक “डिजिटल जीवाश्म” बन गया है – कृत्रिम बुद्धिमत्ता (एआई) प्रणालियों में संरक्षित और प्रबलित एक त्रुटि जो हमारे ज्ञान रिपॉजिटरी से हटाने के लिए लगभग असंभव है।
रॉक में फंसे जैविक जीवाश्मों की तरह, ये डिजिटल आर्टिफैक्ट्स हमारी सूचना पारिस्थितिकी तंत्र में स्थायी जुड़नार बन सकते हैं।
“वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी” का मामला एक परेशान करने वाली झलक प्रदान करता है कि कैसे एआई सिस्टम हमारे सामूहिक ज्ञान में त्रुटियों को समाप्त और बढ़ा सकते हैं।
खराब स्कैन, अनुवाद में त्रुटि
“वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी” असंबंधित त्रुटियों के एक उल्लेखनीय संयोग के माध्यम से उत्पन्न हुआ प्रतीत होता है।
सबसे पहले, 1950 के दशक के दो पत्र, जर्नल बैक्टीरियोलॉजिकल रिव्यू में प्रकाशित, स्कैन और डिजिटाइज़ किए गए थे।
हालांकि, डिजिटाइज़िंग प्रक्रिया ने “इलेक्ट्रॉन” के साथ पाठ के एक कॉलम से “वनस्पति” को दूसरे से “वनस्पति” को जोड़ा। नतीजतन, प्रेत शब्द बनाया गया था।
दशकों बाद, “वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी” कुछ ईरानी वैज्ञानिक पत्रों में बदल गया। 2017 और 2019 में, दो पत्रों ने अंग्रेजी कैप्शन और सार में शब्द का उपयोग किया।
यह अनुवाद त्रुटि के कारण प्रतीत होता है। फ़ारसी में, “वनस्पति” और “स्कैनिंग” के लिए शब्द केवल एक डॉट द्वारा भिन्न होते हैं।
वृद्धि पर एक त्रुटि
अपशॉट? Google विद्वान के अनुसार, आज तक, “वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी” 22 पत्रों में दिखाई देता है। एक स्प्रिंगर नेचर जर्नल से एक प्रतियोगिता में वापसी का विषय था, और एल्सेवियर ने दूसरे के लिए एक सुधार जारी किया।
यह शब्द समाचार लेखों में भी दिखाई देता है जो बाद की अखंडता जांच पर चर्चा करता है।
“वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी” 2020 के दशक में अधिक बार दिखाई देने लगे। यह पता लगाने के लिए कि, हमें आधुनिक एआई मॉडल के अंदर क्यों सहकर्मी करना था – और डेटा की विशाल परतों के माध्यम से कुछ पुरातात्विक खुदाई करते हैं, जिस पर उन्हें प्रशिक्षित किया गया था।
आधुनिक एआई चैटबॉट्स जैसे कि चैटगिप्ट जैसे बड़े भाषा के मॉडल एक अनुक्रम में संभावित अगले शब्द की भविष्यवाणी करने के लिए बड़ी मात्रा में पाठ पर “प्रशिक्षित” हैं। एक मॉडल के प्रशिक्षण डेटा की सटीक सामग्री अक्सर एक बारीकी से संरक्षित रहस्य होती है।
यह परीक्षण करने के लिए कि क्या एक मॉडल ‘वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी “के बारे में’ जानता था ‘, हम यह पता लगाने के लिए मूल कागजात के स्निपेट्स को इनपुट करते हैं कि क्या मॉडल उन्हें बकवास शब्द या अधिक समझदार विकल्पों के साथ पूरा करेगा।
परिणाम सामने आ रहे थे। Openai के GPT-3 ने लगातार “वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी” के साथ वाक्यांशों को पूरा किया। इससे पहले के मॉडल जैसे कि GPT-2 और बर्ट नहीं थे। इस पैटर्न ने हमें अलग -थलग करने में मदद की कि कब और कहां संदूषण हुआ।
हमने यह भी पाया कि GPT-4O और एन्थ्रोपिक के क्लाउड 3.5 सहित बाद के मॉडलों में त्रुटि बनी रहती है। इससे पता चलता है कि बकवास शब्द अब स्थायी रूप से एआई ज्ञान के ठिकानों में एम्बेडेड हो सकता है।
विभिन्न मॉडलों के प्रशिक्षण डेटासेट के बारे में हम जो जानते हैं, उसकी तुलना करके, हमने स्क्रैप किए गए इंटरनेट पेजों के कॉमनक्रॉल डेटासेट की पहचान की, जो कि सबसे अधिक संभावना वाले वेक्टर के रूप में है जहां एआई मॉडल ने पहली बार इस शब्द को सीखा था।
पैमाने की समस्या
इस तरह की त्रुटियां खोजना आसान नहीं है। उन्हें ठीक करना लगभग असंभव हो सकता है।
एक कारण स्केल है। उदाहरण के लिए, कॉमनक्रॉल डेटासेट, आकार में लाखों गीगाबाइट्स है। बड़ी तकनीकी कंपनियों के बाहर के अधिकांश शोधकर्ताओं के लिए, इस पैमाने पर काम करने के लिए आवश्यक कंप्यूटिंग संसाधन दुर्गम हैं।
एक अन्य कारण वाणिज्यिक एआई मॉडल में पारदर्शिता की कमी है। Openai और कई अन्य डेवलपर्स अपने मॉडल के लिए प्रशिक्षण डेटा के बारे में सटीक विवरण प्रदान करने से इनकार करते हैं। इन डेटासेटों में से कुछ को रिवर्स करने के लिए शोध के प्रयासों को भी कॉपीराइट टेकडाउन द्वारा स्टिम किया गया है।
जब त्रुटियां पाई जाती हैं, तो कोई आसान फिक्स नहीं होता है। सरल कीवर्ड फ़िल्टरिंग “वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी” जैसे विशिष्ट शब्दों से निपट सकता है। हालांकि, यह वैध संदर्भों (जैसे कि इस लेख) को भी समाप्त कर देगा।
अधिक मौलिक रूप से, मामला एक अस्थिर सवाल उठाता है। एआई सिस्टम में कितने अन्य निरर्थक शब्द मौजूद हैं, खोजे जाने की प्रतीक्षा कर रहे हैं?
विज्ञान और प्रकाशन के लिए निहितार्थ
यह “डिजिटल जीवाश्म” भी ज्ञान की अखंडता के बारे में महत्वपूर्ण प्रश्न उठाता है क्योंकि ए-असिस्टेड अनुसंधान और लेखन अधिक सामान्य हो जाता है।
प्रकाशकों ने “वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी” सहित कागजात के अधिसूचित होने पर असंगत रूप से जवाब दिया है। कुछ ने प्रभावित कागजात वापस ले लिए हैं, जबकि अन्य ने उनका बचाव किया है। एल्सेवियर ने विशेष रूप से एक सुधार जारी करने से पहले शब्द की वैधता को सही ठहराने का प्रयास किया।
हम अभी तक नहीं जानते हैं कि क्या इस तरह के अन्य quirks बड़े भाषा मॉडल को प्लेग करते हैं, लेकिन यह अत्यधिक संभावना है। किसी भी तरह से, एआई सिस्टम के उपयोग ने पहले से ही सहकर्मी-समीक्षा प्रक्रिया के लिए समस्याएं पैदा कर दी हैं।
उदाहरण के लिए, पर्यवेक्षकों ने “कृत्रिम बुद्धिमत्ता” के बजाय “नकली चेतना” जैसे स्वचालित अखंडता सॉफ़्टवेयर से बाहर निकलने के लिए उपयोग किए जाने वाले “यातनापूर्ण वाक्यांशों” के उदय को नोट किया है। इसके अतिरिक्त, “आई एम ए एआई लैंग्वेज मॉडल” जैसे वाक्यांश अन्य पीछे हटने वाले कागजात में पाए गए हैं।
कुछ स्वचालित स्क्रीनिंग टूल जैसे कि समस्याग्रस्त पेपर स्क्रिनर अब “वनस्पति इलेक्ट्रॉन माइक्रोस्कोपी” को संभव एआई-जनित सामग्री के चेतावनी संकेत के रूप में ध्वजांकित करते हैं। हालांकि, इस तरह के दृष्टिकोण केवल ज्ञात त्रुटियों को संबोधित कर सकते हैं, अनदेखे लोगों को नहीं।
डिजिटल जीवाश्मों के साथ रहना
एआई का उदय त्रुटियों के लिए हमारे ज्ञान प्रणालियों में स्थायी रूप से एम्बेडेड होने के अवसर पैदा करता है, प्रक्रियाओं के माध्यम से एक भी अभिनेता नियंत्रण नहीं। यह तकनीकी कंपनियों, शोधकर्ताओं और प्रकाशकों के लिए समान रूप से चुनौतियां प्रस्तुत करता है।
तकनीकी कंपनियों को प्रशिक्षण डेटा और तरीकों के बारे में अधिक पारदर्शी होना चाहिए। शोधकर्ताओं को एआई-जनित आश्वस्त बकवास के चेहरे में जानकारी का मूल्यांकन करने के लिए नए तरीके खोजना चाहिए। वैज्ञानिक प्रकाशकों को मानव और एआई-जनित त्रुटियों दोनों को देखने के लिए अपनी सहकर्मी समीक्षा प्रक्रियाओं में सुधार करना चाहिए।
डिजिटल जीवाश्म न केवल बड़े पैमाने पर डेटासेट की निगरानी की तकनीकी चुनौती को प्रकट करते हैं, बल्कि उन प्रणालियों में विश्वसनीय ज्ञान बनाए रखने की मौलिक चुनौती जहां त्रुटियां आत्म-स्थायी हो सकती हैं।
आरोन जे। स्नोसवेल एआई जवाबदेही में रिसर्च फेलो हैं; केविन विटजेनबर्गर रिसर्च फेलो, जेनई लैब है; और रेने एल मस्री एक पीएचडी उम्मीदवार, जेनई लैब – सभी क्वींसलैंड प्रौद्योगिकी विश्वविद्यालय में हैं। इस लेख को पुनर्प्रकाशित किया गया है बातचीत।
प्रकाशित – 22 अप्रैल, 2025 11:23 AM IST
