इसके निर्माता की तरह, एलोन मस्क के आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक को इस सप्ताह सोशल मीडिया पर दक्षिण अफ्रीकी नस्लीय राजनीति के साथ पूर्वाग्रह किया गया था, जो गोरे लोगों के उत्पीड़न और “नरसंहार” के बारे में अनचाहे दावों को पोस्ट कर रहा था।

मस्क की कंपनी XAI द्वारा बनाई गई चैटबोट, मस्क के सोशल मीडिया प्लेटफॉर्म एक्स के उपयोगकर्ताओं के जवाब में “सफेद नरसंहार” के बारे में सार्वजनिक रूप से पोस्ट करते रहे, जिन्होंने इसे कई तरह के सवाल पूछे, सबसे ज्यादा दक्षिण अफ्रीका से कोई लेना -देना नहीं है।

एक एक्सचेंज स्ट्रीमिंग सेवा मैक्स को एचबीओ नाम को पुनर्जीवित करने के बारे में था। अन्य लोग वीडियो गेम या बेसबॉल के बारे में थे, लेकिन दक्षिण अफ्रीका के श्वेत किसानों के खिलाफ हिंसा के लिए कथित कॉल पर असंबंधित टिप्पणी में जल्दी से घुस गए। मस्क, जो दक्षिण अफ्रीका में पैदा हुआ था, अक्सर अपने स्वयं के एक्स खाते से समान विषयों पर विचार करता है।

कंप्यूटर वैज्ञानिक जेन गोलबेक ग्रोक के असामान्य व्यवहार के बारे में उत्सुक थे, इसलिए उन्होंने खुद इसे आज़माया, एक तस्वीर साझा की, जो उन्होंने वेस्टमिंस्टर केनेल क्लब डॉग शो में ली थी और पूछा, “क्या यह सच है?”

“सफेद नरसंहार का दावा अत्यधिक विवादास्पद है,” गोलबेक के लिए ग्रोक की प्रतिक्रिया शुरू हुई। “कुछ तर्क देते हैं कि श्वेत किसानों को लक्षित हिंसा का सामना करना पड़ता है, जो खेत के हमलों की ओर इशारा करता है और ‘बोअर को मार डालता’ गीत की तरह बयानबाजी करता है, जिसे वे उकसाने के रूप में देखते हैं।”

यह एपिसोड स्वचालन और मानव इंजीनियरिंग के जटिल मिश्रण में नवीनतम विंडो थी जो जनरेटिव एआई चैटबॉट्स का नेतृत्व करती है, जो डेटा के विशाल ट्रॉव्स पर प्रशिक्षित है, यह कहने के लिए कि वे क्या कहते हैं।

मैरीलैंड विश्वविद्यालय के एक प्रोफेसर गोलबेक ने गुरुवार को एक साक्षात्कार में कहा, “यह वास्तव में भी मायने नहीं रखता है कि आप ग्रोक से क्या कह रहे थे।” “यह अभी भी उस सफेद नरसंहार का जवाब देगा। इसलिए यह बहुत स्पष्ट लग रहा था कि किसी ने उस प्रतिक्रिया पर उस प्रतिक्रिया या विविधता को देने के लिए इसे हार्ड-कोड किया था, और एक गलती की थी, इसलिए यह बहुत अधिक बार आ रहा था जितना कि यह माना जाता था।”

मस्क और उनकी कंपनियों ने ग्रोक की प्रतिक्रियाओं के लिए एक स्पष्टीकरण प्रदान नहीं किया है, जिन्हें हटा दिया गया था और गुरुवार तक प्रसार बंद कर दिया था। न तो XAI और न ही X ने गुरुवार को टिप्पणी के लिए ईमेल अनुरोध लौटाए।

मस्क ने “वोक एआई” आउटपुट की आलोचना करते हुए कई साल बिताए हैं, जो कहते हैं कि वह प्रतिद्वंद्वी चैटबॉट्स से बाहर आओ, जैसे कि Google के मिथुन या ओपनईई के चैटगेट, और ग्रोक को उनके “अधिकतम सत्य-चाहने वाले” विकल्प के रूप में पिच किया है।

मस्क ने अपने प्रतिद्वंद्वियों के एआई प्रणालियों के बारे में पारदर्शिता की कमी की भी आलोचना की है, लेकिन गुरुवार को किसी भी स्पष्टीकरण की अनुपस्थिति ने कंपनी के बाहर के लोगों को अपना सर्वश्रेष्ठ अनुमान लगाने के लिए मजबूर किया।

“ग्रोक बेतरतीब ढंग से दक्षिण अफ्रीका में सफेद नरसंहार के बारे में राय को धुंधला कर देता है, जो मुझे हाल ही में लागू पैच से प्राप्त बग्गी के व्यवहार की तरह से बदबू आ रही है। मुझे यकीन है कि यह नहीं है। यह वास्तव में बुरा होगा यदि व्यापक रूप से उपयोग किए गए एआईएस ने उन्हें नियंत्रित करने वालों द्वारा मक्खी पर संपादकीय प्राप्त किया,” प्रमुख प्रौद्योगिकी निवेशक पॉल ग्राहम ने एक्स पर लिखा है।

ग्राहम की पोस्ट मस्क के प्रतिद्वंद्वी, ओपनईएआई के सीईओ सैम अल्टमैन से एक व्यंग्यात्मक प्रतिक्रिया के रूप में दिखाई दी।

“कई तरीके हो सकते हैं। मुझे यकीन है कि XAI जल्द ही एक पूर्ण और पारदर्शी स्पष्टीकरण प्रदान करेगा,” Altman ने लिखा है, जिसे Openai की स्थापना में निहित एक विवाद में कस्तूरी द्वारा मुकदमा दायर किया गया है।

कुछ ने ग्रोक को खुद को समझाने के लिए कहा, लेकिन अन्य चैटबॉट्स की तरह, यह मतिभ्रम के रूप में जाने जाने वाले झूठों के लिए प्रवण है, जिससे यह निर्धारित करना मुश्किल हो जाता है कि क्या यह चीजों को बना रहा था।

राष्ट्रपति डोनाल्ड ट्रम्प के एक सलाहकार मस्क ने नियमित रूप से दक्षिण अफ्रीका की अश्वेत-नेतृत्व वाली सरकार पर श्वेत-विरोधी होने का आरोप लगाया है और उन्होंने यह दावा किया है कि देश के कुछ राजनीतिक आंकड़े “सक्रिय रूप से सफेद नरसंहार को बढ़ावा दे रहे हैं।”

ट्रम्प प्रशासन द्वारा सोमवार को शरणार्थियों के रूप में ट्रम्प प्रशासन ने संयुक्त राज्य अमेरिका में सफेद दक्षिण अफ्रीकी लोगों की एक छोटी संख्या को लाने के बाद मस्क की टिप्पणी – और ग्रोक की इस सप्ताह बढ़ गई, अल्पसंख्यक अफ्रिकनर समूह के सदस्यों के लिए एक बड़े स्थानांतरण प्रयास की शुरुआत के रूप में ट्रम्प ने शरणार्थी कार्यक्रमों को निलंबित कर दिया और दुनिया के अन्य भागों से आगमन को रोक दिया। ट्रम्प का कहना है कि अफ्रिकैनर्स अपनी मातृभूमि में एक “नरसंहार” का सामना कर रहे हैं, दक्षिण अफ्रीकी सरकार द्वारा एक आरोप को दृढ़ता से अस्वीकार कर दिया गया है।

अपनी कई प्रतिक्रियाओं में, ग्रोक ने एक पुराने-रंगभेद विरोधी गाने के गीतों को लाया, जो काले लोगों के लिए उत्पीड़न के खिलाफ खड़े होने का आह्वान था और अब गोरों की हत्या को बढ़ावा देने के रूप में कस्तूरी और अन्य लोगों द्वारा मारा गया है। गीत के केंद्रीय गीत “बोअर को मारते हैं” – एक शब्द जो एक सफेद किसान को संदर्भित करता है।

गोलबेक का मानना ​​है कि उत्तर “हार्ड-कोडेड” थे, क्योंकि चैटबॉट आउटपुट आमतौर पर बहुत यादृच्छिक होते हैं, ग्रोक की प्रतिक्रियाएं लगातार लगभग समान बिंदुओं को सामने लाती हैं। यह संबंधित है, उसने कहा, एक ऐसी दुनिया में जहां लोग तेजी से ग्रोक के पास जाते हैं और एआई चैटबॉट्स को उनके सवालों के जवाब के लिए प्रतिस्पर्धा करते हैं।

“हम एक ऐसे स्थान पर हैं, जहां यह उन लोगों के लिए बहुत आसान है जो इन एल्गोरिदम के प्रभारी हैं, जो सत्य के संस्करण में हेरफेर करने के लिए हैं जो वे दे रहे हैं,” उसने कहा। “और यह वास्तव में समस्याग्रस्त है जब लोग – मैं गलत तरीके से सोचता हूं – मानते हैं कि ये एल्गोरिदम क्या सच है और क्या नहीं है, इसके बारे में सहायक के स्रोत हो सकते हैं।”

यह लेख पाठ में संशोधन के बिना एक स्वचालित समाचार एजेंसी फ़ीड से उत्पन्न हुआ था।