चटप्ट -4 ओ, ग्रोक 3, और मिडजॉर्नी जैसे जेनेरेटिव एआई प्लेटफॉर्म के रूप में अधिक उन्नत और सुलभ हो जाते हैं, साइबर विशेषज्ञ दुरुपयोग में एक परेशान वृद्धि की चेतावनी दे रहे हैं-एक जो उपयोगकर्ताओं, संस्थानों और लोकतांत्रिक प्रक्रियाओं के लिए गंभीर जोखिम पैदा करता है, विशेष रूप से दक्षिण एशिया जैसे क्षेत्रों में।

मधु श्रीनिवास, साइनज़ी में मुख्य जोखिम अधिकारी, एक वैश्विक रीजटेक कंपनी में विशेषज्ञता एआई संचालित जोखिम और अनुपालन समाधान, एक विशेष बातचीत में अलार्म बजाते हैं, यह देखते हुए कि कैसे बुरे अभिनेता सरल दस्तावेज़ जालसाजी से परे इन उपकरणों का तेजी से शोषण कर रहे हैं।

श्रीनिवास ने कहा, “इन प्लेटफार्मों का उपयोग अब नकली मानव चेहरों, हाइपर-यथार्थवादी दृश्यों और भावनात्मक रूप से जोड़ तोड़ दृश्य बनाने के लिए किया जा रहा है जो घोटालों, धब्बा अभियानों और यहां तक ​​कि राजनीतिक विघटन में फ़ीड करते हैं।”

जोखिम में हर दिन उपयोगकर्ता

आम उपयोगकर्ताओं के लिए सबसे अधिक दबाव वाले खतरे नकली इमेजरी द्वारा बढ़ाए गए परिष्कृत फ़िशिंग हमलों में निहित हैं, व्यक्तिगत तस्वीरों का जोखिम स्क्रैप किया जा रहा है और डीपफेक में बदल गया है, और सोशल मीडिया और मैसेजिंग प्लेटफार्मों पर हेरफेर की गई सामग्री द्वारा लक्षित होने का मनोवैज्ञानिक टोल।

श्रीनिवास ने कहा, “पीड़ितों को अक्सर एहसास नहीं होता है कि उन्हें नुकसान होने तक लक्षित किया गया है।” “हम गैर-सहमति सामग्री और एआई-संचालित धोखाधड़ी में वृद्धि देख रहे हैं, दोनों तेजी से बढ़ रहे हैं।”

एआई-जनित इमेजरी द्वारा ईंधन किए गए पांच प्रमुख अपराध

श्रीनिवास ने पांच वास्तविक दुनिया के परिदृश्यों को सूचीबद्ध किया, जो एआई-जनित दृश्यों द्वारा उत्पन्न खतरे का प्रदर्शन करते हैं:

1. दीपफेक बिजनेस ईमेल समझौता (BEC) – धोखेबाजों का उपयोग करें ऐ अवतार ईमेल या वीडियो कॉल में सीईओ या सीएफओ को लागू करने के लिए, कर्मचारियों को फंड ट्रांसफर करने या गोपनीय डेटा साझा करने में ट्रांस करते हैं।
2. सेक्स्टॉर्शन और छवि-आधारित दुरुपयोग – अपराधी पीड़ितों को ब्लैकमेल करने के लिए स्पष्ट छवियों में सेल्फी में हेरफेर करते हैं, विशेष रूप से महिलाओं और नाबालिगों को लक्षित करते हैं, अक्सर पीड़ित होने से पहले भी जागरूक होते हैं।
3. चुनाव के दौरान राजनीतिक डीपफेक – नकली रैलियों या हिंसा को दर्शाने वाली सिंथेटिक छवियों को मतदाताओं को गुमराह करने और अशांति को उकसाने के लिए परिचालित किया जाता है, विशेष रूप से कम मीडिया साक्षरता के साथ नाजुक लोकतंत्रों में।
4. बायोमेट्रिक सुरक्षा को दरकिनार करना – एआई-जनित चेहरे और irises अब चेहरे की पहचान प्रणालियों को बेवकूफ बनाने में सक्षम हैं, बैंकिंग, सीमा सुरक्षा और आईडी सत्यापन प्रक्रियाओं को धमकी दे रहे हैं।
5. बाज़ार और पहचान धोखाधड़ी -एआई-जनित हेडशॉट का उपयोग करके नकली प्रोफाइल का उपयोग एयरबीएनबी, फिवर, और डेटिंग ऐप्स जैसे प्लेटफार्मों पर स्कैम उपयोगकर्ताओं के लिए किया जाता है, धोखाधड़ी और लॉन्ड्रिंग संचालन को ईंधन दिया जाता है।

बायोमेट्रिक सुरक्षा और निगरानी के लिए एक झटका

चेहरे और आइरिस बायोमेट्रिक्स की नकल करने के लिए जनरेटिव एआई की क्षमता भी फिनटेक और निगरानी जैसे क्षेत्रों में गहरी चिंता पैदा कर रही है। वित्तीय सेवाओं में, सिंथेटिक पहचान का उपयोग बायपास करने के लिए किया जा सकता है अपने ग्राहक को जानें (KYC) प्रोटोकॉल, जबकि सार्वजनिक निगरानी में, नकली चेहरे का पता लगाने या धोखाधड़ी से बचने के लिए आसान हो जाता है।

“जब एक नकली चेहरा वास्तविक रूप में गुजर सकता है, तो बायोमेट्रिक्स की अखंडता खतरे में आ जाती है,” श्रीनिवास ने चेतावनी दी।

दक्षिण एशिया में दीपफेक और विघटन

यह खतरा विशेष रूप से दक्षिण एशिया में उच्चारण किया जाता है, जहां राजनीतिक तनाव, तेजी से जानकारी व्हाट्सएप और टेलीग्राम के माध्यम से फैलती है, और भावनात्मक ध्रुवीकरण एआई-जनित छवियों को विघटन के लिए एक आदर्श वेक्टर बनाते हैं।

श्रीनिवास ने कहा, “एक गढ़े हुए विरोध में एक राजनेता की एक नकली छवि या एक हिंसक घटना मिनटों में वायरल हो सकती है,” श्रीनिवास ने कहा। “ये दृश्य सार्वजनिक राय को प्रभावित करते हैं, जो तथ्यों की तुलना में बहुत तेजी से पकड़ सकते हैं, जिससे उन्हें हेरफेर के शक्तिशाली उपकरण मिल सकते हैं।”

उन्होंने पत्रकारों, कार्यकर्ताओं और महिलाओं को लक्षित करने वाले साइबर एक्सटॉर्शन योजनाओं में डीपफेक के हथियार पर प्रकाश डाला – एक प्रवृत्ति का तेजी से विदेशी अभिनेताओं द्वारा डिस्कोर्ड और अविश्वास को बोने के लिए शोषण किया जा रहा है।

क्या प्लेटफ़ॉर्म पर्याप्त कर रहे हैं?

जबकि प्लेटफ़ॉर्म जैसे ओपनई और ज़ाई सामग्री फ़िल्टर और सीमित वॉटरमार्किंग जैसे बुनियादी सुरक्षा उपायों को पेश किया है, श्रीनिवास का मानना ​​है कि ये प्रयास अभी तक पर्याप्त नहीं हैं।

उन्होंने कहा, “प्रौद्योगिकी सुरक्षा तंत्र से बहुत आगे है। कोई भी कम से कम प्रयास के साथ नकली आईडी या मानव चेहरे को आश्वस्त कर सकता है,” उन्होंने कहा।

उन्होंने जोखिमों को कम करने के लिए एक बहु-आयामी रणनीति का प्रस्ताव रखा:

• हर एआई-जनित छवि के लिए अनिवार्य वॉटरमार्किंग और मेटाडेटा टैगिंग।
• उच्च-संवेदनशीलता संकेतों पर जोखिम-आधारित पहुंच प्रतिबंध।
• वास्तविक समय के सत्यापन के लिए सार्वजनिक-सामना करना पड़ता है।
• पारदर्शी रिपोर्टिंग और दुरुपयोग प्रतिक्रिया प्रणाली।
• पता लगाने और जवाबदेही के लिए साझा मानक बनाने के लिए कानून प्रवर्तन और नियामकों के साथ क्रॉस-इंडस्ट्री सहयोग।

यहाँ आपको क्या करना चाहिए

श्रीनिवास ने कानून प्रवर्तन, पत्रकारों और शिक्षकों की आवश्यकता पर जोर दिया।

कानून प्रवर्तनएजेंसियों को अपनी साइबर फोरेंसिक क्षमताओं को मजबूत करना चाहिए, सिंथेटिक सामग्री अपराधों को संभालने के लिए कानूनी ढांचे को अपडेट करना चाहिए, और सीमा पार अभियानों को ट्रैक करने के लिए अंतरराष्ट्रीय स्तर पर सहयोग करना चाहिए।

पत्रकारों उन उपकरणों को एकीकृत करना चाहिए जो विजुअल और मेटाडेटा को रोजमर्रा की रिपोर्टिंग में सत्यापित करते हैं। “आज के मीडिया पारिस्थितिकी तंत्र में, देखना अब विश्वास नहीं कर रहा है,” श्रीनिवास ने कहा। “न्यूज़ रूम को दृश्य सत्यापन को गंभीरता से तथ्य-जाँच के रूप में गंभीरता से व्यवहार करना चाहिए।”

शिक्षकोंउन्होंने जोर देकर कहा, अगली पीढ़ी की नकली को अलग करने के लिए अगली पीढ़ी की क्षमता को आकार देने में एक महत्वपूर्ण भूमिका है। “ऐ साक्षरता और दृश्य महत्वपूर्ण सोचना स्कूल पाठ्यक्रम का हिस्सा होना चाहिए। छात्रों और शिक्षकों को समान रूप से यह समझने के लिए सुसज्जित किया जाना चाहिए कि ये उपकरण कैसे काम करते हैं – और उनका दुरुपयोग कैसे किया जा सकता है। “

निष्कर्ष

सिंथेटिक सामग्री के आकार की दुनिया में, श्रीनिवास का मानना ​​है कि सत्य ही खतरे में है – लेकिन रक्षा से परे नहीं।

उन्होंने कहा, “डिजिटल लचीलापन में दूरदर्शिता, सहयोग और निवेश के साथ, हम अपने समाजों को जनता को गलत सूचना से बचाने के लिए लैस कर सकते हैं और जो हम देखते हैं उसमें विश्वास को बहाल कर सकते हैं,” उन्होंने कहा।