प्रधानमंत्री नरेंद्र मोदी ने शुक्रवार को डीपफेक बनाने के लिए प्रौद्योगिकी और कृत्रिम बुद्धिमत्ता (एआई) के दुरुपयोग पर चिंता व्यक्त की और कहा कि मीडिया जागरूकता बढ़ाने में भूमिका निभा सकता है क्योंकि समाज के एक बड़े वर्ग के पास सामग्री की सत्यता का पता लगाने का साधन नहीं है। मोदी ने अल और डीपफेक के नुकसान और खतरों के बारे में कुछ एहतियाती नोट्स ले जाने की आवश्यकता पर भी जोर दिया।
डीपफेक वीडियो अल का उपयोग करके बनाए गए सिंथेटिक मीडिया हैं, जो विश्वसनीय दिखने वाली नकली छवियां, वीडियो या ऑडियो उत्पन्न करते हैं जो आमतौर पर किसी ऐसे व्यक्ति को समझ में नहीं आते हैं जो उन्हें पहचानने में प्रशिक्षित नहीं है। प्रधान मंत्री की टिप्पणी तेलुगु अभिनेता रश्मिका मंदाना सहित कई मशहूर हस्तियों के डीपफेक वीडियो की एक श्रृंखला पर प्रमुख चिंताओं और आक्रोश के बीच आई है, जो हाल ही में सोशल मीडिया पर सामने आई है।
दिल्ली में भारतीय जनता पार्टी कार्यालय में ‘दिवाली मिलन’ कार्यक्रम के दौरान मीडियाकर्मियों की एक सभा को संबोधित करते हुए, मोदी ने कहा: “कृत्रिम बुद्धिमत्ता के माध्यम से उत्पादित डीपफेक के कारण एक नया संकट उभर रहा है। समाज का एक बहुत बड़ा वर्ग है जो ऐसा नहीं करता है एक समानांतर सत्यापन प्रणाली है… यह (डीपफेक) हमें गंभीर खतरे में ले जाएगा और इसमें असंतोष की आग फैलने की क्षमता है।” मोदी ने कहा कि उन्होंने हाल ही में गरबा करते हुए उनका एक वीडियो देखा, हालांकि उन्होंने स्कूली दिनों से ऐसा नहीं किया है। उन्होंने कहा, “मैंने हाल ही में एक वीडियो देखा जिसमें मैं गरबा खेल रहा था… यह बहुत अच्छा बनाया गया था, लेकिन मैंने स्कूल के बाद से कभी गरबा नहीं किया।”
मंदाना के एक वायरल डीपफेक वीडियो ने अल के दुरुपयोग और ऑनलाइन लैंगिक हिंसा को आगे बढ़ाने की इसकी क्षमता के बारे में चिंताएं पैदा कर दीं, जिससे सरकार को नकली सामग्री को प्रतिबंधित करने के लिए कानून के तहत दायित्वों के सोशल मीडिया प्लेटफार्मों को याद दिलाने के लिए प्रेरित किया गया। डीपफेक को लेकर चिंताएं चुनावों और उद्देश्यों के दौरान उनके उपयोग तक भी फैली हुई हैं जो कानून और व्यवस्था को प्रभावित कर सकते हैं।
प्रधान मंत्री ने मीडिया से आग्रह किया कि वे लोगों को अल के उपयोग और दुरुपयोग के बारे में शिक्षित करें, और डीपफेक क्या कर सकते हैं और इससे क्या समस्याएं हो सकती हैं। उन्होंने कहा कि मीडिया को गंभीरता से लेने की विरासत है और उन्हें जागरूकता पैदा करने की जिम्मेदारी लेनी चाहिए। उन्होंने कहा, “हमें अपने कार्यक्रमों के माध्यम से लोगों को शिक्षित करना चाहिए कि डीपफेक क्या है, यह कितना बड़ा संकट पैदा कर सकता है और इसका प्रभाव क्या हो सकता है।”
उन्होंने कहा कि प्रौद्योगिकी को सामाजिक व्यवस्था को बाधित करने से रोकने की आवश्यकता भारत जैसे विविध विविधता वाले देश में और भी अधिक आवश्यक है, उन्होंने कहा, “एक फिल्म तब भी नहीं चल सकती, जब एक वाक्य भी ऐसा हो जिससे किसी को ठेस पहुंचे।”
प्रौद्योगिकी के दुरुपयोग के खिलाफ सावधानी बरतने की जरूरत पर जोर देते हुए, मोदी ने कहा कि इस साल जून में ओपनएएल (चैटबॉट चैटजीपीटी के पीछे की कंपनी) के प्रतिनिधियों के साथ एक बैठक के दौरान उन्होंने बताया कि जिस तरह सिगरेट कैंसर होने की चेतावनी के साथ आती है। स्वास्थ्य के लिए खतरा, डीपफेक में भी खुलासे होने चाहिए। 7 नवंबर को, केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने सोशल मीडिया प्लेटफार्मों के लिए एक सलाह जारी की, जिसमें डीपफेक के निर्माण और प्रसार को कवर करने वाले कानूनी प्रावधानों को रेखांकित किया गया।
“सूचना प्रौद्योगिकी (आईटी) नियम, 2021 के तहत किसी भी उपयोगकर्ता द्वारा गलत सूचना के प्रसार को रोकना ऑनलाइन प्लेटफ़ॉर्म के लिए एक कानूनी दायित्व है। उपयोगकर्ता या सरकार से रिपोर्ट प्राप्त होने पर 36 घंटे के भीतर ऐसी सामग्री को हटाना अनिवार्य है। प्राधिकरण। इस आवश्यकता का पालन करने में विफलता नियम 7 को लागू करती है, जो पीड़ित व्यक्तियों को भारतीय दंड संहिता (आईपीसी) के प्रावधानों के तहत प्लेटफार्मों को अदालत में ले जाने का अधिकार देती है। यह जरूरी है कि प्लेटफार्म इस खतरे से निपटने के लिए सक्रिय उपाय करें, “सलाहकार में कहा गया है .
सरकार ने डीपफेक के निर्माण और प्रसार के लिए ₹1 लाख का जुर्माना और तीन साल की जेल की सजा लगाई है।