आर्टिफिशियल इंटेलिजेंस (AI) से जनरेट किए गए डीपफेक वीडियो और कंटेंट पर रोक लगाने के लिए मोदी सरकार डिजिटल इंडिया बिल लाने वाली है। इंडिया टुडे की रिपोर्ट के मुताबिक, इस विधेयक में AI टेक्नोलॉजी के बेहतर उपयोग और तरीकों पर चर्चा होगी। सूत्रों के मुताबिक, सरकार इस बिल के लिए विपक्षी दलों के समर्थन की भी कोशिश करेगी।
26 जून से शुरू हो रहे 18वीं लोकसभा के पहले सत्र में सबसे पहले नए सांसदों का शपथ ग्रहण और राष्ट्रपति का अभिभाषण होगा। इसी सत्र में सरकार पूर्ण बजट भी पेश करेगी। सूत्रों के मुताबिक, बजट के अलावा सत्र में डिजिटल इंडिया बिल पर भी लंबी बहस हो सकती है। इस बिल में सोशल मीडिया पर जारी होने वाले वीडियो को रेगुलेट करने का भी प्रावधान हो सकता है।
पिछले साल तत्कालीन IT राज्य मंत्री राजीव चंद्रशेखर ने कहा था कि सरकार फेक वीडियो और सोशल मीडिया के वीडियो को रेगुलेट करने का बिल लाने की तैयारी में है। उन्होंने फाइनेंशियल एक्सप्रेस के डिजीफंड एंड सेफ्टी समिट में कहा था कि इस बिल पर लंबी चर्चा और बहस की जरूरत है, जिसमें समय लग सकता है। चुनाव से पहले इसे संसद की पटल पर लाना मुमकिन नहीं लगता।
डीपफेक रोकने के लिए सरकार ने जनवरी में तय किए थे नियम
डीपफेक रोकने के लिए केंद्रीय IT मंत्रालय ने नए नियम चुनाव से पहले जनवरी में ही तैयार कर लिए थे। इसके मुताबिक, जो सोशल मीडिया प्लेटफार्म नए नियमों का उल्लंघन करेगा, उसका भारत में कारोबार रोक दिया जाएगा।
IT मंत्रालय ने बताया था कि 17 जनवरी को सोशल मीडिया प्लेटफॉर्म्स और अन्य स्टेकहोल्डर्स के बीच हुई दो बार मीटिंग हुई। इसमें तय हुआ था कि सोशल मीडिया प्लेटफार्म डीपफेक कंटेंट को AI के जरिए फिल्टर करने का काम करेंगे। डीपफेक कंटेंट डालने वालों पर IPC की धाराओं और IT एक्ट के तहत केस दर्ज होंगे।
ऐसे होंगे नए नियम: फेक कंटेंट जहां अपलोड होगा, उस प्लेटफॉर्म को भी जिम्मेदार मानेंगे
- डीप फेक कंटेंट मिलते ही कोई भी FIR करा सकता है। विक्टिम और उसकी तरफ से नियुक्त व्यक्ति को भी केस दर्ज कराने के अधिकार होंगे।
- सोशल मीडिया प्लेटफॉर्म यूजर्स से यह शपथ लेगा कि वह डीपफेक कंटेंट नहीं डालेगा। प्लेटफॉर्म अपने यूजर्स को इस संबंध में अलर्ट मैसेज देंगे। सहमति के बाद ही यूजर अकाउंट एक्सेस कर सकेगा।
- डीप फेक कंटेंट को 24 घंटे में हटाना होगा। जिस यूजर ने कंटेंट अपलोड किया है, उसका अकाउंट बंद कर सूचना दूसरे प्लेटफार्म का देनी होगी, ताकि आरोपी वहां अकाउंट न बना सके।
27 अप्रैल को सोशल मीडिया पर अमित शाह का एक फेक वीडियो वायरल हुआ। इसे तेलंगाना कांग्रेस और CM रेवंत रेड्डी ने शेयर किया था। इसमें वे SC-ST और OBC के आरक्षण को खत्म करने की बात करते दिख रहे हैं। PTI की फैक्ट चैक यूनिट ने कहा कि मूल वीडियो में अमित शाह ने तेलंगाना में मुसलमानों के लिए असंवैधानिक आरक्षण हटाने की बात कही थी।
पूर्व क्रिकेटर सचिन तेंदुलकर का डीपफेक वीडियो जनवरी में वायरल हुआ था। इसमें वे ‘स्काईवर्ड एविएटर क्वेस्ट’ गेमिंग ऐप को प्रमोट करते नजर आ रहे थे। खुद सचिन ने सोशल मीडिया पर इस वीडियो को पोस्ट करके लिखा कि ये वीडियो नकली है और आपको धोखा देने के लिए बनाया गया है। टेक्नोलॉजी का इस प्रकार का दुरुपयोग बिल्कुल गलत है।
आलिया भट्ट का डीपफेक 15 जून को वायरल हुआ। ये दूसरी बार है जब आलिया का डीपफेक वीडियो सामने आया है। समीक्षा अवतार नाम की एक यूजर ने इंस्टाग्राम पर वीडियो अपलोड किया। इस वीडियो को अब तक 17 मिलियन से ज्यादा बार देखा जा चुका है। वीडियो में आलिया भट्ट को ब्लैक कुर्ता पहने मेकअप करते दिखाया गया है।
पिछले साल नवंबर में एक्ट्रेस रश्मिका मंदाना का डीपफेक वीडियो सोशल मीडिया पर वायरल हआ था, जिसमें AI टेक्नोलॉजी से एक इन्फ्लूएंसर के चेहरे पर रश्मिका का चेहरा मोर्फ किया गया था। सोशल मीडिया पर हजारों लोगों ने रश्मिका के इस फेक वीडियो को असली समझ लिया क्योंकि उसमें चेहरे के एक्सप्रेशन बिल्कुल रियल लग रहे थे।
डीपफेक होता क्या है और कैसे बनाया जाता है?
डीपफेक शब्द पहली बार 2017 में यूज किया गया था। तब अमेरिका के सोशल न्यूज एग्रीगेटर Reddit पर डीपफेक आईडी से कई सेलिब्रिटीज के वीडियो पोस्ट किए गए थे। इसमें एक्ट्रेस एमा वॉटसन, गैल गैडोट, स्कारलेट जोहानसन के कई पोर्न वीडियो थे।
किसी रियल वीडियो, फोटो या ऑडियो में दूसरे के चेहरे, आवाज और एक्सप्रेशन को फिट कर देने को डीपफेक नाम दिया गया है। ये इतनी सफाई से होता है कि कोई भी यकीन कर ले। इसमें फेक भी असली जैसा लगता है। इसमें मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस का सहारा लिया जाता है। इसमें वीडियो और ऑडियो को टेक्नोलॉजी और सॉफ्टवेयर की मदद से बनाया जाता है।
AI और साइबर एक्सपर्ट पुनीत पांडे बताते हैं कि अब रेडी टु यूज टेक्नोलॉजी और पैकेज उपलब्ध है। अब इसे कोई भी उपयोग कर सकता है। वर्तमान टेक्नोलॉजी में अब आवाज भी इम्प्रूव हो गई है। इसमें वॉयस क्लोनिंग बेहद खतरनाक हो गई है।
मोदी बोले- डीपफेक डिजिटल युग के लिए खतरनाक:एक वीडियो में मुझे गरबा गीत गाते दिखाया गया, ऐसे कई वीडियो मिल जाएंगे
प्रधानमंत्री नरेंद्र मोदी ने डीपफेक टेक्नोलॉजी को खतरनाक बताया। उन्होंने 17 नवंबर को कहा कि एक वीडियो में मुझे गरबा गीत गाते दिखाया गया है, ऐसे कई वीडियो ऑनलाइन पड़े हुए हैं। मोदी ने यह भी कहा कि डीपफेक डिजिटल युग के लिए एक खतरा है।
