नई दिल्ली - डिजिटल प्लेटफॉर्म पर बढ़ते डीपफेक, फर्जी वीडियो और हानिकारक कंटेंट को लेकर केंद्र सरकार ने सोशल मीडिया कंपनी Meta के सामने सख्त रुख अपनाया है। सरकार ने स्पष्ट किया है कि भारत में संचालित होने वाले प्लेटफॉर्म की कंटेंट पॉलिसी और मॉडरेशन सिस्टम भारतीय कानूनों, संवैधानिक मूल्यों और सामाजिक परिस्थितियों के अनुरूप होना चाहिए। साथ ही सरकार ने यह भी साफ किया कि उसने Meta से उसके एल्गोरिदम में कोई व्यापक बदलाव करने की मांग नहीं की है, बल्कि नियमों के बेहतर पालन और पारदर्शिता पर जोर दिया है।
डीपफेक बना बड़ी चुनौती
आर्टिफिशियल इंटेलिजेंस की मदद से तैयार किए जा रहे डीपफेक वीडियो और तस्वीरें आज आम लोगों से लेकर सार्वजनिक हस्तियों तक की छवि को नुकसान पहुंचाने का बड़ा माध्यम बन रही हैं। सरकार का मानना है कि ऐसी सामग्री न केवल गलत सूचना फैलाती है, बल्कि सामाजिक तनाव और व्यक्तिगत प्रतिष्ठा पर भी गंभीर असर डाल सकती है। इसी वजह से Meta के साथ नुकसानदायक कंटेंट की रोकथाम को लेकर लगातार बातचीत जारी है।
कंटेंट मॉडरेशन में होगी मानवीय समीक्षा
सरकार ने Meta से आग्रह किया है कि संदिग्ध डीपफेक या संवेदनशील सामग्री की पहचान और कार्रवाई केवल मशीनों के भरोसे न छोड़ी जाए। इसके लिए “ह्यूमन-इन-द-लूप” यानी मानवीय हस्तक्षेप वाली समीक्षा प्रणाली को मजबूत करने पर जोर दिया गया है। अधिकारियों का मानना है कि कई बार स्वचालित एल्गोरिदम गलत निर्णय ले लेते हैं, जिससे निर्दोष लोगों की सामग्री भी प्रभावित हो सकती है।
सत्यापित खातों के लिए संवेदनशील प्रक्रिया
सरकार ने यह भी कहा है कि प्रतिष्ठित और सत्यापित (Verified) खातों की पोस्ट पर बिना उचित समीक्षा के स्वचालित कार्रवाई नहीं होनी चाहिए। किसी भी कंटेंट को हटाने या उसकी पहुंच सीमित करने से पहले जवाबदेही और पारदर्शिता के साथ मानवीय मूल्यांकन जरूरी होना चाहिए।
हटाया गया कंटेंट दोबारा न लौटे
सरकार ने Meta को तकनीकी स्तर पर ऐसे मजबूत इंतजाम करने के निर्देश दिए हैं, जिससे एक बार हटाई गई डीपफेक या हानिकारक सामग्री किसी भी रूप में दोबारा प्लेटफॉर्म पर अपलोड न हो सके। इसके लिए बेहतर पहचान तकनीक और रिपीट अपलोड रोकने वाली प्रणाली विकसित करने पर जोर दिया गया है।
बच्चों की सुरक्षा पर ‘जीरो टॉलरेंस’
बाल यौन शोषण से जुड़ी सामग्री को लेकर सरकार ने स्पष्ट संदेश दिया है कि ऐसे मामलों में किसी भी प्रकार की लापरवाही स्वीकार नहीं की जाएगी। Meta से अपेक्षा की गई है कि वह बच्चों की सुरक्षा से जुड़े मामलों में तुरंत कार्रवाई, प्रभावी निगरानी और सख्त रिपोर्टिंग व्यवस्था सुनिश्चित करे।
एल्गोरिदम में पारदर्शिता की मांग
सरकार ने Meta की अनुशंसा (Recommendation) प्रणाली पर भी अधिक पारदर्शिता की मांग की है। उद्देश्य यह जानना है कि कौन-सी सामग्री किस आधार पर उपयोगकर्ताओं तक पहुंचाई जाती है और कंटेंट की प्राथमिकता तय करने के पीछे क्या प्रक्रिया अपनाई जाती है। सरकार और Meta के बीच इस विषय पर आगे भी बातचीत जारी रहने की संभावना है। इस पहल का उद्देश्य डिजिटल अधिकारों की रक्षा, ऑनलाइन सुरक्षा को मजबूत करना और भारतीय उपयोगकर्ताओं के लिए अधिक जवाबदेह डिजिटल वातावरण तैयार करना है।
