सरकार का सोशल मीडिया प्लेटफॉर्म एक्स को नोटिस, ग्रोक एआई से अश्लील सामग्री हटाने के निर्देश

केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) को नोटिस जारी करते हुए उसके एआई टूल ग्रोक एआई से अश्लील और आपत्तिजनक सामग्री हटाने के निर्देश दिए हैं। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने ग्रोक एआई के दुरुपयोग को लेकर गंभीर चिंता व्यक्त की है। मंत्रालय का कहना है कि इस एआई सेवा के माध्यम से अश्लील सामग्री का निर्माण और प्रसार किया जा रहा है, जो कानूनन अपराध की श्रेणी में आता है।

सूत्रों के अनुसार, मंत्रालय ने एक्स के इंडिया ऑपरेशन के मुख्य अनुपालन अधिकारी को भेजे पत्र में कहा है कि कुछ उपयोगकर्ता ग्रोक एआई का गलत इस्तेमाल कर फर्जी अकाउंट बना रहे हैं और महिलाओं की अश्लील तस्वीरें या वीडियो अपमानजनक और भद्दे तरीके से होस्ट, जेनरेट, प्रकाशित और साझा कर रहे हैं। इस तरह की गतिविधियां डिजिटल प्लेटफॉर्म की जिम्मेदारियों पर गंभीर सवाल खड़े करती हैं।

मंत्रालय ने स्पष्ट किया है कि एक्स प्लेटफॉर्म सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के अंतर्गत निर्धारित नियामक प्रावधानों का पालन करने में विफल रहा है। नोटिस में कहा गया है कि इन कानूनों का अनुपालन सभी सोशल मीडिया और एआई-आधारित सेवाओं के लिए अनिवार्य है, विशेषकर जब मामला महिलाओं की गरिमा और सामाजिक नैतिकता से जुड़ा हो।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एक्स से तत्काल अनुपालन कार्रवाई रिपोर्ट मांगी है, जिसमें यह स्पष्ट किया जाए कि एआई-आधारित सेवाओं के दुरुपयोग को रोकने और अश्लील, नग्न, अभद्र एवं आपत्तिजनक सामग्री को हटाने के लिए क्या कदम उठाए गए हैं। मंत्रालय ने चेतावनी दी है कि नियमों का पालन न करने की स्थिति में प्लेटफॉर्म के खिलाफ सख्त कानूनी कार्रवाई की जाएगी।