ग्रोक द्वारा अश्लील एआई सामग्री पर कार्रवाई: एक्स ने जवाब दाखिल किया, सूचना प्रौद्योगिकी मंत्रालय इसकी जांच कर रहा है, सूत्रों का कहना है।

नई दिल्ली, 7 जनवरी: सूत्रों के अनुसार, सूचना प्रौद्योगिकी मंत्रालय सरकार के उस निर्देश के बाद X द्वारा दिए गए जवाब और प्रस्तुतियाँ की जाँच कर रहा है, जिसमें कृत्रिम बुद्धिमत्ता चैटबॉट ग्रोक का दुरुपयोग करके महिलाओं और नाबालिगों की यौन उत्तेजक और अश्लील तस्वीरें बनाने के मामलों पर रोक लगाने को कहा गया है।
एलोन मस्क के नेतृत्व वाले सोशल मीडिया प्लेटफॉर्म X को ‘ग्रोक’ और अन्य उपकरणों जैसी AI-आधारित सेवाओं के दुरुपयोग से अश्लील और यौन रूप से स्पष्ट सामग्री तैयार किए जाने के संबंध में कड़ी चेतावनी जारी किए जाने के बाद, मंत्रालय को विस्तृत कार्रवाई रिपोर्ट प्रस्तुत करने के लिए बुधवार शाम 5 बजे तक का अतिरिक्त समय दिया गया था।
सूत्रों ने बताया कि X ने अपना जवाब प्रस्तुत कर दिया है और इसकी जाँच की जा रही है।
हालांकि, X द्वारा प्रस्तुत जानकारी का विवरण तुरंत उपलब्ध नहीं कराया गया है।
रविवार को, X के ‘सुरक्षा’ हैंडल ने कहा कि वह अपने प्लेटफॉर्म पर अवैध सामग्री, जिसमें बाल यौन शोषण सामग्री (CSAM) भी ​​शामिल है, के खिलाफ कार्रवाई करता है, जिसमें इसे हटाना, खातों को स्थायी रूप से निलंबित करना और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन एजेंसियों के साथ सहयोग करना शामिल है।
“ग्रोक का इस्तेमाल करके या उसे अवैध सामग्री बनाने के लिए उकसाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो अवैध सामग्री अपलोड करने पर भुगतने पड़ते हैं,” एक्स ने अवैध सामग्री पर मस्क के रुख को दोहराते हुए कहा था।
2 जनवरी को, सूचना प्रौद्योगिकी मंत्रालय ने एक्स को फटकार लगाई और उसे निर्देश दिया कि वह सभी अश्लील, आपत्तिजनक और गैरकानूनी सामग्री, विशेष रूप से ग्रोक (एक्स का अंतर्निहित कृत्रिम बुद्धिमत्ता इंटरफ़ेस) द्वारा उत्पन्न सामग्री को तुरंत हटा दे, अन्यथा कानून के तहत कार्रवाई का सामना करना पड़ेगा।
शुक्रवार को जारी निर्देश में, मंत्रालय ने अमेरिका स्थित सोशल मीडिया फर्म को 72 घंटों के भीतर एक विस्तृत कार्रवाई रिपोर्ट (एटीआर) प्रस्तुत करने को कहा, जिसमें ग्रोक एप्लिकेशन के संबंध में अपनाए गए या प्रस्तावित विशिष्ट तकनीकी और संगठनात्मक उपायों; मुख्य अनुपालन अधिकारी की भूमिका और निगरानी; आपत्तिजनक सामग्री, उपयोगकर्ताओं और खातों के खिलाफ की गई कार्रवाई; साथ ही भारतीय कानूनों के तहत अनिवार्य रिपोर्टिंग आवश्यकता के अनुपालन को सुनिश्चित करने के तंत्र का उल्लेख हो।
सूचना प्रौद्योगिकी मंत्रालय ने जारी अल्टीमेटम में कहा कि X द्वारा विकसित और प्लेटफॉर्म पर एकीकृत ग्रोक एआई का दुरुपयोग उपयोगकर्ताओं द्वारा फर्जी खाते बनाकर महिलाओं की अश्लील तस्वीरें या वीडियो को अपमानजनक या भद्दे तरीके से होस्ट करने, उत्पन्न करने, प्रकाशित करने या साझा करने के लिए किया जा रहा है। मंत्रालय ने कहा,
“महत्वपूर्ण बात यह है कि यह केवल फर्जी खाते बनाने तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो अपनी तस्वीरें या वीडियो होस्ट या प्रकाशित करती हैं, इसके लिए प्रॉम्प्ट, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट का इस्तेमाल किया जा रहा है।” मंत्रालय ने जोर देकर कहा कि ऐसा आचरण प्लेटफॉर्म स्तर पर सुरक्षा उपायों और प्रवर्तन तंत्रों की गंभीर विफलता को दर्शाता है और निर्धारित कानूनों का उल्लंघन करते हुए कृत्रिम बुद्धिमत्ता (एआई) प्रौद्योगिकियों का घोर दुरुपयोग है।
सरकार ने X को स्पष्ट कर दिया है कि सूचना प्रौद्योगिकी अधिनियम और नियमों का अनुपालन अनिवार्य है, और सूचना प्रौद्योगिकी अधिनियम की धारा 79 (जो ऑनलाइन मध्यस्थों के लिए सुरक्षित आश्रय और दायित्व से मुक्ति से संबंधित है) के तहत वैधानिक छूटें उचित सावधानी बरतने के दायित्वों के कड़ाई से पालन पर निर्भर हैं। मंत्रालय ने कहा,
“तदनुसार, आपको सलाह दी जाती है कि आप अपने प्लेटफॉर्म पर किसी भी ऐसी सामग्री को होस्ट करने, प्रदर्शित करने, अपलोड करने, प्रकाशित करने, प्रसारित करने, संग्रहीत करने या साझा करने से सख्ती से बचें जो अश्लील, पोर्नोग्राफिक, अभद्र, अशोभनीय, यौन रूप से स्पष्ट, बाल यौन शोषण से संबंधित या किसी अन्य कानून के तहत निषिद्ध हो…”।
सरकार ने X को स्पष्ट शब्दों में चेतावनी दी कि उचित सावधानी बरतने के दायित्वों का पालन न करने पर सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत दायित्व से छूट समाप्त हो जाएगी, और प्लेटफॉर्म अन्य कानूनों, जिनमें सूचना प्रौद्योगिकी अधिनियम और भारतीय न्याय संहिता शामिल हैं, के तहत परिणामी कार्रवाई के लिए भी उत्तरदायी होगा।
इसमें X को उपयोगकर्ता सेवा शर्तों और AI उपयोग प्रतिबंधों को लागू करने के लिए कहा गया है, जिसमें उल्लंघन करने वाले उपयोगकर्ताओं और खातों के खिलाफ निलंबन, समाप्ति और अन्य प्रवर्तन कार्रवाइयों जैसे कड़े निवारक उपायों को सुनिश्चित करना शामिल है।
X को लागू कानूनों के उल्लंघन में पहले से उत्पन्न या प्रसारित सभी सामग्री को “बिना देरी किए” हटाने या उस तक पहुंच को अक्षम करने के लिए भी कहा गया है, जो कि IT नियम, 2021 के तहत निर्धारित समय-सीमा का सख्ती से पालन करते हुए किया जाना चाहिए, जिससे साक्ष्य अमान्य न हों।
भारत के अलावा, इस प्लेटफॉर्म की ब्रिटेन और मलेशिया में भी आलोचना हुई है। ब्रिटेन के स्वतंत्र संचार नियामक, Ofcom ने हाल ही में एक सोशल मीडिया पोस्ट में कहा: “हम X पर Grok नामक एक फीचर के बारे में उठाई गई गंभीर चिंताओं से अवगत हैं जो लोगों की नग्न तस्वीरें और बच्चों की यौन उत्तेजक तस्वीरें दिखाता है।”
“हमने X और xAI से तत्काल संपर्क किया है ताकि यह समझा जा सके कि उन्होंने ब्रिटेन में उपयोगकर्ताओं की सुरक्षा के लिए अपने कानूनी कर्तव्यों का पालन करने के लिए क्या कदम उठाए हैं। उनके जवाब के आधार पर, हम यह निर्धारित करने के लिए एक त्वरित मूल्यांकन करेंगे कि क्या संभावित अनुपालन मुद्दे हैं जिनकी जांच की आवश्यकता है,” Ofcom ने कहा। (एजेंसी)