X ने अश्लील AI कंटेंट पर सरकार को जवाब सौंपा:आईटी मंत्रालय जांच कर रहा, महिलाओं की आपत्तिजनक तस्वीरें क्रिएट कर शेयर करने का आरोप

दुनिया के सबसे अमीर कारोबारी इलॉन मस्क के AI चैटबॉट ग्रोक (Grok) के जरिए महिलाओं और बच्चों की अश्लील तस्वीरें बनाने के मामले में भारत सरकार को अपना जवाब सौंप दिया है। आईटी मंत्रालय ने 2 दिसंबर को मस्क की कंपनी को बुधवार शाम 5 बजे तक का समय दिया था। न्यूज एजेंसी के मुताबिक, कंपनी ने एक्शन टेकन रिपोर्ट दाखिल कर दी है, जिसकी मंत्रालय जांच कर रहा है। सरकार ने चेतावनी दी थी कि अगर AI टूल्स के गलत इस्तेमाल पर कड़े कदम नहीं उठाए गए, तो X को भारतीय कानूनों के तहत मिल रही कानूनी सुरक्षा खत्म कर दी जाएगी। दरअसल, शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने शुक्रवार को AI चैटबोट Grok के गलत इस्तेमाल पर चिंता जताई थी। उन्होंने आईटी मिनिस्टर को लेटर लिखा था। इसमें कहा था कि कुछ लोग AI की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं, जो बेहद गंभीर मामला है। पहले इस पूरे मामले को समझिए कुछ यूजर सोशल मीडिया प्लेटफॉर्म X पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद Grok AI को प्रॉम्प्ट दिया जाता है कि महिलाओं की फोटो को गलत और आपत्तिजनक रूप में दिखाया जाए। AI से कपड़े बदलने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसी प्रॉम्प्ट दिए जाते हैं। इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती। कई बार वे महिलाएं खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा इस्तेमाल हो रहा है। आरोप है कि Grok इस तरह की गलत मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है। सरकार ने आदेश में क्या कहा मंत्रालय का कहना है कि X ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम 2021 के तहत तय कानूनी जिम्मेदारियों का पालन नहीं किया। अगर नियमों का पालन नहीं हुआ, तो X, उसके जिम्मेदार अधिकारियों और ऐसे कंटेंट फैलाने वाले यूजर्स के खिलाफ आईटी एक्ट, आईटी रूल्स और अन्य लागू कानूनों के तहत सख्त कार्रवाई की जा सकती है। प्रियंका चतुर्वेदी ने लेटर में लिखा- आदेश न मानने पर कानूनी सुरक्षा खत्म होने का खतरा आईटी एक्ट के अनुसार, अगर X पर कोई अश्लील, आपत्तिजनक, महिला विरोधी या गैरकानूनी कंटेंट डाला जाता है, तो प्लेटफॉर्म को इसकी जानकारी मिलते ही उसे तुरंत हटाना होता है। अगर केंद्र सरकार या कोर्ट X को कोई कंटेंट हटाने या अकाउंट ब्लॉक करने को कहती है, तो उसे मानना कानूनी रूप से जरूरी है। अगर X आदेश नहीं मानता तो X को जो कानूनी सुरक्षा मिलती है, वह छीन ली जा सकती है। इसके बाद X यूजर्स को ही गैरकानूनी कंटेंट के लिए जिम्मेदार माना जाएगा। वहीं कंपनी पर क्रिमिनल केस, जुर्माना, जिम्मेदार अधिकारियों पर FIR जांच एजेंसियों द्वारा पूछताछ हो सकती है। सरकार IT Act की धारा 69A के तहत X के किसी खास अकाउंट किसी कंटेंट या पूरे प्लेटफॉर्म के कुछ फीचर्स भारत में ब्लॉक कर सकती है। -------------------------------------- ये खबर भी पढ़ें... सोशल मीडिया पर अश्लील कंटेंट को लेकर केंद्र की चेतावनी, कहा- कंपनियां ऐसे कंटेंट पर रोक लगाएं, नहीं तो केस होगा केंद्र सरकार ने 30 दिसंबर को सभी सोशल मीडिया प्लेटफॉर्म्स को अश्लील कंटेंट को लेकर चेतावनी जारी की थी। इसमें कहा गया है कि कंपनियां अश्लील, भद्दे, पोर्नोग्राफिक, बच्चों से जुड़े यौन शोषण वाले और गैर-कानूनी कंटेंट पर तुरंत रोक लगाएं। यदि कंपनियां ऐक्शन नहीं लेंगी तो उन पर केस चलेगा। पूरी खबर पढ़ें...

from टेक - ऑटो | दैनिक भास्कर https://ift.tt/MbxHA85