डिजिटल दुनिया की 'सर्जिकल स्ट्राइक': एलन मस्क के Grok AI पर अश्लीलता का 'शटर डाउन'; असली लोगों की न्यूड इमेज बनाने पर लगा वर्ल्डवाइड बैन

Elon Musk X Bans Grok AI from Generating Explicit Images of Real People After Backlash

टेक्नोलॉजी की दुनिया में जब 'आर्टिफिशियल इंटेलिजेंस' (AI) का आगमन हुआ, तो इसे मानव इतिहास की सबसे बड़ी क्रांति माना गया। लेकिन, हर सिक्के का दूसरा पहलू होता है। पिछले कुछ महीनों में AI का जितना इस्तेमाल प्रोडक्टिविटी बढ़ाने के लिए हुआ, उससे कहीं ज्यादा इसका दुरुपयोग 'डीपफेक' (Deepfake) और अश्लील सामग्री (NCII - Non-Consensual Intimate Imagery) बनाने में किया गया।READ ALSO:-भारत की सड़कों पर आने वाला है सबसे बड़ा 'टेक्नोलॉजी बूम': अब इंसानों की तरह आपस में 'बात' करेंगी गाड़ियां; 2026 से हर वाहन में अनिवार्य होगा V2V सिस्टम, कोहरे और अंधे मोड़ों का 'काल' बनेगी ये तकनीक

\r\n\r\n

इस दुरुपयोग के केंद्र में रहा एलन मस्क का सोशल मीडिया प्लेटफॉर्म 'X' (पूर्व में ट्विटर) और उनका AI चैटबॉट 'Grok'। 'फ्री स्पीच' के सबसे बड़े पैरोकार माने जाने वाले मस्क को आखिरकार झुकना पड़ा है। एक बड़े फैसले में, X ने Grok AI द्वारा असली लोगों की अश्लील (Explicit) तस्वीरें बनाने पर दुनिया भर में प्रतिबंध लगा दिया है। यह फैसला तब आया जब भारत समेत दुनिया भर की महिलाओं ने अपनी निजता के हनन और ऑनलाइन उत्पीड़न की शिकायतें दर्ज कराईं।

\r\n\r\n

क्या है नया प्रतिबंध? Grok पर लगा 'डिजिटल लॉक'

\r\n\r\n

X की सेफ्टी टीम ने आधिकारिक तौर पर पुष्टि की है कि Grok AI के एल्गोरिदम में तकनीकी बदलाव (Technical Guardrails) किए गए हैं।

\r\n\r\n

\r\n
नो न्यूडिटी पॉलिसी: अब अगर कोई यूजर Grok को किसी असली व्यक्ति (Real Person) की फोटो अपलोड करके उसे 'बिना कपड़ों के' (Undress) या 'बिकिनी में' दिखाने का प्रॉम्प्ट देगा, तो AI उसे रिजेक्ट कर देगा।
\r\n
\r\n
पेड और अनपेड दोनों पर लागू: यह नियम सिर्फ फ्री यूजर्स के लिए नहीं, बल्कि उन प्रीमियम यूजर्स के लिए भी है जो X का सब्सक्रिप्शन लेकर Grok का इस्तेमाल कर रहे थे।
\r\n
\r\n
कीवर्ड फिल्टरिंग: सिस्टम में ऐसे कीवर्ड्स को ब्लैकलिस्ट कर दिया गया है जो अश्लीलता या सेक्सुअल कंटेंट से जुड़े हैं।
\r\n

\r\n\r\n

कंपनी ने स्पष्ट किया है कि यह कदम इसलिए उठाया गया है ताकि "किसी की निजता का उल्लंघन न हो और प्लेटफॉर्म का इस्तेमाल किसी को परेशान करने (Harassment) के लिए न किया जा सके।" यह एक महत्वपूर्ण बदलाव है क्योंकि Grok को मस्क ने "बिना किसी फिल्टर वाला विद्रोही AI" (Rebellious AI) कहकर प्रमोट किया था।

\r\n\r\n

मामले की जड़: दिसंबर की वो शिकायतें और भारत का हस्तक्षेप

\r\n\r\n

इस बैन की पटकथा पिछले साल दिसंबर में ही लिखी जाने लगी थी। सोशल मीडिया पर एक भयानक ट्रेंड देखने को मिला, जिसने महिलाओं की सुरक्षा पर सवाल खड़े कर दिए।

\r\n\r\n

क्या हो रहा था? कुछ शरारती तत्व और अपराधी मानसिकता वाले लोग X पर फेक अकाउंट बना रहे थे। वे आम महिलाओं, कॉलेज स्टूडेंट्स, और यहां तक कि सेलिब्रिटीज की सामान्य तस्वीरें (Instagram या Facebook से उठाई हुई) पोस्ट करते थे। इसके बाद Grok AI को प्रॉम्प्ट दिया जाता था:

\r\n\r\n

\r\n
"Make this woman look hot" या "Remove the clothes from this image" या "Show her in sexual attire."
\r\n

\r\n\r\n

हैरानी की बात यह थी कि Grok, जो कि एक एडवांस AI है, इन अनैतिक मांगों को रोकने के बजाय उन्हें पूरा कर रहा था। मिनटों में किसी भी सम्मानित महिला की तस्वीर को अश्लील पोस्टर में बदल दिया जाता था।

\r\n\r\n

भारत सरकार की सख्ती: जब यह मामला तूल पकड़ने लगा, तो भारत के इलेक्ट्रॉनिक्स और आईटी मंत्रालय (MeitY) ने कड़ा रुख अपनाया। IT मंत्रालय की 'साइबर लॉ डिवीजन' ने X को स्पष्ट निर्देश दिया कि IT रूल्स 2021 का पालन करना अनिवार्य है। सरकार ने साफ कहा कि सोशल मीडिया प्लेटफॉर्म्स को ऐसी सामग्री को तुरंत हटाना होगा जो किसी की गरिमा को ठेस पहुंचाती है।

\r\n\r\n

भारत में बड़ी कार्रवाई: 3,500 फोटो डिलीट, 600 अकाउंट साफ

\r\n\r\n

X ने भारत सरकार को सौंपी अपनी 'एक्शन टेकन रिपोर्ट' (Action Taken Report) में चौंकाने वाले आंकड़े पेश किए हैं, जो बताते हैं कि समस्या कितनी गंभीर हो चुकी थी।

\r\n\r\n

\r\n
3,500 तस्वीरें हटाई गईं: कंपनी ने माना कि उसने Grok के जरिए बनाई गई लगभग 3,500 ऐसी तस्वीरें प्लेटफॉर्म से हटाई हैं जो आपत्तिजनक थीं और बिना सहमति के बनाई गई थीं।
\r\n
\r\n
600 यूजर्स पर परमानेंट बैन: सिर्फ फोटो हटाना काफी नहीं था। X ने उन 600 भारतीय यूजर्स की पहचान की जो बार-बार (Habitual Offenders) इस टूल का इस्तेमाल अश्लील सामग्री बनाने के लिए कर रहे थे। इन सभी के अकाउंट्स को सस्पेंड कर दिया गया है।
\r\n

\r\n\r\n

यह आंकड़ा सिर्फ भारत का है। अगर ग्लोबल स्तर पर देखा जाए, तो यह संख्या लाखों में हो सकती है। यह दर्शाता है कि कैसे एक शक्तिशाली तकनीक का इस्तेमाल समाज में गंदगी फैलाने के लिए किया जा रहा था।

\r\n\r\n

मस्क का 'पेन और पेपर' वाला तर्क क्यों हुआ फेल?

\r\n\r\n

एलन मस्क हमेशा से यह मानते रहे हैं कि तकनीक न्यूट्रल होती है। जब शुरू में Grok द्वारा अश्लील तस्वीरें बनाने की खबरें आईं, तो मस्क का रवैया रक्षात्मक था।

\r\n\r\n

मस्क का पुराना बयान:

\r\n\r\n

\r\n
"अगर कोई कलम (Pen) से कुछ बुरा लिखता है, तो आप कलम को दोषी नहीं ठहराते। कलम यह तय नहीं करती कि क्या लिखा जाएगा। यह जिम्मेदारी उसे पकड़ने वाले की है।"
\r\n

\r\n\r\n

मस्क का तर्क था कि Grok सिर्फ एक टूल है, और गलती यूजर की है जो उसे गलत इनपुट दे रहा है।

\r\n\r\n

क्यों फेल हुआ यह तर्क? विशेषज्ञों का मानना है कि 'जनरेटिव AI' की तुलना 'कलम' से नहीं की जा सकती।

\r\n\r\n

\r\n
कलम अपने आप कुछ नहीं जोड़ती: कलम वही लिखती है जो आप सोचते हैं। लेकिन AI आपके एक छोटे से प्रॉम्प्ट को अपनी तरफ से बहुत कुछ जोड़कर (Hallucinate करके) एक बेहद वास्तविक दिखने वाली छवि में बदल देता है।
\r\n
\r\n
स्केल और स्पीड: एक कलम से आप एक घंटे में एक चित्र बना सकते हैं। AI से एक सेकंड में हजारों अश्लील तस्वीरें बनाई जा सकती हैं और वायरल की जा सकती हैं।
\r\n
\r\n
सहमति का सवाल: जब AI किसी असली इंसान के चेहरे का उपयोग करता है, तो यह कॉपीराइट और 'राइट टू प्राइवेसी' का सीधा उल्लंघन है।
\r\n

\r\n\r\n

आखिरकार, बढ़ते दबाव और कानूनी पचड़ों से बचने के लिए मस्क को अपनी 'एब्सोल्यूट फ्री स्पीच' (Absolute Free Speech) की परिभाषा बदलनी पड़ी और Grok में फिल्टर लगाने पड़े।

\r\n\r\n

डीपफेक का खतरा: सिर्फ सेलिब्रिटी नहीं, आम लोग भी निशाने पर

\r\n\r\n

अक्सर जब हम डीपफेक की बात करते हैं, तो हमें लगता है कि यह सिर्फ रश्मिका मंदाना, कैटरीना कैफ या टेलर स्विफ्ट जैसी बड़ी हस्तियों की समस्या है। लेकिन Grok का मामला दिखाता है कि खतरा अब हमारे और आपके घरों तक पहुंच चुका है।

\r\n\r\n

मोडस ऑपरेंडी (अपराध का तरीका):

\r\n\r\n

\r\n
टारगेट चुनना: अपराधी किसी स्कूल/कॉलेज की लड़की या कामकाजी महिला की सोशल मीडिया प्रोफाइल पर जाते हैं।
\r\n
\r\n
फोटो चोरी: वहां से उनकी सामान्य प्रोफाइल फोटो डाउनलोड की जाती है।
\r\n
\r\n
AI मैनिपुलेशन: Grok या अन्य डीपफेक ऐप्स का इस्तेमाल करके उस फोटो से कपड़े हटा दिए जाते हैं या चेहरा किसी अश्लील वीडियो में लगा दिया जाता है।
\r\n
\r\n
ब्लैकमेलिंग: फिर पीड़ित को वह फोटो भेजकर ब्लैकमेल किया जाता है या बदला लेने के लिए फोटो वायरल कर दी जाती है।
\r\n

\r\n\r\n

Grok जैसे मेनस्ट्रीम टूल का इसमें शामिल होना सबसे ज्यादा खतरनाक था क्योंकि इसे एक्सेस करना बहुत आसान था। अब बैन लगने से इस आसान रास्ते पर रुकावट आएगी।

\r\n\r\n

कानूनी पहलू: भारत में क्या हैं सजा के प्रावधान?

\r\n\r\n

अगर आप भारत में रहते हैं, तो आपको पता होना चाहिए कि AI का इस्तेमाल करके अश्लील सामग्री बनाना एक गंभीर अपराध है।

\r\n\r\n

\r\n
IT एक्ट की धारा 66E: किसी की निजता का उल्लंघन करना या निजी अंगों की तस्वीरें लेना/प्रकाशित करना। इसमें 3 साल तक की जेल और 2 लाख रुपये तक का जुर्माना है।
\r\n
\r\n
IT एक्ट की धारा 67: इलेक्ट्रॉनिक रूप में अश्लील सामग्री प्रकाशित या प्रसारित करना। इसमें पहली बार गलती पर 3 साल और दूसरी बार में 5 साल तक की जेल हो सकती है।
\r\n
\r\n
IPC की धारा 509: किसी महिला की गरिमा का अपमान करना।
\r\n

\r\n\r\n

भारत सरकार अब 'डिजिटल इंडिया एक्ट' लाने की तैयारी कर रही है, जिसमें AI और डीपफेक के लिए और भी सख्त नियम होंगे। X द्वारा Grok पर लगाया गया यह बैन भी इसी सख्त कानून के डर का नतीजा माना जा रहा है।

\r\n\r\n

तकनीकी विश्लेषण: Grok कैसे रोकता है अश्लीलता?

\r\n\r\n

अब सवाल उठता है कि तकनीकी रूप से यह बैन कैसे लागू होता है? इसे 'Guardrails' (सुरक्षा घेरा) कहा जाता है।

\r\n\r\n

\r\n
Input Filtering (इनपुट फिल्टरिंग): जब यूजर प्रॉम्प्ट लिखता है "Nude" या "Bikini", तो AI उसे प्रोसेस करने से पहले ही ब्लॉक कर देता है।
\r\n
\r\n
Image Recognition (इमेज रिकग्निशन): अगर यूजर कोई फोटो अपलोड करता है, तो AI पहले स्कैन करता है कि यह किसी असली इंसान की फोटो है या नहीं। अगर यह रियल फोटो है, तो एडिटिंग के ऑप्शन्स सीमित हो जाते हैं।
\r\n
\r\n
Output Analysis (आउटपुट एनालिसिस): इमेज जनरेट होने के बाद, फाइनल आउटपुट को दिखाने से पहले एक और AI मॉडल उसे चेक करता है कि इसमें कहीं स्किन एक्सपोजर (Skin Exposure) तय सीमा से ज्यादा तो नहीं है।
\r\n

\r\n\r\n

हालांकि, हैकर्स और शरारती तत्व हमेशा इन फिल्टर्स को तोड़ने के तरीके (Jailbreak prompts) ढूंढते रहते हैं, इसलिए यह एक निरंतर चलने वाली 'चोर-पुलिस' की लड़ाई है।

\r\n\r\n

भविष्य की राह: क्या AI कभी पूरी तरह सुरक्षित होगा?

\r\n\r\n

X का यह कदम स्वागत योग्य है, लेकिन यह समस्या का पूर्ण समाधान नहीं है। इंटरनेट पर आज भी सैकड़ों ऐसी वेबसाइट्स और टेलीग्राम बॉट्स मौजूद हैं जो बिना किसी रोक-टोक के डीपफेक बना रहे हैं।

\r\n\r\n

विशेषज्ञों का कहना है कि:

\r\n\r\n

\r\n
वॉटरमार्किंग अनिवार्य हो: हर AI जनरेटेड इमेज पर एक अदृश्य 'वॉटरमार्क' होना चाहिए ताकि पता चल सके कि यह असली नहीं है।
\r\n
\r\n
एथिकल AI डेवलपमेंट: कंपनियों को AI बनाते समय ही सुरक्षा को प्राथमिकता देनी होगी, न कि बाद में दबाव पड़ने पर।
\r\n

\r\n\r\n

एलन मस्क का Grok पर बैन लगाना यह साबित करता है कि अनियंत्रित तकनीक समाज के लिए घातक हो सकती है। 'अभिव्यक्ति की आजादी' का मतलब किसी और की 'गरिमा का हनन' नहीं हो सकता। भारत सरकार की सख्ती और यूजर्स की जागरूकता ने एक टेक जाएंट को अपनी गलती सुधारने पर मजबूर किया है। यह जीत उन सभी महिलाओं की है जिन्होंने डरने के बजाय आवाज उठाई।

\r\n\r\n

सुरक्षा टिप्स (Safety Tips)

\r\n\r\n

\r\n
सोशल मीडिया लॉक: अपनी Facebook/Instagram प्रोफाइल को 'लॉक' रखें।
\r\n
\r\n
अनजान रिक्वेस्ट: अनजान लोगों की फ्रेंड रिक्वेस्ट स्वीकार न करें।
\r\n
\r\n
रिपोर्ट करें: अगर आपको अपनी या किसी और की अश्लील AI फोटो दिखे, तो तुरंत साइबर क्राइम पोर्टल (cybercrime.gov.in) और उस प्लेटफॉर्म पर रिपोर्ट करें।
\r\n