AI : आज की डिजिटल दुनिया, जहां आर्टिफिशियल इंटेलिजेंस (Artificial Intelligence) ने हमारे जीवन को आसान बनाने के साथ-साथ कई खतरे भी पैदा कर दिए हैं। जो AI पहले सिर्फ सेल्फी एडिटिंग (selfie editing) या इंस्टाग्राम रील्स (Instagram reels) के लिए एक मजेदार टूल था, वो अब हर इंडस्ट्री में घुसपैठ कर चुका है, और कई बार अच्छे के लिए तो अक्सर बुरे के लिए। जो कभी एक नोवेलिटी (novelty) था, वह आज हकीकत बन गया है।
लेकिन हर कदम के साथ, सच्चाई और कृत्रिमता (artificiality) के बीच की रेखा धुंधली होती जा रही है। ऐसे ही हाल ही में सामने आया इंस्टाग्राम सेंसेशन ‘बेबी डॉल अर्ची’ (Babydoll Archi) का मामला, जिसके 1.4 मिलियन से ज्यादा फॉलोअर्स हैं। यह एक भयावह उदाहरण है कि कैसे इस शक्तिशाली तकनीक का दुरुपयोग सिर्फ एक और इंटरनेट ट्रेंड से कहीं ज़्यादा नुकसानदायक हो सकता है।
बेबी डॉल अर्ची कौन है? जानें पूरी कहानी!
यह सब तब शुरू हुआ जब एक महिला ने ‘डेम उना ग्रूर’ (Dame Un Grrr) नामक स्पेनिश ट्रैक पर लिप-सिंक करते हुए एक वीडियो पोस्ट किया, जो रोमानियाई गायिका केट लिन के गाने पर आधारित था। यह रील रातोंरात वायरल हो गई और जल्द ही ‘बेबी डॉल अर्ची’ (Babydoll Archi) नाम का इंस्टाग्राम हैंडल हर तरफ छा गया। हफ़्तों के भीतर, अर्किता फुकन के नाम से मशहूर हुई बेबी डॉल अर्ची ने 1.4 मिलियन फॉलोअर्स हासिल कर लिए, 8 मिलियन फॉलोअर्स वाले एक इन्फ्लुएंसर के साथ सहयोग किया और लगातार चर्चाओं का केंद्र बनी रही।
लेकिन, असल समस्या यह थी कि अर्किता अर्ची असल में थी ही नहीं! यह एक AI-जनित पर्सोना (AI-generated persona) थी जिसे किसी वास्तविक महिला की तस्वीरों और वीडियो को मॉर्फ (morph) करके, खरोंच से बनाया गया था। वह कोई डिजिटल कलाकार नहीं थी, न ही अपनी कला के लिए AI का इस्तेमाल करने वाली कलाकार, बल्कि एक असली महिला थी जो गुमनाम ऑनलाइन निगरानी, डिजिटल दुर्व्यवहार और उत्पीड़न (digital violation and harassment) का शिकार हुई। सूत्रों के अनुसार, यह महिला डिब्रूगढ़, असम की रहने वाली एक विवाहित महिला थी।
उत्पीड़न से मुनाफ़ा कमाने का कारोबार: कैसे फैला ये जाल?
‘डीआईजीपी, एसएसपी इंचार्ज डिब्रूगढ़’ (IPS, SSP In-charge of Dibrugarh) सिज़ल अग्रवाल ने इस मामले का खुलासा करते हुए बताया, “जो शुरुआत में उत्पीड़न (harassment) थी, वह जल्द ही मुनाफ़ा कमाने वाला कारोबार बन गई।” उन्होंने बताया कि प्रतीम बोरा, तिनसुकिया, असम का रहने वाला एक मैकेनिकल इंजीनियर, इस पूरे जाल के केंद्र में है। बोरा ने हरियाणा में पढ़ाई की और दिल्ली की एक कंपनी में काम करता था, जहाँ से वह असम से रिमोटली काम कर रहा था। उस पर डिजिटल कंटेंट में हेरफेर (manipulation of digital content) करके व्यक्तिगत लाभ (personal gain) हासिल करने का आरोप है, जिसके बाद उसे साइबर डेफमेशन केस (cyber defamation case) में गिरफ्तार किया गया है। अग्रवाल के अनुसार, बोरा ने केवल एक तस्वीर का इस्तेमाल करके बेबी डॉल अर्ची के किरदार को खड़ा किया और AI सॉफ्टवेयर जैसे ओपनएआई (OpenAI), मिडजर्नी (Midjourney) का उपयोग करके नकली कंटेंट बनाया।
सबसे बड़ा साइबर फ्रॉड या मनोरंजन? सच जानकर चौंक जाएंगे आप!
- अर्किता फुकन या सिर्फ एक AI का रचा हुआ जाल: असलियत तो यह है कि यह कोई व्यक्ति नहीं बल्कि एक AI निर्मित अवतार है, जिसने लोगों को धोखा दिया और पैसे कमाए।
- साइबर क्राइम्स का बढ़ता जाल: इस मामले से यह भी पता चलता है कि किस तरह AI का गलत इस्तेमाल करके लोगों को मानसिक और भावनात्मक रूप से प्रताड़ित किया जा सकता है। ऐसी घटनाएं हमारे डिजिटल सुरक्षा पर सवाल उठाती हैं।
- }The real issue: असलियत में, एक आम महिला का जीवन इन ऑनलाइन फैंटेसी की भेंट चढ़ गया, जबकि दुनिया इस पर तबाह कर रही थी, उसने अपनी पहचान, गरिमा और शांति को छीन लिया था। इंटरनेट अक्सर चीजों की तेजी से प्रतिक्रिया करता है, लेकिन सच और वेरिफिकेशन (verification) के मामले में धीमा होता है।
- ‘अनुरोध’ से मुनाफ़ा: यौन सामग्री का लालच
सबूतों से पता चला है कि बोरा ने एक नकली जीमेल आईडी (fake Gmail ID) बनाई, AI टूल्स (AI tools) का इस्तेमाल किया और अलग-अलग सोशल मीडिया अकाउंट्स से ऐसे ही फोटो और वीडियो लोगों को दिखाने शुरू कर दिए। इस सबका मकसद था फॉलोअर्स (followers) बढ़ाना और उनसे पैसे कमाना (financial greed)। रिपोर्टों के मुताबिक उसने इन पांच दिनों में लगभग 3 लाख रुपये कमाए और कुल मिलाकर 10 लाख रुपये की कमाई की। उसके Actual Fans पेज पर लोग AI से बनाई गई साइबर आपत्तिजनक सामग्री (porn-like content) के लिए सब्सक्रिप्शन भी ले रहे थे। यह दर्शाता है कि कैसे टेक्नोलॉजी का गलत इस्तेमाल हो रहा है और लोग गलत रास्ते पर जा रहे हैं।
यह घटना टेक्नोलॉजी के दोहरे एजेंडे का एक कड़वा सच है, कि जहाँ यह वरदान हो सकती है, वहीं अभिशाप भी। इस मामले में बोरा को गिरफ्तार कर लिया गया है, और पुलिस उसके साथ काम करने वाले बाकी लोगों की तलाश भी कर रही है।
यह मामला हमारे समाज में सेक्स एजुकेशन (sex education) की कमी और टेक्नोलॉजी के दुरुपयोग की ओर भी इशारा करता है। जहां सेक्स एक टैबू (taboo) है, वहीं इसे मनोरंजन के रूप में इस्तेमाल करना और उसमें मिलावट करना चिंता का विषय है। ये मुद्दे भारत के युवा पीढ़ी के मानसिक स्वास्थ्य को कैसे प्रभावित कर सकते हैं, ये सोचने वाली बात है।
Enjoying this post?
Subscribe to Bolbindas to get deep dives like this delivered directly to your inbox .