Grok AI Deepfake : Grok AI Deepfake को लेकर एक चौंकाने वाला खुलासा हुआ है। कनाडा के प्राइवेसी कमिश्नर फिलिप डूफ्रेन ने कहा है कि मशहूर उद्योगपति एलन मस्क की AI कंपनी xAI के चैटबॉट ‘ग्रोक’ (Grok) से तैयार किए गए यौन प्रकृति वाले डीपफेक चित्रों ने देश के संघीय गोपनीयता कानूनों का सीधा उल्लंघन किया है।
जांच के दौरान एक बेहद चिंताजनक तथ्य सामने आया है: एक समय यह चैटबॉट हर घंटे 6,000 से ज्यादा ऐसे यौन डीपफेक चित्र तैयार कर रहा था। यह आंकड़ा अपने आप में हैरान करने वाला है।
🔍 यह भी पढ़ें- Elon Musk Modi Trump Phone Call: ईरान के खिलाफ ‘Final Blow’ पर चौंकाने वाली बातचीत
सुरक्षा इंतजाम के बिना उतारा गया टूल
कमिश्नर डूफ्रेन की जांच रिपोर्ट के अनुसार, xAI और एक्स कॉर्पोरेशन (X Corp.) ने ग्रोक के इस चित्र-निर्माण टूल को बाजार में उतारने से पहले जरूरी सुरक्षा प्रबंध लागू नहीं किए थे।
इसी लापरवाही का नतीजा यह हुआ कि उपयोगकर्ताओं के लिए किसी की सहमति के बिना उसके यौन डीपफेक चित्र बनाना और उन्हें सोशल मीडिया प्लेटफॉर्म ‘एक्स’ (पहले ट्विटर) पर फैलाना बहुत आसान हो गया।
🔍 यह भी पढ़ें- Space Data Center पर भारत की बड़ी तैयारी, Elon Musk से होगी टक्कर
महिलाएं और बच्चे बने मुख्य शिकार
समझने वाली बात यह है कि इस तकनीक की दुरुपयोग की चपेट में सबसे ज्यादा कौन आया। खोजकर्ताओं के मुताबिक, इस तकनीक का गलत इस्तेमाल कर लाखों चित्र बनाए गए, जिनका शिकार मुख्य तौर पर महिलाएं और बच्चे बने।
इस गंभीर मामले की जांच इसी साल जनवरी में शुरू की गई थी, ताकि यह पता लगाया जा सके कि इस प्रक्रिया में कनाडा के गोपनीयता कानूनों की पालना हुई है या नहीं।
यह भी पढे़ं 👇
जांच के बाद कंपनियों ने किए सुधार
प्राइवेसी कमिश्नर ने जोर देकर कहा कि डीपफेक तकनीक के पीड़ितों को बहुत गंभीर और लंबे समय तक मानसिक व सामाजिक नतीजे भुगतने पड़ते हैं। उन्होंने कहा कि कनाडा के नागरिकों, खासकर बच्चों को एक सुरक्षित ऑनलाइन माहौल मिलना चाहिए।
राहत की बात यह रही कि जांच शुरू होने के बाद xAI और एक्स कॉर्पोरेशन ने अपने सिस्टम में कई सुधार किए हैं, ताकि असल व्यक्तियों की तस्वीरों के गलत इस्तेमाल को रोका जा सके और हानिकारक सामग्री को तुरंत हटाया जा सके। कंपनियां अब तिमाही प्रगति रिपोर्ट देने और स्वतंत्र तीसरी पक्ष (Third Party) से ऑडिट कराने के लिए भी सहमत हो गई हैं।
🔍 यह भी पढ़ें- Donald Trump Elon Musk Dinner: वेनेजुएला ऑपरेशन के बाद फिर साथ दिखे
दुनिया भर में मचा हड़कंप
देखा जाए तो इस मामले ने अंतरराष्ट्रीय स्तर पर भी हलचल मचा दी है। ब्रिटेन, यूरोपीय संघ और अमेरिका के कैलिफोर्निया राज्य में भी ग्रोक के खिलाफ ऐसी जांचें चल रही हैं।
इसी बीच कनाडा की लिबरल सरकार ने बिना सहमति के यौन डीपफेक बनाने को अपराध की श्रेणी में शामिल करने के लिए एक नया कानूनी प्रस्ताव भी पेश किया है। डूफ्रेन ने आखिर में कहा कि बदलते दौर में संघीय गोपनीयता कानूनों को और आधुनिक व सख्त बनाना बहुत जरूरी है, ताकि नियम तोड़ने वाली बड़ी कंपनियों के खिलाफ सख्त कार्रवाई की जा सके।
आम लोगों पर क्या असर
इससे साफ होता है कि AI तकनीक जितनी ताकतवर है, उतना ही बड़ा खतरा भी अपने साथ लाती है। आम इंटरनेट यूजर के लिए सबसे बड़ी चिंता यह है कि उसकी तस्वीर का बिना सहमति गलत इस्तेमाल हो सकता है। यही वजह है कि कई देश अब सख्त कानून बनाने की दिशा में बढ़ रहे हैं।
जानें पूरा मामला
मामला एलन मस्क की कंपनी xAI के चैटबॉट ग्रोक से जुड़ा है, जिसके इमेज-जेनरेशन टूल का इस्तेमाल कर बिना सहमति के यौन डीपफेक तस्वीरें बनाई और ‘एक्स’ प्लेटफॉर्म पर फैलाई गईं। कनाडा के प्राइवेसी कमिश्नर ने इसी साल जनवरी में जांच शुरू की और पाया कि इससे देश के गोपनीयता कानूनों का उल्लंघन हुआ। ब्रिटेन, यूरोपीय संघ और कैलिफोर्निया में भी ग्रोक के खिलाफ जांच चल रही है।
मुख्य बातें (Key Points)
- कनाडा के प्राइवेसी कमिश्नर ने Grok के डीपफेक टूल को निजता कानून का उल्लंघन बताया।
- एक समय यह चैटबॉट हर घंटे 6,000 से ज्यादा यौन डीपफेक चित्र बना रहा था।
- इन डीपफेक का मुख्य शिकार महिलाएं और बच्चे बने।
- ब्रिटेन, यूरोपीय संघ और कैलिफोर्निया में भी ग्रोक के खिलाफ जांच जारी।
