AI सेफ्टी पर बड़ा सवाल: मस्क का ‘ग्रोक एआई’ कई देशों में बैन

नई दिल्ली/लंदन: एआई (आर्टिफिशियल इंटेलिजेंस) द्वारा निर्मित आपत्तिजनक तस्वीरों के बढ़ते खतरे ने पूरी दुनिया को चिंता में डाल दिया है। एलन मस्क की कंपनी के ‘ग्रोक एआई’ (Grok AI) द्वारा महिलाओं और बच्चों के अश्लील चित्रण के मामले सामने आने के बाद इंडोनेशिया और मलेशिया जैसे देशों ने इस पर प्रतिबंध लगा दिया है। इसी बीच, ब्रिटिश एआई कंपनी Locai Labs के सीईओ जेम्स ड्रायसन ने एक चौंकाने वाला बयान देकर इंडस्ट्री में हलचल मचा दी है।

“असंभव है 100% सुरक्षा का वादा करना”

जेम्स ड्रायसन ने तकनीकी जगत को आईना दिखाते हुए कहा कि वर्तमान में दुनिया का कोई भी एआई इमेज जनरेटर पूरी तरह से सुरक्षित नहीं है। टेक रडार की रिपोर्ट के अनुसार, ड्रायसन ने स्वीकार किया कि कोई भी एआई कंपनी यह गारंटी नहीं दे सकती कि उसका मॉडल कभी आपत्तिजनक कंटेंट नहीं बनाएगा। उन्होंने कहा, “एआई मॉडल होशियार तो हैं, लेकिन वे परफेक्ट नहीं हैं। यह कहना कि हम नग्न तस्वीरें बनने से पूरी तरह रोक सकते हैं, एक झूठ है।”

Locai Labs ने उठाया कड़ा कदम

सुरक्षा को प्राथमिकता देते हुए लोकाई लैब्स ने एक बड़ा फैसला लिया है:

• फीचर पर रोक: कंपनी ने अपनी इमेज जनरेशन सुविधा को तब तक लॉन्च न करने का फैसला किया है, जब तक वह पूरी तरह सुरक्षित न हो जाए।

• उम्र की पाबंदी: 18 साल से कम उम्र के यूजर्स के लिए कंपनी ने अपने एआई चैटबॉट के इस्तेमाल पर रोक लगा दी है।

मुसीबत में मस्क का ‘ग्रोक’, रडार पर अन्य दिग्गज

रिपोर्ट्स के मुताबिक, आपत्तिजनक कंटेंट के लिए केवल ग्रोक ही नहीं, बल्कि चैटजीपीटी (ChatGPT) और जेमिनी (Gemini) जैसे प्लेटफॉर्म्स का भी गलत इस्तेमाल हो रहा है। हालांकि, सबसे ज्यादा गाज ग्रोक पर गिरी है:

इंडस्ट्री को ‘जागने’ की जरूरत

विशेषज्ञों का मानना है कि जेम्स ड्रायसन का बयान एआई सुरक्षा के प्रति एक ईमानदार पहल है। उन्होंने इंडस्ट्री से अनुरोध किया है कि वे इस खतरे को समझें और यूजर्स को गुमराह करने के बजाय सच्चाई बताएं। फिलहाल, ग्रोक एआई के खिलाफ बढ़ते वैश्विक आक्रोश ने एआई नैतिकता (AI Ethics) पर एक नई बहस छेड़ दी है।