आर्टिफिशियल इंटेलिजेंस प्लेटफॉर्म ग्रोक (Grok) को लेकर बड़ा वैश्विक फैसला लिया गया है। ग्रोक के जरिए अश्लील और आपत्तिजनक इमेज बनाने पर दुनियाभर में रोक लगा दी गई है। यह कदम महिलाओं और बच्चों की तस्वीरों के गलत इस्तेमाल और डिजिटल शोषण के बढ़ते मामलों के बाद उठाया गया है।

जानकारी के अनुसार, AI टूल का उपयोग कर महिलाओं और नाबालिगों की तस्वीरों को आपत्तिजनक रूप में बदला जा रहा था, जिससे निजता और सुरक्षा को गंभीर खतरा पैदा हो गया। इसी को देखते हुए कई देशों की रेगुलेटरी एजेंसियों और प्लेटफॉर्म्स ने सख्त कार्रवाई की है।

भारत में भी इस मामले को गंभीरता से लिया गया। सामने आया कि भारत में करीब 3,500 आपत्तिजनक तस्वीरें हटाई गई थीं, जो AI जनरेटेड या एडिटेड थीं। इन तस्वीरों का दुरुपयोग सोशल मीडिया और अन्य डिजिटल प्लेटफॉर्म्स पर किया जा रहा था।

विशेषज्ञों का कहना है कि AI तकनीक के गलत इस्तेमाल को रोकने के लिए कड़े नियम और कंटेंट मॉडरेशन जरूरी हैं। यह फैसला न सिर्फ ऑनलाइन सेफ्टी के लिहाज से अहम है, बल्कि भविष्य में AI के जिम्मेदार उपयोग की दिशा भी तय करता है।