मेटा का ओवरसाइट बोर्ड फेसबुक, इंस्टाग्राम पर पोस्ट की गई AI-जनरेटेड छवियों की जाँच करेगा
पहला मामला इंस्टाग्राम पर पोस्ट की गई एक नग्न महिला की AI-जनरेटेड छवि से जुड़ा है, जो भारत की एक सार्वजनिक हस्ती से मिलती-जुलती है।
ओवरसाइट बोर्ड ने मंगलवार को भारत और अमेरिका से दो मामलों का चयन किया, ताकि आर्टिफिशियल इंटेलिजेंस (AI) द्वारा उत्पन्न महिला सार्वजनिक हस्तियों की स्पष्ट छवियों से संबंधित मेटा की नीतियों और प्रवर्तन प्रथाओं का आकलन किया जा सके।
बोर्ड का इरादा इंस्टाग्राम और फेसबुक पर दो मामलों में मेटा द्वारा लिए गए सामग्री निर्णयों को संबोधित करना है। प्रत्येक मामले में, यह तय करेगा कि “क्या सामग्री को अनुमति दी जानी चाहिए”।
ओवरसाइट बोर्ड की सह-अध्यक्ष हेले थॉर्निंग-श्मिट ने कहा, “डीपफेक पोर्नोग्राफ़ी ऑनलाइन लिंग-आधारित उत्पीड़न का एक बढ़ता हुआ कारण है और इसका उपयोग महिलाओं को लक्षित करने, चुप कराने और डराने के लिए किया जाता है – ऑनलाइन और ऑफलाइन दोनों तरह से।”
थॉर्निंग-श्मिट ने कहा, “कई अध्ययनों से पता चलता है कि डीपफेक पोर्नोग्राफ़ी मुख्य रूप से महिलाओं को लक्षित करती है। यह सामग्री पीड़ितों के लिए बेहद हानिकारक हो सकती है, और इसे बनाने के लिए उपयोग किए जाने वाले उपकरण अधिक परिष्कृत और सुलभ होते जा रहे हैं।” अमेरिका और भारत से दो मामलों के चयन के साथ, बोर्ड का लक्ष्य यह समझना है कि “क्या मेटा वैश्विक स्तर पर सभी महिलाओं की निष्पक्ष तरीके से सुरक्षा कर रहा है” और क्या इसकी “नीतियाँ और प्रवर्तन प्रथाएँ इस समस्या को हल करने में प्रभावी हैं”।
पहला मामला इंस्टाग्राम पर पोस्ट की गई एक नग्न महिला की एआई-जनरेटेड छवि से संबंधित है, जो भारत की एक सार्वजनिक हस्ती से मिलती जुलती है। दूसरा मामला एआई क्रिएशन के लिए एक फेसबुक ग्रुप पर पोस्ट की गई एक छवि से संबंधित है और इसमें एक नग्न महिला की एआई-जनरेटेड छवि है जिसमें एक पुरुष उसके स्तन को छू रहा है।
“बोर्ड विचार के लिए दो नए मामलों पर सार्वजनिक टिप्पणियाँ माँग रहा है। इसके हिस्से के रूप में, हम लोगों और संगठनों को सार्वजनिक टिप्पणियाँ प्रस्तुत करने के लिए आमंत्रित कर रहे हैं.
पाठकों की राय