यूके के एक निगरानी संस्था द्वारा AI ऐप्स के लिए सोशल मीडिया विज्ञापनों की एक श्रृंखला को "यौन स्पष्ट सामग्री के निर्माण और महिलाओं की वस्तुवादीकरण" को बढ़ावा देने के लिए बैन कर दिया गया है। विज्ञापन मानक प्राधिकरण (ASA) ने कहा कि Meta प्लेटफार्मों पर अपलोड किए गए पांच विज्ञापनों ने महिलाओं को वस्तुवादी और यौनिक बना दिया, जिसमें हानिकारक लिंग रूढ़िवादियों के माध्यम से भी शामिल था।
विवादास्पद विज्ञापन
एक विज्ञापन ने एक AI साथी ऐप को बढ़ावा देने के लिए 18 वर्ष से कम उम्र की लड़की की यौनिक छवियों का उपयोग किया, जबकि अन्य उपयोगकर्ताओं को अपने "क्रश" की छवियों को अपलोड करने और उन छवियों को "सिज़लिंग" वीडियो में बदलने के लिए आमंत्रित किया। Nicky Baker ने ASA से टिप्पणी की कि इस तरह की सामग्री "वास्तविक दुनिया में नुकसान" पहुंचाने की क्षमता रखती है। उन्होंने जोर दिया:
“"हम उन विज्ञापनों पर सख्त रुख अपनाते हैं जो गंभीर या व्यापक आपत्ति का कारण बन सकते हैं और ये विज्ञापन स्पष्ट उदाहरण हैं कि यह क्यों महत्वपूर्ण है। महिलाओं की वस्तुवादीकरण को प्रोत्साहित करना और लोगों की छवियों से स्पष्ट सामग्री का निर्माण करना वास्तविक दुनिया में नुकसान पहुंचाने की क्षमता रखता है।"
ASA ने यह भी नोट किया कि कई बैन किए गए विज्ञापनों ने वास्तविक महिलाओं की छवियों का उपयोग करके यौन स्पष्ट सामग्री के निर्माण को बढ़ावा दिया, बिना उनकी सहमति के। यह निर्णय हाल ही में यूके की कानूनों के बाद आया है जो गैर-सहमति वाले डीपफेक नग्न चित्रों के निर्माण को अवैध ठहराता है, जो X के चैटबॉट Grok द्वारा महिलाओं की छवियों को नग्न बनाने के अनुरोधों का पालन करने के कारण उठे आक्रोश से प्रेरित था।
नियामक कार्रवाई
ASA ने संकेत दिया कि कानून ने अपनी जांच के दौरान बदलाव किया है और भविष्य में पहचाने गए विज्ञापनों को कानून और अपने नियमों के संदर्भ में माना जाएगा। यदि विज्ञापन अवैध पाए जाते हैं, तो ASA प्लेटफार्मों और कानून प्रवर्तन को सूचित कर सकता है।
विज्ञापनों की पहचान नियामक ने अपने AI-संचालित एक्टिव एड मॉनिटरिंग सिस्टम का उपयोग करके की, जो सक्रिय रूप से उन विज्ञापनों की खोज करता है जो यूके के नियमों का उल्लंघन कर सकते हैं। ASA ने कहा कि पांच बैन किए गए विज्ञापनों ने महिलाओं को गैर-जिम्मेदार तरीके से दर्शाया और गंभीर या व्यापक आपत्ति का कारण बनने की संभावना थी।
