यूकेच्या निरीक्षकाने "यौन स्पष्ट सामग्रीची निर्मिती आणि महिलांचे वस्तुवादीकरण" यांना प्रोत्साहन देणाऱ्या AI अॅप्ससाठीच्या सामाजिक मीडिया जाहिरातींची मालिका बंद केली आहे. जाहिरात मानक प्राधिकरण (ASA) ने म्हटले की Meta प्लॅटफॉर्मवर अपलोड केलेल्या पाच जाहिरातींमध्ये महिलांचे वस्तुवादीकरण आणि यौनिकरण केले गेले, ज्यात हानिकारक लिंग रूढींचा समावेश होता.
वादग्रस्त जाहिराती
एक जाहिरात 18 वर्षांखालील मुलीच्या यौनिकृत प्रतिमा वापरून AI साथीदार अॅपला प्रोत्साहन देत होती, तर इतरांनी वापरकर्त्यांना त्यांच्या "क्रश" च्या प्रतिमा अपलोड करण्यास आमंत्रित केले आणि त्या प्रतिमांना "सिझलिंग" व्हिडिओमध्ये रुपांतरित केले. ASA च्या निकी बेकर ने टिप्पणी केली की अशा सामग्रीमध्ये "खऱ्या जगात हानी पोहोचवण्याची क्षमता" आहे. तिने जोर दिला:
“"आम्ही अशा जाहिरातींवर कठोर भूमिका घेतो ज्या गंभीर किंवा व्यापक अपमान करण्याची शक्यता असते आणि या जाहिराती स्पष्टपणे दर्शवतात की हे का महत्त्वाचे आहे. महिलांचे वस्तुवादीकरण आणि लोकांच्या प्रतिमांमधून स्पष्ट सामग्री तयार करणे खऱ्या जगात हानी पोहोचवण्याची क्षमता आहे."
ASA ने हे देखील नमूद केले की अनेक बंद केलेल्या जाहिरातींमध्ये वास्तविक महिलांच्या प्रतिमांचा वापर करून यौन स्पष्ट सामग्रीची निर्मिती करण्यास प्रोत्साहन दिले गेले होते, त्यांच्या संमतीशिवाय. हा निर्णय अलीकडील यूकेच्या कायद्यानंतर आला ज्याने अनधिकृत डीपफेक नग्न प्रतिमांची निर्मिती करणाऱ्या अॅप्सवर बंदी घातली, ज्याला X च्या चॅटबॉट ग्रोक ने महिलांच्या प्रतिमांना नग्न करण्याच्या विनंत्यांना मान्यता दिल्यामुळे संताप झाला.
नियामक क्रिया
ASA ने सूचित केले की त्यांच्या तपासादरम्यान कायदा बदलला आहे आणि भविष्यात ओळखलेल्या जाहिरातींना कायद्यानुसार आणि त्यांच्या स्वतःच्या नियमांच्या प्रकाशात विचारात घेतले जाईल. जर जाहिराती अवैध आढळल्या, तर ASA प्लॅटफॉर्म आणि कायदा अंमलबजावणी यांना सूचित करू शकते.
या जाहिरातींना नियामकाने त्यांच्या AI-सक्षम अॅक्टिव्ह अॅड मॉनिटरिंग सिस्टम चा वापर करून ओळखले, जी यूकेच्या नियमांचे उल्लंघन करणाऱ्या जाहिरातींचा सक्रियपणे शोध घेत आहे. ASA ने म्हटले की पाच बंद केलेल्या जाहिरातींमध्ये महिलांचे असंवेदनशीलपणे चित्रण केले गेले आणि गंभीर किंवा व्यापक अपमान करण्याची शक्यता होती.
