كيف يعالج مجلس الرقابة على ميتا&8217 الصور الجنسية للذكاء الاصطناعي

يواجهمجلس الرقابة في Meta مرة أخرى قواعد الشبكة الاجتماعية فيما يتعلق بالمحتوى الذي تم إنشاؤهبالذكاء الاصطناعي. وقد قبل المجلس قضيتين تتعلقان بصور صريحة لشخصيتين عامتين تم إنشاؤهما بالذكاء الاصطناعي.

تتعلق القضيتان بصور فاضحة لشخصيتين عامتين

لدىميتا قواعد تحظر العري على فيسبوك وإنستجرام. ومع ذلك، ذكرمجلس الرقابة في مذكرة أنه يريد التحقق مما إذا كانت“سياسات Meta وممارسات الإنفاذ الخاصة بها فعالة في مواجهة الصور الصريحة التي تم إنشاؤها بالذكاء الاصطناعي”. لقد أصبحت الصور التي تم إنشاؤها بالذكاء الاصطناعي للمشاهير من النساء والسياسيين والشخصيات العامة الأخرى شكلاً متزايداً من أشكال التحرش عبر الإنترنت، وقد دفعت إلى عدد من المقترحات للتنظيم. ومن خلال هاتين الحالتين، يمكن لمجلس الرقابة أن يدفع ميتا إلى اعتماد قواعد جديدة للتعامل مع مثل هذه المضايقات على منصتها.

وقد ذكرمجلس الرقابة أنه لن يكشف عن اسمي الشخصيتين العامتين المتورطتين في الحالتين من أجل منع المزيد من المضايقات، على الرغم من أنه وصف الظروف المحيطة بكل منشور.

تتعلق القضية الأولى بمنشور على إنستجرام

تتعلق القضية الأولى بمنشور على إنستجرام أظهرصورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة هندية عارية. وقد تم نشر المنشور من قبل حساب “لا يشارك سوى الصور التي تم إنشاؤها بالذكاء الاصطناعي لنساء هنديات”. تم الإبلاغ عن المنشور إلى Meta، ولكن تم إغلاق البلاغ بعد 48 ساعة دون التحقيق فيه. وكان المستخدم نفسه قد استأنف ضد هذا القرار، ولكن تم إغلاق الاستئناف أيضاً دون التحقيق فيه. في النهاية قامت Meta بإزالة المنشور بعد أن استأنف المستخدم أمام مجلس الرقابة ووافق المجلس على النظر في القضية.

القضية الثانية تتعلق بمنشور على فيسبوك

تتعلق القضية الثانية بمنشور على فيسبوك في مجموعة مخصصةللفن المولّد بالذكاء الاصطناعي. أظهر المنشور المعني “صورة مولدة بالذكاء الاصطناعي لامرأة عارية ورجل يتلمس ثديها”. كان من المفترض أن تكون المرأة تشبه “شخصية عامة أمريكية” ورد اسمها أيضًا في التعليق على المنشور. تمت إزالة المنشور تلقائيًا لأنه تم الإبلاغ عنه في وقت سابق وتمكنت أنظمة ميتا الداخلية من ربطه بالمنشور السابق. استأنف المستخدم قرار الإزالة، ولكن تم “إغلاق الاستئناف تلقائيًا”. ثم استأنف المستخدم أمام مجلس الرقابة، الذي وافق على النظر في القضية.

هدف مجلس الرقابة ومشاركة ميتا في القضية

قالت الرئيسة المشاركة لمجلس الرقابة هيلي ثورنينغ شميت في بيان لها إن المجلس تناول القضيتين من بلدين مختلفين من أجل تقييم التباينات المحتملة في تطبيق سياسات Meta. وقالت ثورنينغ-شميت:“نحن نعلم أن Meta أسرع وأكثر فعالية في الإشراف على المحتوى في بعض الأسواق واللغات أكثر من غيرها“. “بأخذ حالة من الولايات المتحدة وأخرى من الهند، نريد أن نختبر ما إذا كانت ميتا تحمي جميع النساء في جميع أنحاء العالم على قدم المساواة.”

يسعى مجلس الرقابة الآن إلى الحصول على تعليقات عامة خلال الأسبوعين المقبلين وسينشر قراره قريبًا، إلى جانب توصيات السياسة العامة لـ Meta. وقد أدت عملية مماثلة تتعلق بمقطع فيديو مضلل لجو بايدن مؤخرًا إلى التزام Meta بوضع علامات على المزيد من المحتوى الذي تم إنشاؤه بالذكاء الاصطناعي على منصتها.