حثت شركة ميتا على تعزيز الرقابة على الفيديوهات المزيفة التي تستخدم الذكاء الاصطناعي

منذ يوم واحد

مشاركة حفظ

كالي هايس، مراسلة تكنولوجيا

مشاركة حفظ

رويترز

قال مستشارو شركة ميتا إن على الشركة أن تفعل المزيد لمعالجة “انتشار” المحتوى المزيف الذي يُنتج باستخدام أدوات الذكاء الاصطناعي على منصاتها.

رفع مجلس الرقابة المكون من 21 عضوًا مخاوفه عندما وجه انتقادًا للشركة لتركها فيديو مولد بواسطة الذكاء الاصطناعي يُظهر أضرارًا واسعة في حيفا، إسرائيل، من دون تصنيف.

ودعا الشركة إلى إعادة هيكلة قواعدها الخاصة بالذكاء الاصطناعي، محذرة من أن زيادة الفيديوهات المزيفة المتعلقة بالصراعات العسكرية العالمية قد “تحدت قدرة الجمهور على التمييز بين التزييف والحقيقة… مما يعرض الثقة العامة في جميع المعلومات للخطر.”

قالت ميتا إنها ستضع علامة على الفيديو المعني خلال سبعة أيام.

أطلقت ميتا مجلس الرقابة في عام 2020 كمجموعة شبه مستقلة توفر إشرافًا على قرارات مراقبة المحتوى عبر منصاتها، والتي تشمل فيسبوك، إنستغرام، وواتساب.

غالبًا ما تختلف مع قرارات ميتا، لكن الشركة استمرت في تخفيف نهجها في مراقبة المحتوى، مما أثار تساؤلات حول مدى السلطة التي يمتلكها المجلس فعليًا.

قال المجلس إن تعامل الشركة مع فيديو حيفا أثار قضايا كانت قد أبلغت عنها سابقًا حول “عدم الكفاءة في النهج الحالي لميتيا خلال النزاعات المسلحة”.

حاليًا، تعتمد ميتا بشكل كبير على المستخدمين لـ"الإبلاغ الذاتي" عندما يكون المحتوى الذي ينشرونه من إنتاج أداة ذكاء اصطناعي. وإلا، فهي تنتظر أن يشتكي شخص ما إلى فريق مراقبة المحتوى، الذي قد يقرر حينها وضع علامة على شيء معين.

قال المجلس إن على الشركة أن تكون أكثر استباقية في وضع علامات على المحتوى المزيف الذي يُنتج بواسطة الذكاء الاصطناعي “بتكرار أكبر بكثير”.

وأضاف أن الطرق الحالية للشركة “ليست قوية ولا شاملة بما يكفي لمواجهة حجم وسرعة المحتوى المولد بواسطة الذكاء الاصطناعي، خاصة خلال الأزمات أو النزاعات حيث يكون التفاعل على المنصة مرتفعًا.”

أثار مراجعة المجلس للمسألة فيديو نُشر في يونيو الماضي بواسطة حساب فيسبوك مقره الفلبين، يصف نفسه كمصدر أخبار.

كان هذا واحدًا من سلسلة فيديوهات مزيفة باستخدام الذكاء الاصطناعي نُشرت على وسائل التواصل الاجتماعي بعد بدء النزاع، حيث كانت المحتويات إما مؤيدة لإسرائيل أو لإيران، والتي جمعت بسرعة ما لا يقل عن 100 مليون مشاهدة، وفقًا لتحليل بي بي سي في ذلك الوقت.

على الرغم من أن الفيديو من إنتاج الذكاء الاصطناعي ويظهر محتوى غير حقيقي، وتلقيت ميتا عدة شكاوى من المستخدمين بشأنه، إلا أن الشركة لم تضع علامة على الفيديو بأنه مولد بواسطة الذكاء الاصطناعي أو تزيله.

لم تتخذ ميتا أي إجراء حتى تقدم أحد مستخدمي فيسبوك بطلب مباشر لمجلس الرقابة، وتولى المجلس القضية، وفقًا للمجلس.

ثم ادعت الشركة أن الفيديو، الذي حقق ما يقرب من مليون مشاهدة، لا يتطلب أي نوع من العلامات ولا يحتاج إلى إزالته لأنه لم “يساهم مباشرة في خطر حدوث ضرر جسدي وشيك”.

قال المجلس يوم الثلاثاء إن هذا معيار مرتفع جدًا لوضع علامات على المحتوى المولد بواسطة الذكاء الاصطناعي، خاصة عندما يكون الموضوع نزاعًا مسلحًا، وقرر أن الفيديو كان يجب أن يُمنح “علامة عالية المخاطر للذكاء الاصطناعي”.

“يجب على ميتا أن تفعل المزيد لمعالجة انتشار المحتوى المضلل المولد بواسطة الذكاء الاصطناعي على منصاتها… حتى يتمكن المستخدمون من التمييز بين الحقيقي والمزيف”، قال.

وفي بيانه، قالت ميتا إنها ستلتزم باقتراحات المجلس في المرات القادمة التي تواجه فيها محتوى “متماثل” وهو “نفس السياق” للفيديو الذي راجعه المجلس.

جهات تنظيمية تتواصل مع ميتا بشأن مشاهدة العمال لمقاطع فيديو نظارات الذكاء الاصطناعي الحميمة

كشف عن “مزارع محتوى” خارجية تخلق فيديوهات عميقة سياسية

زوكربيرج يدافع عن ميتا في محاكمة تاريخية حول إدمان وسائل التواصل الاجتماعي

وسائل التواصل الاجتماعي

إسرائيل

الذكاء الاصطناعي

الدعاية

ميتا

مارك زوكربيرج

فيسبوك