تعد نيو مكسيكو هى أحدث ولاية تتهم ميتا بالفشل في حماية المستخدمين الأصغر سنا، حيث رفع مكتب المدعي العام بالولاية دعوى ضد الشركة هذا الأسبوع بعد أن أنشأ المحققون حسابات اختبارية على إنستجرام وفيسبوك زعموا فيها أنهم مراهقين، وفقا لتقرير engadget.
وقد استخدموا صور الملفات الشخصية التي تم إنشاؤها بواسطة الذكاء الاصطناعي للحسابات، ويؤكد مكتب النائب العام أن الحسابات كانت مليئة بالرسائل والصور الصريحة، إلى جانب العروض الجنسية من المستخدمين ، كما زعمت أن خوارزميات ميتا أوصت بمحتوى جنسي لحسابات الاختبار.
للالتفاف حول القيود العمرية لشركة Meta، قام المحققون بتزويد الشركة بتواريخ ميلاد البالغين أثناء إعداد حسابات زائفة لأربعة أطفال (غالبًا ما يخطئ الأطفال في تحديد أعمارهم للوصول إلى الخدمات عبر الإنترنت التي ليس من المفترض أن يفعلوها). ومع ذلك، فقد أشاروا ضمنًا إلى أن الحسابات كانت تستخدم من قبل الأطفال، حيث نشر أحدهم عن فقدان أحد أسنان الطفل والبدء في الصف السابع، وبموجب الدعوى أنشأ المحققون أيضًا الحساب ليبدو كما لو أن والدة الطفلة الخيالية ربما كانت تتاجر بها.
وتزعم الدعوى، من بين أمور أخرى، أن الحسابات أرسلت صورًا جنسية للأطفال وعروضًا للدفع مقابل ممارسة الجنس، وبعد يومين من إنشاء المحققين حسابًا لفتاة زائفة تبلغ من العمر 13 عامًا، اقترحت خوارزميات ميتا أنها تتبع حساب فيسبوك يضم ما يزيد عن 119 ألف متابع ينشر مواد إباحية للبالغين.
وقام المحققون بوضع علامة على المواد غير اللائقة (بما في ذلك بعض الصور التي بدت وكأنها لفتيات عاريات وقاصرات) من خلال أنظمة الإبلاغ في ميتا، وفقًا للدعوى، وجدت أنظمة Meta في كثير من الأحيان أن هذه الصور مسموح بها على منصاتها.
وفي بيان للصحيفة، ادعت شركة ميتا أنها تعطي الأولوية لسلامة الأطفال وتستثمر بكثافة في فرق السلامة. وقالت الشركة: “نحن نستخدم تكنولوجيا متطورة، ونوظف خبراء في مجال سلامة الأطفال، ونبلغ عن المحتوى إلى المركز الوطني للأطفال المفقودين والمستغلين، ونشارك المعلومات والأدوات مع الشركات الأخرى وجهات إنفاذ القانون، بما في ذلك المدعون العامون بالولاية، للمساعدة في استئصال المحتالين”. . زعمت شركة Meta أيضًا أنها تقوم بأعمال لمنع البالغين الضارين من الاتصال بالأطفال على منصاتها.
فى وقت سابق من هذا العام، ميتا تشكيل فرقة عمل لمعالجة مشكلات سلامة الأطفال بعد أن أشارت التقارير إلى أن خوارزميات Instagram ساعدت الحسابات التي كلفت واشترت مواد جنسية دون السن القانونية في العثور على بعضها البعض.
وفقًا للمركز الكندي لحماية الطفل، استمرت “شبكة من حسابات Instagram التي تضم كل منها ما يصل إلى 10 ملايين متابع في بث مقاطع فيديو مباشرة حول الاعتداء الجنسي على الأطفال بعد أشهر من إبلاغ الشركة عنها”.
وتأتي الدعوى القضائية في نيو مكسيكو في أعقاب الدعاوى القضائية التي رفعتها مجموعة من 41 ولاية ومقاطعة كولومبياقدمت في أكتوبر ، ومن بين أمور أخرى، زعموا أن الشركة كانت تعلم أن جوانبها “الإدمانية” كانت ضارة بالمستخدمين الشباب وأنها ضللت الناس بشأن السلامة على منصاتها.
