يتعرض Instagram وخوارزميته لخطر كبير: محتوى البالغين صعب بعض الشيء، حتى تجاه القاصرين
خوارزمية بكرات انستغرام، جزء من ميتا العملاق، رفع مخاوف على سلامة القاصرين. التحقيق في Wall Street Journal يكشف أنه من خلال متابعة حسابات معينة من المؤثرين الشباب، بدأت الخوارزمية في ذلك اقترح محتوى غير مناسب e sessuali، إلى جانب إعلانات العلامات التجارية الكبرى. باختصار، يعرض Instagram محتوى للبالغين حتى لأولئك الذين لا ينبغي لهم ذلك.
خوارزمية إنستغرام المثيرة للجدل والتي تعرض محتوى للبالغين (ممنوع) حتى للقاصرين
الاختبار الذي أجراه Wall Street Journal ، والتي شملت إنشاء حسابات تهدف إلى متابعة المؤثرين الشباب مثل لاعبي الجمباز والمشجعين، وأظهرت أن خوارزمية إنستغرام بدأت في اقتراح محتوى للبالغين، بما في ذلك مقاطع الفيديو الجنسية التي تشمل البالغين والقاصرين، وإعلانات العلامات التجارية الأمريكية المعروفة.
وكشف التحقيق عن اتجاه مثير للقلق: فالحسابات التي أعقبت هؤلاء الشباب تعرضت لـ مزيج مثير للقلق من المواد الإباحية والمواد التي تضفي طابعًا جنسيًا على الأطفال. وقد سلط الخبراء في أنظمة التوصية الخوارزمية الضوء على كيف يمكن لهذا المحتوى "المتخصص" أن يوفر إشارات أقوى من تلك ذات الاهتمام العام، مما يدفع الخوارزمية إلى توجيه محتوى غير لائق نحو المستخدمين.
اقرأ أيضا: تم الكشف عن سر Pulcinella: ملايين المستخدمين القاصرين على Instagram
مشكلة تجميع محتوى البالغين على Instagram كان معروفا داخليا ويتطلب منع هذا الانتشار تغييرات كبيرة في خوارزميات التوصية. لكن وثائق الشركة تثبت ذلك يُمنع أفراد الأمن إلى حد كبير من إجراء تغييرات على النظام الأساسي والتي يمكن أن تقلل من عدد المستخدمين النشطين يوميًا.
ردًا على ذلك، قالت ميتا إنها تستثمر المليارات في حلول السلامة والأمن وملاءمة العلامة التجارية، مع الاعتراف بالحاجة إلى مزيد من التحسينات. شركات مختلفة، بما في ذلك مباراة تجمع e تلعثم، أوقفوا أو خفضت إعلاناتهم على بكرات ومنصات ميتا أخرى تتبع هذه الاكتشافات. آخرون، مثل ديزني e حمص، يضغطون على Meta لتجنب مثل هذه المواضع الإعلانية وقد أعربوا عن قلقهم بشأن ربط علاماتهم التجارية بمثل هذا المحتوى.
