فیس بوک را باید یکی از پر حاشیه‌ترین شبکات اجتماعی دانست که در طول سال با ده‌ها اتفاق مختلف از جمله هک شدن، از دسترس خارج شدن و به دادگاه کشیده شدن توجه همگان را به خود جلب می‌کند. در آخرین مورد نیز شاهد نمایش اطلاعات اشتباه در فید خبری فیس بوک بوده‌ایم. با ترنجی همراه باشید.
دیروز The Verge گزارش داد که طی شش ماه گذشته، یک مشکل در رتبه‌بندی گسترده الگوریتم فیسبوک رخ داده است که باعث ایجاد خطرات بالقوه در یکپارچگی این پلتفرم برای نیمی از بازدیدهای فید خبری آن شده است. این اطلاعات از سوی گروهی از مهندسان به دست آمده است که در اکتبر گذشته متوجه اشتباه و مشکلات الگوریتم فیسبوک شدند.
آن‌ها گفتند وقتی دسته‌ای از اطلاعات نادرست از طریق فید خبری در جریان بوده، به جای جلوگیری از انتشار، سیستم آن‌ها را تبلیغ می‌کرده است. در واقع، اطلاعات نادرستی که در فید خبری ظاهر شد ۳۰ درصد بازدید بیشتری داشت. موضوع عجیب‌تر این است که فیسبوک نتوانسته بود علت اصلی را پیدا کند.
ابر رایانه هوش مصنوعی متا(فیسبوک)، سریعترین نمونه در جهان خواهد بود
آن‌ها فقط نحوه عملکرد چنین پست‌هایی را زیر نظر داشتند. جالب اینجاست که چنین اخباری پس از چند هفته حضور در صدر، بازهم چندان بازدیدی نداشتند. مهندسان فیسبوک می‌گویند این باگ را در تاریخ ۱۱ مارس برطرف کنند.
تحقیقات داخلی فیسبوک نشان می‌دهد که الگوریتم فیسبوک نمی‌تواند مانع از نمایش پست‌ها شود، حتی اگر حاوی محتوای برهنگی، خشونت و غیره در داخل آن باشد، این باگ به سطح SEV رسید. SEV مخفف سایت رویداد است. با این حال، این بدترین اتفاقی نیست که می‌تواند در مورد سیستم این پلتفرم رخ دهد. اگرچه این یک باگ سطح یک است، اما یک SEV سطح صفر نیز وجود دارد که برای چشمگیرترین موارد اضطراری استفاده می‌شود.
فیسبوک قبلا اعتراف کرده بود که یک باگ در سیستم این شرکت وجود داشته است. جو آزبورن، سخنگوی متا گفت که این شرکت در پنج مورد جداگانه ناهماهنگی‌هایی را در نزول رتبه بندی تشخیص داده است که با افزایش‌های کوچک و موقتی در معیارهای داخلی مرتبط است.
طبق اسناد داخلی، این مشکل فنی برای اولین بار در سال ۲۰۱۹ رویت شد. با این حال، در آن زمان، تا اکتبر ۲۰۲۱ تاثیر قابل توجهی نداشت. آزبورن می‌گوید که ما علت اصلی را در یک باگ نرم‌افزاری ردیابی کردیم و اصلاحات مورد نیاز را نیز اعمال نمودیم. این اشکال هیچ تاثیر معنیا دار و بلندمدتی بر معیارهای ما نداشته است.
فیسبوک در حال حاضر توضیحی نداده است که چه نوع تاثیری بر محتوای نمایش داده شده در فید خبری دارد. ما فقط می‌دانیم که نزول رتبه راهی است که الگوریتم فیسبوک برای بهبود کیفیت اخبار فید استفاده می‌کند. علاوه بر این، فیسبوک فعالانه روی این رویکرد کار کرده است و آن را به روش اصلی نمایش محتوا تبدیل کرده است.
به نوعی، این یک رویکرد منطقی است. منظور ما پست‌های مربوط به جنگ‌ها و داستان‌های سیاسی جنجالی است که می‌توانند رتبه‌بندی بالایی داشته باشند. اما در بیشتر موارد، آن‌ها با شرایط فیسبوک مطابقت ندارند و می‌توانند ممنوع شوند. به عبارت دیگر، همانطور که مارک زاکربرگ در سال ۲۰۱۸ توضیح داد، کاهش رتبه در برابر محتوای حساس و تحریک آمیزتر رخ می‌دهد.
تحقیق ما نشان می‌دهد که مهم نیست در کجا برای آنچه مجاز است خط بکشیم، با نزدیک شدن یک قطعه محتوا به آن خط، مردم به طور متوسط بیشتر با آن درگیر می‌شوند. حتی اگر بعدا به ما بگویند که محتوا را دوست ندارند بازهم آن را دیده‌اند.
کاهش رتبه برای محتوای به اصطلاح «borderline» نیز کار می‌کند. بنابراین، فیسبوک نه تنها محتوایی را که نزدیک به نقض قوانین آن است، بلکه محتوایی را که به عنوان نقض کننده تشخیص داده می‌شود، نشان نمی‌دهد. سیستم هوش مصنوعی فیسبوک همه پست‌ها را بررسی می‌کند. با این حال، بعدا کارمندان مربوطه خود محتوای ناقض قوانین را بررسی می‌کنند.
به گفته GizChina، سپتامبر گذشته، فیسبوک لیستی از محتوای پایین‌رده را به اشتراک گذاشت. اما هیچ اطلاعاتی در مورد چگونگی تاثیر تنزل بر توزیع محتوای تحت تاثیر ارائه نکرد. ما امیدواریم که در آینده، فیس بوک در مورد محتوای پایین رتبه در News Feed اطلاعات بیشتری ارائه دهد.
در عین حال، فیسبوک فرصتی را برای نشان دادن نحوه عملکرد سیستم هوش مصنوعی خود از دست نمی‌دهد. آن‌ها ثابت می‌کنند که این الگوریتم هر سال بهتر می‌شود و با موفقیت، با محتوایی از جمله سخنان نفرت انگیز و موارد مشابه مبارزه می‌کند. فیسبوک مطمئن است که فناوری بهترین راه برای تعدیل محتوا تا این حد است. به عنوان مثال، در سال ۲۰۲۱ رسما اعلام کرد که تمام محتوای سیاسی در فید خبری را کاهش می‌دهد.
به گفته GizChina، بسیاری تایید کرده‌اند که در پس این رتبه بندی اخیر قصد بدی وجود نداشته است. اما گزارش فیسبوک نشان می‌دهد که هر پلتفرم مبتنی بر وب و الگوریتم‌هایی که استفاده می‌کنند باید تا حد امکان شفاف باشند. سحر ماساچی، یکی از اعضای سابق تیم یکپارچگی مدنی فیسبوک می‌گوید که در یک سیستم پیچیده بزرگ مانند این سیستم، اشکالات اجتناب ناپذیر و قابل درک هستند.
اما وقتی یک پلتفرم اجتماعی قدرتمند یکی از این ایرادات تصادفی را داشته باشد چه اتفاقی می‌افتد؟ اصلا از کجا باید بدانیم؟ ما برای ایجاد یک سیستم پاسخگویی پایدار به شفافیت واقعی نیاز داریم تا بتوانیم به آن‌ها کمک کنیم و آن‌ها نیز این مشکلات را به سرعت حل کنند. نظر شما در این مورد چیست؟ آیا به نظر شما فیسبوک رتبه بندی محتوا را با اهداف خاصی (فارغ از خط مشی خود) انجام می‌دهد؟! آیا رویکرد فیسبوک در قبال چنین اتفاقی درست و قابل توجیه است؟
