پاکسازی محتوای سالانه ۵۰۰ میلیون دلار برای فیس‌بوک هزینه دارد

به گزارش پیوست، با وجود اینکه بازار نظارت بر محتوای دیجیتال هر روز گسترش می‌یابد اما شرکت‌های طرف قرارداد با شبکه‌های اجتماعی برای نظارت بر محتوای آنان هر روز بیشتر تحت فشار نیروی انسانی خود قرار می‌گیرد. نیروی انسانی مشغول در این صنعت، نظارت بر محتوا را کار طاقت فرسا می‌داند که نیاز به حقوق و مزایای خوبی دارد. در گزارشی نیویورک تایمز به همکاری شرکت مشاوره اسنچر، یکی از بزرگترین شرکت‌های فعال در حوزه نظارت بر محتوا، با فیس‌بوک پرداخته‌است. فیس‌بوک برای نظارت بر محتوای خود و همچنین حذف محتوای سمی از پلتفرم خود زیرساخت گسترده‌ای را ساخته است که در قلب آن شرکت مشاوره‌ای به نام اسنچر (Accenture) قرار دارد.

سال‌ها است که سیلی از انتقادات محتواهای خشونت آمیز و نفرت انگیز فیس‌بوک را هدف گرفته‌است. مارک زاکربرگ، مدیرعامل فیس‌بوک، چندین مرتبه پاکسازی این پلتفرم از محتواهای نامناسب را وعده داده است. او به استفاده از هوش مصنوعی برای فیلتر پست‌های سمی اشاره کرده و می‌گوید هزاران نفر برای بررسی پیغام‌هایی که از چشم هوش مصنوعی پنهان است استخدام شده‌اند.

اما واقعیت این است که این شرکت ثروتمند با پرداخت هزینه‌ای، وظیفه پاکسازی را به دیگران محول کرده است. فیس‌بوک از سال 2012 حداقل 10 شرکت مشاوره و تامین نیرو را برای بررسی پست‌ها در سراسر جهان استخدام کرده و علاوه بر آن یک شبکه گسترده از پیمانکار‌ها را تشکیل داده است.

در این بین شرکت اسنچر مهمترین همکار و یار فیس‌بوک است. طبق بررسی‌های روزنامه نیویورک تایمز، این شرکت که خدمات مشاوره و حسابداری به شرکت‌ها و دولت‌های سراسر جهان ارائه می‌دهد و نامش در لیست 500 شرکت پردرآمد آمریکا (Fortune 500) دیده می شود بزرگترین رفیق فیس‌بوک در حوزه نظارت بر محتوا است.

شریک خاموش فیس‌بوک با 500 میلیون دلار این شبکه اجتماعی را پاکسازی می‌کند

تایمز می‌گوید که قرارداد اسنچر با فیس‌بوک برای نظارت بر محتوا و دیگر خدمات، حداقل 500 میلیون دلار در سال ارزش دارد. اسنچر یک سوم از 15 هزار نفری که فیس‌بوک مدعی است برای نظارت برای پست‌های خود استخدام کرده را تشکیل می‌دهد و در حالی که این قرارداد بخش کوچکی از درآمد سالیانه اسنچر است اما پل مهمی بین اسنچر با سیلیکون ولی محسوب می‌شود. در بین مشتریان اسنچر، فیس‌بوک حکم «الماس مشتریان» را دارد.

قرارداد‌های این دو شرکت که پیشتر گزارشی از آنها در دست نبود مرزبندی‌های سنتی رابطه برون سپاری (Outsourcing) را تغییر داده است. اسنچر مشکلات اصلی نظارت بر محتوا را به جان خریده و مشکلات محتوایی فیس‌بوک را به مشکل خودش تبدیل کرده است. سلامت ذهنی کارکنان یکی از مشکلات این قراردادها است که اسنچر با آن دست و پنجه نرم می‌کند. کارکنان به دلیل مشکلات موجود درخواست حقوق و مزایای بیشتری دارند و شکایت کارمندان از شرایط موجود خشم عموم را برانگیخته است.

پانزده کارمند حال حاضر و سابق اسنچر می‌گویند که انتظار و اهداف فیسبوک در این حوزه کار را برای اسنچر دشوار کرده است. زمانی که اسنچر به دلیل شرایط کاری درگیر دعوای قانونی شد،‌ فیس‌بوک مسئولیتی برعهده. نگرفت، زیرا کارکنان متعلق به اسنچر و دیگر شرکت‌های طرف قرارداد بودند. در واقع این مشکل آنها بود.

جولی سوویت (Julie Sweet)، مدیرعامل شرکت مشاور اسنچر، در سال 2019 در جلسه‌ای با مدیران ارشد این شرکت  این سوال را مطرح کرد که آیا اسنچر باید یک سری از کارهایی که برای مشتری بزرگی چون فیسبوک انجام می‌دهد را کنار بگذارد؟

هزاران کارمند و پیمانکار این شرکت به طور تمام وقت و در شیفت‌های هشت ساعته برخی از انزجارآورترین پست‌های تصویری، ویدیویی و متن فیس‌بوک که به موضوعاتی مثل خودکشی، گردن زنی و فعالیت‌های جنسی اشاره دارند را بررسی و از انتشار آن در فضای آنلاین جلوگیری می‌کنند.

بعضی از کارکنان اسنچر که در هر شیفت صدها پست فیس‌بوکی را بررسی می‌کنند می‌گویند که دچار افسردگی، خشم و پارانویا شده‌اند. یکی از کارکنان این شرکت در ایالات متحده در اعتراض به شرایط کاری از آنها شکایت کرده است. مجاری خبری وضعیت کاری اسنچر را وحشتناک تعریف می‌کنند و همین موضوع باعث شده تا جولی سوییت، مدیرعامل اسنچر  از کارکنان شرکت بخواهد تا نگرانی اخلاقی، قانونی و اعتباری را بیشتر بررسی کرده و در این باره صحبت کنند.

به گفته حضار، او و الین شوک (Ellyn Shook)، رئیس منابع انسانی این شرکت، در جلسه‌ای که در دفتر اسنچر در واشنگتن برگذار شد به بار روانی کار برای فیس‌بوک و آسیب آن به شهرت این شرکت اشاره کردند. برخی مدیرانی که موضوع فیس‌بوک را بررسی کرده بودند اعتقاد داشتند که می‌توان مشکل موجود را مدیریت کرد. آنها می‌گویند که فیس‌بوک مشتری بزرگی است و نباید آنرا از دست داد. این جلسه بدون نتیجه مشخصی به پایان رسید.

فیس‌بوک و اسنچر به ندرت درمورد نحوه کارشان با هم صحبت می‌کنند و حتی به ندرت اشاره‌ای به همکاری با یکدیگر می‌کنند. اما این رابطه پنهان در واقع در قلب تلاش‌های بزرگترین شرکت شبکه اجتماعی جهان برای سم زدایی از این تجارت پرهیاهو است.

پست‌های پورنوگرافیک

بخش عمده همکاری فیس‌بوک با اسنچر به مشکل برهنگی در این شبکه اجتماعی مربوط است.

در سال 2007 هر ماه میلیون‌ها کاربر به فیسبوک اضافه می‌شد و تصاویر برهنه بسیاری در این شبکه اجتماعی منتشر شد. اندرو کومو (Andrew M. Cuomo)، دادستان وقت نیویورک، به این شبکه اجتماعی دستور داد تا ظرف 24 ساعت پست‌های پورنوگرافیکی که کاربران گزارش کرده‌اند را حذف کند.

خیلی زود فشار کاری تیم نظارتی فیس‌بوک را خسته کرد. شرلی سندبرگ، مدیر ارشد اجرایی فیس‌بوک، و مدیران دیگر از شرکت خواستند تا برای انجام این کار به منبعی خارجی رجوع کند.

به گفته این تیم، فیس‌بوک بررسی گزینه‌های خارجی را آغاز کرد. برون سپاری یا استفاده از یک شرکت خارجی ارزان‌تر از استخدام کارمندان جدید بود و از لحاظ مالیاتی و قانونی هم مزایایی برای این شرکت داشت. موضوع دیگر فعالیت در مناطق مختلف و مکان‌هایی بود که فیس‌بوک حتی زبان آنها را به خوبی نمی‌دانست. آقای سندبرگ به ایده برون سپاری کمک کرد و مدیران میان رده نیز جزئیات کار را مشخص کردند.

فیس‌بوک در سال 2011 کار خود را با اودسک (oDesk)، که از فریلنسر‌ها برای نظارت بر محتوا استفاده می‌کرد آغاز کرد. اما در سال 2012، و پس از انتشار اخباری که نشان می‌دهد کارکنان اودسک در موراکو و چند جای دیگر کمتر از یک دلار در ساعت درآمد دارند، فیس‌بوک شریک دیگری را جستجو کرد.

این جستجو به همکاری با اسنچر منتهی شد. این شرکت که پیشتر شرکت مشاوره اندرسن (Andersen Consulting) نام داشت در سال 2001 پس از جدایی شرکت حسابداری آرتور اندرسن (Arthur Andersen) نام خود را به اسنچر تغییر داد و به دنبال جلب توجه سلیکون ولی بود.

در سال 2010 اسنچر توانست اولین قرارداد خود را با فیس‌بوک منعقد کند. در سال 2012 این قرارداد گسترده‌تر شده و موضوع نظارت بر محتوا و به ویژه خارج از آمریکا را نیز شامل شد.

دو کارمند سابق فیس‌بوک می‌گویند که فیس‌بوک در آن سال چند تن از کارمندان خود را به مانیل (پایتخت فیلیپین) و ورشو (پایتخت لهستان) فرستاد تا به کارمندان اسنچر آموزش دهند. کارکنان اسنچر کار با سیستم نرم‌افزاری فیس‌بوک را یاد گرفتند و با دستور‌العمل‌های این پلتفرم برای حذف، جداسازی یا دست نخورده گذاشتن محتوا آشنا شدند.

گورکن‌های عسل‌خوار

اسنچر که کارش را با کمتر از صد ناظر محتوا آغاز کرده بود خیلی سریع توسعه یافت.

به گفته کارمندان سابق اسنچر، در سال 2015 دفتر اسنچر در سن فرانسیسکو یک تیم ویژه به نام «گورکن‌ عسل‌خوار» (Honey Badger) را به مسائل فیس‌بوک اختصاص داد. تعداد کارمندانی که اسنچر به فیس‌بوک اختصاص داده بود از 300 نفر در سال 2015 ظرف یک سال در سال 2016 به 3 هزار نفر رسیدند. این کارمندان با توجه به محل کارشان به صورت تمام وقت و قراردادی کار می‌کردند.

خیلی زود اسنچر در کنار همکاری با فیس‌بوک قرارداد‌هایی با یوتیوب، توییتر، پینترست و دیگر وب‌سایت‌های معروف نیز منعقد کرد (طبق پیش‌بینی شرکت تحقیقاتی اورست گروپ (Everest Group)، صنعت نظارت بر محتوای دیجیتال سال آینده ۸/۸ میلیارد دلار ارزش خواهد داشت.) فیس‌بوک وظایفی مثل شناسایی حساب‌های جعلی یا کپی و نظارت بر حساب سلبریتی‌ها و برند‌ها و جلوگیری از سو استفاده از این حساب‌ها را به اسنچر واگذار کرد.

پس از آنکه در سال 2016 مسئولان دولت فدرال آمریکا دریافتند که مسئولان روسی برای اثر گذاری بر انتخابات آمریکا از فیس‌بوک استفاده می‌کنند، تعداد این ناظران محتوا افزایش یافت. فیس‌بوک اعلام کرد که 3 هزار نفر دیگر را برای نظارت بر این پلتفرم استخدام می‌کند.

زاکربرگ سال 2017 در یک پست گفت: «اگر قرار باشد جامعه امنی داشت باشیم باید سریعا واکنش نشان دهیم.»

سال بعد، فیس‌بوک آرون چاندرا، مدیر سابق شرکت نرم‌افزاری هولت پاکارد (Hewlett Packard)، را به عنوان نایب رئیس بخش نظارت بر روابط این شرکت با اسنچر و دیگر شرکت‌های طرف قرارداد فیس‌بوک استخدام کرد. این بخش نیز تحت نظارت آقای سندبرگ قرار دارد.

در حالی که 90 درصد از محتوای مشکل دار فیس‌بوک و اینستاگرام را هوش مصنوعی حذف می‌کند، اما ناظران برای 10 درصد باقی‌مانده تصمیم گیری می‌کنند و همین تعداد هم حجم عظیمی را تشکیل می‌دهند.

ناظران در ازای نظارت صحیح و بررسی صحیح محتوایی که سیاست‌های فیس‌بوک را نقض می‌کند یک نمره عملکردی دریافت می‌کنند و به گفته کارمندان اسنچر اگر بیشتر از 5 درصد اشتباه کنند اخراج می‌شوند.

فیس‌بوک همچنین تکنولوژی نظارت خود را نیز به‌روزرسانی کرد و این به‌روزرسانی‌ها تا مدتی احتمال اشتباه را افزایش می‌دادند.

طبق بررسی روزنامه تایمز، اسنچر تا ماه می امسال حدود 1900 کارمند تمام وقت در مانیل؛ 1300 نفر در بمبئی هند؛ 850 نفر در لیسبون پرتقال؛ 780 نفر در کوالالامپور مالزی؛ 300 نفر در ورشو، 300 نفر در مانتن ویو کالیفرنیا؛ 225 نفر در دوبلین و 135 نفر در آستین تگزاس را به فیس‌بوک اختصاص داده است.

اسنچر در پایان هر ماه چکیده‌ای از ساعت کاری کارکنان و حجم محتوایی که بررسی کرده‌اند را برای فیس‌بوک ارسال می‌کند. دو نفر از کسانی که با درآمد این بخش آشنایی دارند می‌گویند هر ناظر آمریکایی در ازای کار برای اسنچر در هر ساعت 50 دلار یا بیشتر درآمد دارد.

هزینه‌های روانی

خیلی زود صدای کارکنان اسنچر درمورد تاثیرات این محتوا نفرت انگیز بلند شد.

اسنچر برای حل این مسئله روانشناس استخدام کرد. ایزابلا دزیوگیل (Izabela Dziugiel)، یکی از روانشناسانی که در دفتر ورشو اسنچر کار می‌کند می‌گوید که در سال 2018 به مدیران گفته است که افراد مناسبی را برای نظارت بر محتوا استخدام نمی‌کنند. دفتر ورشو بر پست‌های مربوط به خاورمیانه را که شامل تصاویری از جنگ سوریه بود نظارت داشت.

خانم دزیوگیل که پیشتر با سربازان بازگشته از جنگ و دچار اختلال استرسی کار کرده بود می‌گوید: «آنها هر کسی که از راه می‌رسید را استخدام می‌کردند.» او در سال 2019 این شرکت را ترک کرد.

در دوبلین، یکی از ناظران محتوای اسنچر که بر محتوای فیس‌بوک نظارت داشت در سال 2018 یک نامه خودکشی روی میزش گذاشته بود که البته نهایتا او را سالم پیدا کردند.

جاشوا اسکلار، یکی از ناظران محتوا در آستین که در آوریل از این شرکت خارج شد می‌گوید که در هر شیفت 500 تا 700 پست که شامل تصاویر جسد‌های پس از تصادف رانندگی و ویدیو‌های شکنجه حیوانات بودند را بررسی می‌کرد.

آقای اسکلار در یک پست داخلی که بعدا به اطلاع عموم رسید گفت: «در یکی از ویدیو‌هایی که من دیدم یک مرد از خودش در حالی که به یک دختر کوچک تجاوز می کرد فیلم گرفته بود. واقعا وحشتناک بود.»

در سال 2018، اسنچر سیاست‌های «ما اهمیت می‌دهیم» یا «WeCare» را معرفی کرد که به روانشناسان می‌گویند دست آنها را بست. عنوان این روانشناسان به «مربی سلامت» تغییر یافت و از آنها خواسته شد که ارزیابی یا معاینه روانشناسی انجام ندهند و تنها به شکل قدم زدن کوتاه یا گوش کردن به موسیقی آرامش بخش به «پشتیبانی کوتاه مدت» بپردازند. براساس دستورالعمل سال 2018 این شرکت، هدف آنها این بود که به ناظران «نحوه پاسخ به شرایط و محتوای مشکل ساز» را بیاموزند.

خانم جوونز از اسنچر می‌گوید که «ما متعهد شدیم تا به موفقیت حرفه‌ای و شخصی کارکنان کمک کنیم.» کارکنان می‌توانند خارج از محل کار به روانشناس مراجعه کنند.

جنجال داخلی

چند مدیر ارشد اسنچر مسئله همکاری این شرکت با فیس‌بوک را به چالش کشیده‌اند. در سال 2017، پیری ناترمی (Pierre Naterme)، مدیر وقت اسنچر، اخلاقیات این همکاری و تاثیر آن بر چشم انداز بلند مدت شرکت را زیر سوال برد. هیچ اقدامی در این باره انجام نگرفت و ناترمی در ژانویه سال 2019 به دلیل سرطان از دنیا رفت.

پنج ماه پس از آن بود که سوییت یکی از وکلا و مدیران قدیمی اسنچر به عنوان مدیرعامل انتخاب شد. او خیلی زود دستور بررسی این بخش از کار اسنچر را صادر کرد.

مدیران گزارش‌هایی ارائه داده و درمورد سختی کار بحث کردند و مثلا آنرا با مشاغلی مثل راننده آمبولانس مقایسه کردند.

دفتر آستین در تگزاس که سال 2017 افتتاح شد به عنوان مکان این بررسی انتخاب شد. فیس‌بوک نیز در این شهر دفتر داشت و جمعیت زیادی در این شهر به زبان اسپانیایی و عربی تسلط داشته و می‌توانستند پست‌های غیرانگلیسی را بخوانند. دفتر اسنچر در استین در اوج فعالیت خود حدود 300 ناظر داشت.

اما برخی کارکنان خیلی زود نارضایتی خود را از میزان درآمد و محتوای مورد نظر اعلام کردند و حقوق و مزایای بیشتری را درخواست کردند. برخی هم داستان‌های خود را با رسانه‌ها در میان گذاشتند.

سال گذشته یکی از کارکنان دفتر آستین و یکی دیگر از کارکنان اسنچر به شکایتی علیه فیس‌بوک پیوستند. براساس مستندات دادگاه فیس‌بوک مسئولیتی در این باره نداشت زیرا کارکنان متعلق به شرکت‌هایی مثل اسنچر بودند. این شبکه اجتماعی در ماه می 2020 با پرداخت 52 میلیون دلار با کارکنان به توافق رسید.

بحث درمورد قرارداد‌هایی اسنچر با فیسبوک ادامه پیدا کرد و درنهایت انم سوویت تغییراتی را اجرایی کرد.

در دسامبر 2019 شرکت اسنچر یک متن دو صفحه‌ای را برای شفاف سازی قانونی در اختیار ناظران محتوا قرار داد و احتمال تاثیر منفی این شغل بر سلامت احساسی و ذهنی را بیان کرد.

اسنچر اکتبر سال گذشته پا را از این نیز فراتر گذاشت و برای اولین بار در گزارش سالیانه خود شغل نظارت بر محتوا را یک فاکتور خطر گزارش کرد و اعلام کرد که این موضوع شرکت را در معرض خطر قانونی و فشار رسانه‌ها قرار می‌دهد. اسنچر همچنین قرارداد تازه در این باره را محدود و آنرا نیازمند تایید مدیریت دانست.

اما واقعیت این است که قراردادهای اسنچر با فیس‌بوک به حدی ارزشمند هستند که نمی‌شود آنها را کنار گذاشت.

منبع: NYTimes