ابهام‌های بیانیه پیام‌رسان بله درباره نمایش اطلاعات کاربران

روز ۲۷ تیرماه ۱۴۰۲، تصویری در شبکه اجتماعی از محتوای منتشر شده کاربران پیام رسان بله در توییتر منتشر شد که بازخوردهای فراوانی در رسانه‌ها و افکار عمومی ایران گرفت:

مانیتور یکی از دوستان، شاغل در اپلیکیشن #بله
سطح دسترسی یه کارمند عادی به محتوای چت کاربران واقعا ترسناکه

پیام‌رسان بله، متعلق به بانک ملی ایران، که یکی از چندین پیام رسان ایرانی است که از سوی حاکمیت جمهوری اسلامی حمایت می‌شود، در پاسخ، متنی را به صورت تصویری، تنها در حساب توییتر خود منتشر کرد:

در این بیانیه، پیام‌رسان بله، با ارجاع به «سند قوانین و شرایط استفاده» خود (بند ۶-۱-۲ قوانین و شرایط برخورد با محتوای مجرمانه) ضمن تایید پیاده‌سازی فیلترینگ هوشمند در این پیام‌رسان می‌گوید:

«برای کانال‌ها و بازوهایی که به‌صورت عمومی در دسترس هستند، بله از الگوریتم‌های خودکار برای آنالیز پیام‌ها برای جلوگیری از انتشار محتوای مجرمانه استفاده می‌کند. همچنین کاربران می‌توانند در صورت مشاهده این موارد، گزارش آن را به بازوی پشتیبانی ارسال یا از گزینه «گزارش محتوای نامناسب» استفاده کنند. در این حالت بله این گزارش‌ها را بررسی می‌کند و درصورت تأیید مجرمانه‌بودن آن، طبق قانون، برخورد لازم انجام می‌شود. لازم به ذکر است با گروه‌هایی که بیش از هزار عضو داشته باشند، در حوزه بررسی محتوا مشابه کانال‌های عمومی رفتار می‌شود.
آنچه در این تصویر از صفحه مانیتور منتشر شده، مربوط به ابزار اجرایی همین موضوع است.»

وب‌سایت دیجیاتو در گزارشی مدعی‌شده که این بند از قوانین مقررات پیام‌رسان بله، به تازگی و در بازه زمانی بین فروردین تا خرداد ۱۴۰۲ به‌روز شده‌است و عبارت «بررسی محتوای کانال‌های خصوصی که کد دعوت‌شان به‌صورت عمومی منتشر شده یا گروه‌های بالای هزار عضو» به این بخش اضافه شده‌است.

اما از این نکته که بگذریم، متن بیانیه بله، صحت اطلاعات تصویر افشا شده را تایید می‌کند. بنابراین ببینیم داده‌های منتشر شده در تصویر چقدر با ادعای پیام‌رسان بله، مطابقت دارد. در تصویر زیر شش مورد بررسی شده‌است:

۱. ستون اول، حاوی اطلاعاتی درباره «محتوای پیام» است چون در انتهای اسم آن واژه id آمده‌است. اما بیش از این نمی‌توان چیزی گفت.

۲. ستون دوم مشخص می‌کند که این محتوا مربوط به چت‌های درون گروهی است. این موضوع در کدهای نرم‌افزار بله که در گیت‌هاب منتشر شد دیده می‌شود. نوع peer یا گروه است یا کاربر. در کامنت‌های کد، یعنی بخشی که در داخل کد نرم‌افزار، نویسنده کد برای سایر افراد می‌گذارد تا آنها را راهنمایی کند و قابل اجرا نیست، توضیح داده شده که نوع peer یا گروه است یا کاربر:

* @param string $peer_type type of peer (User or Group) (0 or 1)

اما معلوم نیست آیا این محتوایی که اینجا دیده می‌شود تنها مربوط به گروه‌هایی با ۱۰۰۰ عضو و بیشتر است یا نه و برای مثال اگر گروهی با بیش از ۱۰۰۰ عضو با ریزش مواجه شده و اعضایش کمتر شود، دیگر محتوایش پایش نمی‌شود یا نه.

۳. در ستون سوم، مشخصات گروه یا مشخصات کاربر فرستنده محتوا در گروه دیده می‌شود.

۴. اما مهم‌ترین بخش این تصویر ستون چهارم است که متن محتوای منتشر شده توسط کاربران در آن درج شده‌است. پیام رسان بله مدعی شده‌است که این محتواها بر دو اساس «آنالیز پیام‌ها براساس الگوریتم خودکار» یا «گزارش کاربران» بررسی می‌شوند. اما همان‌طور که دیده می‌شود در اینجا متن‌های بسیار ساده و معمولی که کاربران فارسی‌زبان ممکن است در روز بارها از آن استفاده کنند دیده می‌شود؛ واژه‌‌ها و عبارت‌هایی مانند «اوک»، «اها»، «بده»، «بذار ببینیم میتونم»، «صلح»، «عزیزی گل» و …

در حقیقت سادگی و معمولی بودن این واژه‌ها، احتمال اینکه توسط نرم‌افزار، برای بررسی بیشتر تگ خورده باشد یا توسط کاربر انسانی به‌عنوان محتوای مجرمانه، گزارش شده باشد را بسیار پایین می‌آورد.

۵ و ۶. پیام‌رسان بله مدعی است این فایل اکسل بخشی از «ابزار اجرایی» کنترل محتوای مجرمانه است. اما هیچ نشانه‌ای دیده نمی‌شود که آیا این ابزار توانسته بین آنچه ممکن است «محتوای مجرمانه» تعریف شده‌باشد با متون معمولی در این فایل اکسل را تشخیص دهد یا نه؛ مواردی (شماره ۵) هایلایت شده و مواردی دیگر (شماره ۶) هایلایت نشده‌است. به‌نظر می‌رسد هرچند مورد هایلایت شده، ممکن است مشمول سیستم سانسور «پیام‌رسان بله» باشد اما این تنها یک سلول جدول اکسل است که در لحظه اسکرین شات، نشانگر ماوس کاربر آن را انتخاب کرده‌است.

موارد بالا که در تصویر دیده می‌شود این گمانه را تقویت می‌کند که در این «ابزار اجرایی» همه محتوای گروه‌ها قابل مشاهده است اما نمی‌توان تا ارائه مستندات قابل راستی آزمایی که صرفا در اختیار پیام‌رسان بله است، این موضوع را تایید یا رد کرد.

بنابراین فکت‌نامه به ادعای مطرح شده در بیانیه پیام رسان بله، بعد از افشا تصویری از مانیتور کارمندان این شرکت، مبنی بر اینکه «تصویر از صفحه مانیتور، مربوط به ابزار اجرایی «گزارش محتوای مجرمانه» برای گروه‌های بیش از ۱۰۰۰ عضو است» نشان غیرقابل اثبات می‌دهد.