از سیستم «اعتبار اجتماعی» چین چه می‌دانیم؟

در شبکه‌های اجتماعی ویدیو‌هایی در حال انتشار است با این ادعا که در چین اگر کسی تخلف رانندگی کند فورا از امتیاز اجتماعی او کسر می‌شود و ممکن است حتی نتواند از خانه خود خارج شود:

«سیستم‌های تشخیص هویت به قدری در چین ارتقا پیدا کرده که همزمان با تخلفات رانندگی فورا از امتیاز اجتماعی فرد کسر می‌شود و این روند تا جایی که حتی نتوانند از این مجتمع‌های غول‌پیکر بیرون بیایند ادامه پیدا می‌کند. زندگی در چین واقعا وحشتناک است.»

چند سالی است که در مورد سیستم «اعتبار اجتماعی» شهروندان در جمهوری خلق چین صحبت‌هایی شنیده می‌شود. پس از اینکه احمدرضا رادان، رییس پلیس ایران، اعلام کرد که از دوربین‌های هوشمند تشخیص چهره استفاده می‌کند تا افرادی را که تن به پوشش اجباری حکومتی نمی‌دهند را شناسایی و جریمه کند، در مورد شباهت این سیستم با پایش شهروندان چینی صحبت‌هایی شده‌است. اما سیستم پایش شهروندان چینی چیست و ابعاد آن چقدر وسیع است؟

ویدیو‌های منتشر شده چه رابطه‌ای با سیستم «اعتبار اجتماعی» چین دارند؟

ابتدا ویدیوهای اخیرا منتشر‌شده را بررسی می‌کنیم. 

ویدیوی اول، در ۵۹ ثانیه، تبلیغی است از نحوه کنترل ترافیک در شهر هانگژو چین و کوالالامپور مالزی به وسیله نرم‌افزار City Brain از استارت‌آپ‌های زیرمجموعه شرکت علی‌بابا. این ویدیو در دی‌ماه ۱۳۹۸ در صفحه فیسبوک مجمع جهانی اقتصاد (داووس) منتشر شده است.

این نرم‌افزار براساس هوش مصنوعی، وسایل نقلیه و سایر اشیا را در خیابان‌ها تشخیص می‌دهد و چراغ‌های راهنمایی را طوری برنامه‌ریزی می‌کند که تا جای ممکن ترافیک روانی در سطح شهر جاری باشد. بنابراین ویدیوی اول ربطی به ادعای مطرح‌شده در توییت ندارد.

ویدیوی دوم که کمتر از ۱۰ ثانیه است از ویدیو‌های به اصطلاح تیک‌تاکی است که مجتمع‌های مسکونی چندده‌طبقه‌ای را نشان می‌دهد که مشابه آنها در شهرهای بزرگ چین، زیاد است. بنابراین ویدیوی دوم ربطی به ادعای مطرح‌شده در توییت ندارد.

ویدیوی سوم که این توییت آن را کوت کرده، از همین نویسنده، مدعیست که اینها دوربین‌های تشخیص چهره در چین است. هرچند واضح است که در تصویر، کادری دور انسان و سایر اشیا متحرک در خیابان مانند خودرو و … هم کشیده شده‌است. در انتهای ویدیو هم تصویری منتشر شده که ترجمه تصویری گوگل، آن را این‌طور ترجمه می‌کند:

به نظر نمی‌رسد که این ویدیوها که هر چند وقت‌یک بار مشابه آن بسیار دیده می‌شود، همه درباره یک چیز واحد یعنی «سیستم اعتبار اجتماعی چین» باشد.

از سیستم «اعتبار اجتماعی» یا Social Credit در چین چه می‌دانیم؟

سیستم اعتبار اجتماعی چین یک چارچوب نظارتی گسترده برای گزارش «قابلیت اعتماد» افراد، شرکت‌ها و نهادهای دولتی در سراسر چین است. سیستم اعتباری چین در ظاهر شبیه اعتبار مالی در دنیای آزاد، تاریخچه مالی افراد یا مشاغل را مستند می‌کند و توانایی آنها را برای بازپرداخت وام‌های آینده پیش‌بینی می‌کند. از آنجایی که اقتصاد بازار در چین مدرن بسیار جوان‌تر است، این کشور فاقد سیستم قابل اعتمادی برای بررسی سوابق مالی افراد و شرکت‌ها است.

موسسه مرکاتور برای مطالعات چین (MERICS) که در سال ۲۰۱۳ برای تقویت دانش و بحث در مورد چین در آلمان و اروپا تأسیس شده و صرفاً بر تجزیه و تحلیل چین معاصر و روابط آن با اروپا و جهان تمرکز دارد این سیستم را اینگونه توصیف می‌کند: 

«سیستم اعتبار اجتماعی چین که به اختصار آن را (SoCS) می‌نامند اولین بار در اوایل دهه ۲۰۰۰ ظهور کرد، از شیوه‌های امتیازدهی اعتباری در سایر نقاط جهان، مانند FICO در ایالات متحده و شوفا در آلمان الهام گرفته شد… در نقشه‌های اصلی سیستم هیچ اشاره‌ای به امتیازدهی به افراد در مقیاس بزرگ وجود نداشت. با این حال، محصولات جانبی این سیستم امتیاز دهی، کمپانی علی بابا را ایجاد کرد.»

در سال ۲۰۱۴، چین برنامه شش ساله‌ای را برای ایجاد سیستمی برای پاداش دادن به اقداماتی که اعتماد را در جامعه ایجاد می‌کند و یا خلاف آن را جریمه می‌کند، اعلام کرد. شورای ایالتی چین در ۱۴ ژوئن همان سال یکی از مهم‌ترین اهدافش از این سیستم را اینگونه شرح داده‌بود: 

«به افراد قابل اعتماد اجازه دهید تا در همه جای بهشت ​​پرسه بزنند، در حالی که برداشتن یک قدم را برای افراد بی اعتبار دشوار کنید.»

در سال ۲۰۱۹، مقامات مرکزی چین به صراحت اعلام کردند که از این ایده راضی نیستند. آنها توضیح رسمی دادند مبنی بر اینکه امتیازها نمی توانند برای مجازات شهروندان مورد استفاده قرار گیرند و فقط اسناد رسمی قانونی می‌توانند به عنوان زمینه برای مجازات استفاده شوند. شهرهای آزمایشی به سرعت از این روند پیروی کردند. 

دولت چین تا سال ۲۰۲۰ توانسته تاریخچه مالی ۱/۴ میلیارد فرد چینی (که به آنها امتیاز اعتباری می‌دهد) و همچنین تقریباً ۱۰۰ میلیون شرکت (اگرچه به آنها امتیاز نمی‌دهد) را ثبت کند. تخمین زده می‌شود ۸۰‌درصد مناطق شهری چین، نسخه‌ای از این سیستم را به کار برده یا در شرف پیاده سازی آن هستند.

آیا دولت چین سیستمی ساخته که به طور فعال اعتبار را بررسی و تنظیم می‌کند؟

در مورد «اعتبار اجتماعی»، مقررات تکه تکه و مبهم بوده و تا به امروز دولت مرکزی تنها یک سیستم متمرکز بر شرکت‌ها و نه افراد، ایجاد کرده است که داده‌های مربوط به رعایت مقررات شرکتی را از سازمان‌های دولتی مختلف جمع‌آوری می‌کند و نتیجه توسط هر شهروند چینی در وب سایتی که اخیراً به نام Credit China ساخته شده قابل جستجو است.

کندرا شفر، رئیس تحقیقات سیاست‌های فناوری در شرکت مشاوره Trivium China مستقر در پکن، آن را در گزارشی برای کمیسیون بازبینی اقتصادی و امنیتی دولت آمریکا و چین «تقریباً معادلIRS، FBI، EPA، USDA، FDA، HHS، HUD، وزارت انرژی، وزارت آموزش و پرورش، و هر دادگاه، ایستگاه پلیس، و شرکت خدماتی بزرگ در ایالات متحده» معرفی می‌کند که سوابق نظارتی را از حداقل ۴۴ پایگاه داده جمع آوری و در یک پلت‌فرم واحد به اشتراک می‌گذارد.

این پورتال مرکزی از این پایگاه داده برای معرفی «لیست افرادی که در یک حکم دادگاه کوتاهی کرده‌اند، دانشگاه‌های چینی که قانونی هستند، شرکت‌هایی که برای ساخت ربات‌ها تایید شده‌اند، و بیمارستان‌هایی که متوجه شدند کلاهبرداری بیمه‌ای انجام داده‌اند و …» استفاده می‌کند.

چگونه این سیستم اعتبار اجتماعی بر زندگی روزمره مردم چین تأثیر می گذارد؟

ظاهرا ایده دولت چین این است که یک فرد یا شرکتی که سابقه اعتباری خوبی در همه حوزه‌های نظارتی دارد، باید هنگام معامله با دولت از رفتار ترجیحی برخوردار شود؛ مانند قرار گرفتن در فهرست اولویت‌بندی یارانه‌ها. در عین حال، افراد یا شرکت هایی که دارای سوابق اعتباری نامناسب هستند، با درج عمومی اطلاعات خود مجازات می‌شوند و از شرکت در مناقصه های دولتی، مصرف کالاهای لوکس و خروج از کشور منع می‌شوند. 

چین در سال ۲۰۲۱ فهرست جامعی را منتشر کرد که جزئیات اقدامات مجازات مجاز را شرح می‌داد. به عنوان مثال، افرادی موفق به پرداخت جریمه دادگاهی‌شان نشده‌اند حق سفر با هواپیما یا ثبت‌نام فرزندان خود در مدارس خصوصی را ندارند چرا که جزو موارد مصرف لوکس به‌شمار می‌رود.

نقش دوربین‌های شهری و تشخیص چهره هوشمند در سیستم اعتبار اجتماعی چین

در فروردین ۱۳۹۷، روزنامه خلق، ارگان حزب کمونیست چین، مدعی شد (لینک اصل گزارش به چینی):

«اسکای نت»، یک سیستم تشخیص چهره که می‌تواند [تصویری را از] جمعیت ۱/۴ میلیاردی چین، در یک ثانیه اسکن کند، در ۱۶ شهر و استان چین برای کمک به پلیس برای سرکوب مجرمان و بهبود امنیت استفاده می‌شود.

استفاده از انواع هوش مصنوعی در چین و دیگر کشورها روز به روز در حال افزایش است اما دولت چین یا هر دولت دیگری برای ایجاد سیستمی که بتواند شهروندانش را با هوش مصنوعی شناسایی، امتیازدهی، رده بندی و جریمه کند با محدودیت‌های قابل توجهی مواجه است. 

گزارش‌هایی وجود دارد (از جمله آزمایش این سیستم توسط خبرنگار بی‌بی‌سی) که ثابت می‌کند دولت چین دوربین‌هایی در اختیار دارد که می‌توانند تصویر صورت افراد را به شرط موجود بودن در دیتابیس دولت، شناسایی کنند و یا نژاد، جنسیت و سن و قد آنها را تخمین بزنند. اما تردیدهای جدی بر توانایی کنترل و مانیتور کشوری پهناور مانند چین با ۱/۴ میلیارد نفر جمعیت همچنان پابرجاست. اجرای چنین طرحی نیازمند تقویت زیرساخت‌‌های هوش مصنوعی است که به نظر می‌رسد در آینده نه چندان دور این معضل قابل حل است.

علاوه بر اهمیت تعداد دوربین‌های فعال و تقویت هوش مصنوعی، ایجاد و ارتباط میان آنها با دیتابیس‌هایی که قرار است حجم نامتناهی از دیتا را به صورت فیلم و تصویر در خود ذخیره کند می‌تواند مشکل ساز باشد. چرا که اگر پکن بخواهد هر سازمان دولتی را قادر سازد تا بر اساس سوابق جمع‌آوری شده توسط سایر سازمان‌های دولتی تصمیمات اجرایی اتخاذ کند، این امر مستلزم ایجاد یک زیرساخت عظیم برای ذخیره، تبادل و پردازش داده‌ها است. هرچند در ویدیوی منتشر شده در توییت اول به امکانات ابری شرکت علی‌بابا در این زمینه اشاره شده‌است.

چین در این راه از هوش مصنوعی در دوربین‌های شهری تا گوشی‌های همراه، پایگاه‌های داده‌های چهره و اثرانگشت و بسیاری دیگر از ابزارهای فناورانه و اپلیکیشن‌های موبایل (مانند وی‌چت) استفاده می‌کند و تا اطلاعات شهروندان را در سیستم‌های مرکزی جمع‌آوری و هوش مصنوعی خود (اسکای نت) را با آنها آموزش دهد. شرکت هوش مصنوعی Megvii از پیشگامان این پروژه برای دولت چین است (لینک۱، لینک۲، لینک۳).

آیا یک امتیاز اعتبار اجتماعی متمرکز برای هر شهروند چینی محاسبه می‌شود؟

خیر. برخلاف تصور عمومی، تا کنون هیچ امتیاز اعتبار اجتماعی مرکزی برای افراد وجود ندارد. اما با توجه به اینکه دولت مرکزی اطلاعات کمی در مورد چگونگی ایجاد یک سیستم اعتبار اجتماعی که در حوزه‌های غیرمالی کار می‌کند، ارائه کرده، دست دولت‌های محلی را باز گذاشته تا راه‌حل‌های خود را آزمایش کنند. 

بهترین مثال رونگچنگ Rongcheng است؛ شهری با نیم میلیون نفر جمعیت که احتمالاً مشهورترین سیستم امتیازدهی اجتماعی در جهان را اجرا کرده است. در سال ۲۰۱۳، برای هر ساکن شهر ۱۰۰۰ امتیاز به عنوان «اعتبار شخصی پایه» در نظر گرفته شد تا تحت تأثیر اعمال خوب و بد آنها باشد. برای مثال جریمه‌ای معادل کسر ۵۰ امتیاز برای «گسترش اطلاعات مضر در ویچت، انجمن ها و وبلاگ ها» جایزه‌ای معادل ۴۰ امتیاز مثبت برای «برنده شدن در مسابقات ورزشی یا فرهنگی در سطح ملی» در نظر گرفته شد. در نتیجه این قانون (در سال ۲۰۱۶ تغییر کرد) یکی از ساکنان در مدت سه هفته به دلیل ارسال مکرر ایمیل‌های در مورد یک اختلاف پزشکی، ۹۵۰ امتیاز از دست داد.

هر چند این احتمال وجود دارد که در آینده، شبیه به چنین برنامه‌هایی به قوانین رسمی برای کل کشور چین تبدیل شود اما از سویی دیگر، برخی مقام‌های مسئول نارضایتی خود از این پروسه اعلام کرده‌اند و از سویی به نظر می‌رسد زیرساخت‌های کشور به اندازه کافی برای اجرای چنین برنامه‌ای آماده نیست.

حتی اگر الگوریتم ترسناکی مبتنی بر هوش مصنوعی برای امتیازدهی به شهروند وجود نداشته باشد، سیستم اعتبار اجتماعی همچنان می‌تواند مشکل ساز باشد به خصوص که دولت چین تاکید کرده که تمام مجازات‌های مربوط به اعتبار اجتماعی باید به قوانین موجود پایبند باشد، اما خود قوانین در وهله اول می‌توانند ناعادلانه باشند.

ادعایی در شبکه‌های اجتماعی مطرح شده مبنی بر اینکه در چین همزمان با تخلفات رانندگی امتیاز اجتماعی افراد کاهش می‌یابد تا جایی که افراد متخلف نمی‌توانند از خانه‌هایشان خارج شوند. در کنار این ادعا ویدیوهایی نیز برای تایید این ادعاها منتشر شده است.

ما ویدیوها را بررسی کردیم و هیچکدام مستقلا یا در کنار هم تاییدکننده ادعای مطرح شده نبود. جستجوهای ما نشان می‌دهد که دولت چین از سال‌ها قبل به دنبال ایجاد سیتسمی متمرکز بر پایه «اعتبار مالی» و «اعتبار اجتماعی» بوده است. چین توانسته در این سال‌ها سیستم اعتبار مالی خود را راه‌اندازی کند. این سیستم تاریخچه مالی افراد یا مشاغل را مستند می کند و توانایی آنها را برای بازپرداخت وام های آینده پیش بینی می کند.

دولت چین همچنین گام‌های بزرگی برای راه اندازی سیستم «اعتبار اجتماعی» برداشته است. در برخی شهرهای چین در سال ۲۰۱۴، برنامه‌هایی آزمایشی انجام شد که بر مبنای آن به هر کس، میزان برابری اعتبار اختصاص داده می‌شد و سپس با انجام هر تخلفی، مقداری از این اعتبار کاهش می‌یافت.

روزنامه خلق، ارگان حزب کمونیست چین مدعیست سیستم اسکای که توسط شرکت هوش مصنوعی Megvii در پکن توسعه داده شده می‌تواند از یک تصویر فردی را از میان ۱/۴میلیارد جمعیت چین تشخیص دهد و خبرنگاران مستقل موارد مشابه این سیستم را آزمایش کرده‌اند.

نمی‌توان قاطعانه این احتمال را رد کرد که این برنامه‌های آزمایشی به قوانین رسمی برای کل کشور چین تبدیل نخواهند شد. از یک سو برخی مقام‌های مسئول نارضایتی خود از این پروسه اعلام کرده‌اند و از سویی به نظر می‌رسد زیرساخت‌های کشور به اندازه کافی برای اجرای چنین برنامه‌ای آماده نیست.

دولت چین یا هر دولت دیگری حتی اگر بخواهد مخفیانه چنین پروژه‌ای را انجام دهد، برای اینکه بتواند کل جمعیت و مساحت کشورش را به واسطه هوش مصنوعی کنترل و افراد را شناسایی کند با مشکلات عدیده‌ای همچون کمبود دوربین‌های مداربسته متناسب با وسعت و جمعیت، نبود زیرساخت‌های مناسب برای جمع آوری، ذخیره و پردازش دادهای تصویری از لحظه لحظه زندگی ۱/۴ میلیارد نفر مواجه است. البته که این چالش‌ها به مرور زمان و با توسعه تکنولوژی کمرنگ‌تر می‌شود.

براساس همه گفته‌های بالا ما در فکت‌نامه به این ادعای که «در چین همزمان با تخلفات رانندگی امتیاز اجتماعی افراد کاهش می‌یابد تا جایی که افراد متخلف نمی‌توانند از خانه‌هایشان خارج شوند.» نشان نادرست می‌دهیم.