بررسی ادعای اغراق‌آمیز نقش هوش مصنوعی در طرح عفاف و حجاب

سردار احمدرضا رادان، فرمانده فراجا (پلیس ایران)، در مراسم راهپیمایی روز قدس در جمعه ۲۵ فروردین ۱۴۰۲ درباره به‌کارگیری دوربین‌های تشخیص چهره برای جریمه افرادی که پوشش اجباری را رعایت نمی‌کنند (در طرح موسوم به عفاف و حجاب) و در پاسخ به این سوال که «درصد خطای این دوربین‌هایی که قرار است استفاده شود چقدر است؟» مدعی شد: «مطمئن باشید که هیچ خطایی نخواهد داشت.» رادان یک هفته قبل، در ۱۹ فروردین ماه ۱۴۰۲ گفته بود:

«از شنبه هفته آینده (۲۶ فروردین) افرادی که در معابر عمومی، خودرو و یا در اماکن تجاری اقدام به کشف حجاب کنند با اسناد و مدارک به محاکم قضایی معرفی می‌شوند… با اینکه از فناوری هوشمند در ثبت تخلفات استفاده می‌کنیم، اما در مرحله اول امکان بررسی و قبول اعتراض افراد وجود دارد.»

این اولین بار نیست که مقامات ایرانی مدعی هستند که می‌توان از تکنولوژی و فناوری هوشمند علیه شهروندانی که پوشش مد نظر حکومت را رعایت نمی‌کند استفاده کرد. موسی غضنفر آبادی رئیس کمیسیون حقوقی مجلس در مهر ۱۴۰۱ و چند روز پس از کشته‌شدن مهسا امینی، درخواست کرده‌بود:

«اگر امکانات و ظرفیت را در اختیار نیروی انتظامی قرار دهیم دیگر نیازی به حضور فیزیکی پلیس نیست؛ مثل دوربین‌های پلاک‌خوان ثبت تخلفات رانندگی، دوربین‌های چهره‌نگاری تخلفات مربوط به حجاب افراد را ثبت می‌کنند و کسانی که مرتکب تخلفاتی شده‌اند از حقوق اجتماعی در جاهای دیگر محروم می‌شوند.

در تابستان گذشته نیز محمد صالح هاشمی گلپایگانی دبیر ستاد امر به معروف و نهی از منکر گفته بود: 

«اگر شخصی در معابر عمومی مثل مترو رعایت حجاب نکند؛ دوربین مترو از او عکس می‌گیرد و یک مبلغ اثرگذار جریمه می‌شود و جریمه برای او پست می‌شود… فناوری الان اجازه می‌دهد تصاویر با عکس کارت ملی تطبیق داده شود و بی‌حجاب‌ها شناسایی شوند.»

https://youtu.be/FUXF5Rp1wt8?t=1758

در روز ۲۶ فروردین ۱۴۰۲ و در نخستین روز اجرای این طرح نیز رادان گفت:

همکاران من در سه حوزه معابر عمومی که کشف حجاب بعضا در آن صورت می گیرد، خودرو و اماکن اقدام‌هایی را انجام دادند و به صورت جدی با اعلام خبر قبلی از شنبه ۲۶ فروردین به صورت جدی در این سه حوزه عمل می کنند…
در حوزه معابر با استفاده از فناوری و تجهیزات پیشرفته فرد شناسایی می‌شود؛ به فرد تذکر داده شده و بعد از آن فرد با مدارک به دستگاه قضایی معرفی می‌شود تا به مورد آن رسیدگی کنند.
در حوزه خودرو بار اول به فرد تذکر داده شده و در صورت تکرار بار دوم خودرو توقیف می شود؛ توقیف الکترونیکی یا توقیف در محل یا توقیف در پارکینگ.
در حوزه صنوف هم صنوفی که متصدیانش احیاناً کشف حجاب کنند تذکر جدی داده شده و اخطار پلمب گرفته و پلمب می‌شوند و این موضوع شامل باغ تالار ها و رستوران ها و مراکز بزرگ هم می‌شود.

صحبت‌های رادان در اینجا گنگ است. در حالی که در صحبت‌های قبلی او و دیگران به عباراتی مانند «فناوری هوشمند»، «دوربین‌های چهره‌نگاری تخلفات» یا «تصاویر با عکس کارت ملی تطبیق داده‌شود و بی‌حجاب‌ها شناسایی شوند» برمی‌خوریم، در صحبت‌های اخیر در روز شروع طرح، رادان به بیان عبارت گنگ «شناسایی فرد با استفاده از فناوری و تجهیزات پیشرفته» اشاره می‌کند.

این صحبت رادان یک هفته پس از آن انجام شد که ادعای او در مورد «فناوری هوشمند» با انتقاداتی مواجه شد که مشهورترینش، پاسخ محمدجواد آذری جهرمی، وزیر پیشین ارتباطات و فناوری اطلاعات بود:

خطای بزرگی می‌کنند؛ دقت سیستم بررسی امنیتی و پلیسی را در معرض و تقابل با عموم می‌گذارند. هم ضعف‌هایش آشکار می‌شود و هم ممکن است کارایی خود را از دست بدهد.
از فردا احتمالا تبلیغ «آرایش (گریم) ضد تشخیص چهره پلیس» یا چیزی شبیه این رونق خواهد یافت!

روزنامه همشهری روز ۲۷ فروردین ۱۴۰۲ تصویری را در صفحه نخست خود منتشر کرد که در آن پنج زن ماسک‌دار شناسایی شده و به ظاهر پوشش دو نفر آن‌ها مورد تایید سیستم نیست. این تصویر ساختگی است (چون در سایت و روزنامه جزییات متفاوت هستند) اما یادآور تصاویری است که در شبکه های اجتماعی به‌نام سیستم‌های نظارت شهروندان در چین منتشر می‌شود.

اما آیا هوش‌مصنوعی می‌تواند عدم رعایت پوشش حکومتی را تشخیص دهد یا این تنها یک بلوف برای ارعاب شهروندان برای تن دادن به پوشش اجباری مورد تایید حکومت از سوی سردار رادان رییس پلیس ایران بوده‌است؟ در ادامه ابعاد مختلف این پرسش بررسی می‌شود.

آیا هوش‌مصنوعی می‌تواند عدم رعایت پوشش حکومتی را تشخیص دهد؟ 

اگر قرار باشد سیستمی با استفاده از هوش مصنوعی، عدم رعایت پوشش مد نظر حکومت در معابر شهری را تشخیص دهد و برای شهروندان به طور اتوماتیک جریمه صادر کرده و آنها را با پیامک مطلع کند، باید اجزای زیر در آن سیستم عمل کنند:

1. دوربین‌هایی که تصاویر ویدیویی شهری را ثبت می‌کنند و شبکه‌ای با پهنای باند وسیع و زیرساخت‌های ابری و مراکز پردازش.
2. توسعه هوش مصنوعی که تصاویر را بررسی کند و تشخیص دهد چه شهروندی «چه پوششی دارد» و آیا کد لباس‌پوشیدن (dressing code) جمهوری اسلامی را رعایت کرده‌است یا نه.
3. توسعه هوش مصنوعی که تصاویر را بررسی کند و تشخیص دهد هر فردی که در تصویر دیده می‌شود، کدام شهروند است.
4. در صورت تطبیق تصویر فرد مورد نظر با مشخصات یک شهروند، برای او جریمه صادر شود و به اطلاع او برسد.

در ادامه این اجزا را بررسی می‌کنیم تا ببینیم جمهوری اسلامی در پاسخ به هرکدام از این چالش‌ها چقدر در فناوری پیش‌رفت کرده‌است.

۱. دوربین‌های مداربسته

گزارش‌هایی وجود دارد که مدعی استفاده نیروهای امنیتی (مانند قرارگاه ثارالله) از دوربین‌ها شهری کنترل ترافیک را در مواقع اعتراضات سیاسی و مدنی هستند. حتی استفاده‌های دیگری هم از این دوربین‌ها می‌شده‌است. هر چند در ایران در سال‌های گذشته تعداد دوربین‌های نظارتی افزایش چشم‌گیری داشته اما هنوز نتوانسته بخش زیادی از سطح شهر را پوشش دهد.

۲. پردازش‌گر هوش مصنوعی برای تشخیص پوشش 

از لحاظ نظری باید برای زن و مرد، به‌طور جداگانه، پوشش مورد نظر حکومت برای ماشین تعریف شود. چنین چیزی غیرممکن نیست اما نیاز به صرف هزینه‌بالا و خطای بسیار در پیاده‌سازی فناوری‌های «یادگیری عمیق» به همراه «الگوریتم‌های قابل اعتماد» هستند. یکی از چالش‌های اصلی این طرح معرفی الگوریتمی است که بتواند پایبندی شهروندان را به پوشش مورد نظر حکومت (میزان پوشیدگی موها، صورت، آرایش و … براساس جنسیت) را تشخیص دهد.

تصاویر و ویدیو‌هایی که در سال‌های گذشته از دستگیری زنان توسط گشت‌های ارشاد منتشر شده‌است نشان می‌دهد که حتی در میان حامیان پوشش اجباری نیز تعریف مشترکی از مفهوم و میزان پوشش اجباری وجود ندارد و همین امر باعث بروز اختلافاتی میان نیروهای تندرو حامی پوشش اجباری هم شده‌است. برای مثال در همین تصویرسازی منتشر شده در صفحه اول همشهری هم سه نفری که سیستم به اصطلاح تایید کرده، مانتوی جلوباز پوشیده‌اند.

اما این مانع باعث توقف جمهوری اسلامی در توسعه سیستمی با این قابلیت‌ها نمی‌شوند. تا زمانی که الگوریتمی قابل اطمینان برای این منظور توسعه پیدا نکند، پلیس مجبور است برای کنترل شهروندان از «نیروی انسانی» برای تشخیص اینکه چه کسی پوشش مورد نظر حکومت را به تن کرده استفاده کند.

استفاده از نیروی انسانی کار باعث می‌شود که فرآیند مقیاس‌پذیر (Scalable) نباشد، یعنی نمی‌توان همه افرادی که از جلوی دوربین‌ها عبور می‌کنند را شناسایی کنند. زیرا با محدودیت‌های انسانی، مواجه است. برای مثال برای پایش همه افراد در یک مکان عمومی پر رفت‌آمد، مثلا یک ایستگاه مترو و … به تعداد زیادی اپراتور پشت دوربین‌های زیاد احتیاج است.

ستاد امر به معروف، برای جبران این نقیصه، از تیرماه ۱۴۰۱ از قرارگاه ۲۱ تیر رونمایی کرد. این قرارگاه که به بهانه روز حجاب در جمهوری اسلامی، ۲۱ تیر نام دارد مطابق آنچه در سایت ستاد امر به معروف و نهی از منکر آمده با هدف اجرای طرح جامع عفاف و حجاب و در سطح استانی (لینک نمونه قم، خراسان، چهارمحال) تشکیل شده‌است. در گزارشی از شرح فعالیت قرارگاه‌های ۲۱ تیر در مشهد آمده: 

«۱۰۸ تیم سه نفره از ابتدا تا پایان وقت اداری، اماکنی که در محدوده جغرافیایی خودشان قرار دارد را مورد بررسی قرار می‌دهند. حدود ۲ هفته از آغاز به کار این طرح می‌گذرد و در این مدت ۷۶۰ مکان در مشهد مورد بازدید قرار گرفته که پیشرفت قابل قبولی بوده است؛ مدیران دستگاه‌ها هم همکاری مناسبی را داشتند و تنها تعداد محدودی تنش در کل این موارد به وجود آمد.»

با توجه به اهداف قرارگاه ۲۱ تیر، بعید نیست که نیروی انتظامی برای کنترل بیشتر بر روی زندگی شهری شهروندان دسترسی‌هایی از دوربین‌های شهری به این قرارگاه داده باشد. در این صورت نیروی انسانی می‌تواند از این تصاویر برای شناسایی و رهگیری افراد مورد نظر استفاده کند. 

۳. پردازش‌گر هوش مصنوعی برای تشخیص فرد 

هویت افراد در تصویر نیز باید مشخص شود. در فروردین ۱۳۹۷، روزنامه خلق، ارگان حزب کمونیست چین، مدعی شد (لینک اصل گزارش به چینی):

«اسکای نت»، یک سیستم تشخیص چهره که می‌تواند [تصویری را از] جمعیت ۱/۴ میلیاردی چین، در یک ثانیه اسکن کند، در ۱۶ شهر و استان چین برای کمک به پلیس برای سرکوب مجرمان و بهبود امنیت استفاده می‌شود.

چند سال است که حکومت چین در حال ترکیب فناوری‌های قدیمی و پیشرفته برای تشخیص هویت شهروندان است. چین در این راه از هوش مصنوعی در دوربین‌های شهری تا گوشی‌های همراه، پایگاه‌های داده‌های چهره و اثرانگشت و بسیاری دیگر از ابزارهای فناورانه و اپلیکیشن‌های موبایل (مانند وی‌چت) استفاده می‌کند و تا اطلاعات شهروندان را در سیستم‌های مرکزی جمع‌آوری و هوش مصنوعی خود (اسکای نت) را با آنها آموزش دهد. شرکت هوش مصنوعی Megvii از پیشگامان این پروژه برای دولت چین است (لینک۱، لینک۲، لینک۳).

گزارش‌هایی وجود دارد که تایید می‌کند برخی شرکت‌های چینی مانند تیاندی (Tiandy Technologies) که از شرکت‌های مشهور تولید دوربین‌های مداربسته است، معاملاتی را با سپاه پاسداران انجام داده‌است. محمود نبویان نماینده مجلس و عضو جبهه پایداری همکاری سایبری با چین را یک موضوع مهم امنیت ملی برای جمهوری اسلامی دانسته و می‌گوید: همکاری ایران با چین در زمینه هوش مصنوعی و همچنین در زمینه‌های نظامی و دفاعی بسیار مهم است. در گزارش منابع غربی درباره این همکاری آمده‌است:

«کارشناسان و حامیان حقوق بشر Tiandy را یکی از چندین شرکت چینی معرفی کرده‌اند که در مرکز شبکه گسترده نظارت داخلی چین فعال است. Tiandy می‌گوید نرم‌افزار تشخیص چهره را در اختیار مقامات چینی قرار می‌دهد که برای شناسایی اویغورها یا سایر اقلیت‌های قومی و همچین میزهای بازجویی هوشمند طراحی شده است.
اکنون عملیات تیاندی هم در داخل چین و هم در ایران در واشنگتن تحت نظارت است. سناتور مارکو روبیو در نامه‌ای که روز چهارشنبه به دولت بایدن ارسال شد و به دست NBC News رسید، گفت که توافق تجاری این شرکت با ایران سوالات جدی در مورد استفاده از محصولات تیاندی علیه معترضان صلح‌جویانه ایرانی ایجاد می‌کند.»

شرکت تیاندی در ایران با نام «رادیس ویرا تجارت» فعال است و مدیرعامل آن فردی به نام عباس آذرپندار است که از بهمن ۱۴۰۱ در لیست تحریم‌های اتحادیه اروپا قرار دارد. این شرکت در یک خانه مسکونی در یک برج مسکونی در شهرک شهید محلاتی تهران ثبت شده‌است.

فعالیت‌های این شرکت، علاوه بر همکاری با سپاه شامل فروش به سازمان تامین اجتماعی و سازمان تامین اجتماعی نیروهای مسلح، صا ایران (صنایع الکترونیک وابسته به وزارت دفاع) و … می‌شود. همچنین فروش محصولات تجاری تیاندی در قراردادی پنج ساله با همکاری شرکت «پارس ارتباط افزار» انجام می‌شود.

همکار دیگر جمهوری اسلامی ایران برای نظارت بر شهروندان هواوی است. اطلاعات این سازنده گوشی‌های همراه می‌تواند در کنار دوربین‌های تشخیص چهره قرار گرفته و به شناسایی هویت افراد کمک کند. در سال ۱۳۹۹ دولت ایالات متحده هوآوی را متهم کرد که با «نصب تجهیزات نظارتی، از جمله تجهیزات نظارتی برای نظارت، شناسایی و بازداشت معترضان» در جریان اعتراضات به حکومت ایران کمک می‌کند.

منابع آمریکایی، شرکت های دیگری مانند Zhejiang Uniview Technologies را هم به خاطر فروش محصولات مشابه در ایران تحریم کرده‌اند.

به هر حال باید درنظر گرفت که برای تشخیص چهره، بانک داده‌هایی باید وجود داشته باشد که تصاویری از زوایای مختلف از صورت افراد در آن وجود داشته‌باشد. این درحالیست که جمهوری اسلامی تنها یک تصویر از روبرو از صورت افراد در زمان صدور کارت ملی هوشمند گرفته‌است. برای تکمیل این بانک داده به جمع‌آوری اطلاعات زیادی به‌خصوص از طریق شبکه‌های اجتماعی نیازمند است. 

در تیرماه ۱۴۰۱، فراجا (پلیس ایران) برای توسعه «زیرساخت‌های فناورانه احراز هویت» اعلام نیاز کرد. محمد قنبری رئیس پلیس آگاهی کشور در رویداد کاربرد هوش مصنوعی در کشف علمی جرم گفت:

فراجا از تمام استارتاپ‌ها و شرکت‌های دانش‌بنیان حوزه هوش مصنوعی که ایده‌هایی در زمینه احراز هویت و فناوری‌های کشف و پیشگیری از جرم دارند می‌خواهد ایده‌های خود با فراجا به اشتراک بگذارند و فراجا آماده همکاری با آنهاست.

قنبری همچنین از استارتاپ‌ها وشرکت‌های فناوری خواست در زمینه ارتقا کیفیت تصاویر با ماسک، از فاصله زیاد، چهره و پلاک خودرو تلاش بیشتری کنند و اگر در این زمینه ایده‌ای دارند حتما آن را با فراجا به اشتراک بگذارند. اولویت بعدی فراجا را شناسایی هویت افراد بر اساس الگوهای رفتاری در حوزه زیست شناختی و بیومتریک اعلام کرد.

شرکت‌های «آرمان رایان شریف، پردازش اطلاعات مالی پارت، توسعه اطلاعات و ارتباطات آی‌‌تی‌ساز، داده پویان آلما، دانش‌بنیان امین، الگوریتم رایابین پارس» برای فعالیت همکاری با پلیس ایران در زمینه تشخیص هویت در تیرماه ۱۴۰۱، اعلام آمادگی کردند.

۴. سیستم ارسال پیامک و جریمه

شاید ساده‌ترین بخش این پروژه، اجرای سیستم ارسال پیامک و جریمه باشد. چرا که سال‌هاست از مشابه آن برای ارسال پیامک جریمه به خودروها استفاده می‌کنند. اما همین سیستم برای اجرای طرح حجاب نیاز دارد به مشخصات و تلفن تمامی جمعیت کشور دسترسی داشته‌باشد. این امر با کمک سامانه‌هایی شبیه سیام که در وزارت ارتباطات مستقر شده، ممکن می‌شود.

در صورتی که دیتابیس کاملی از تصاویر مختلف افراد یک منطقه، شهر یا کشور موجود باشد، تعداد کافی دوربین‌های پیشرفته برای کنترل و نظارت آن منطقه تهیه شده‌باشد؛ (مشابه آنچه که در سال‌های گذشته در برخی شهرهای چین انجام شده) با توسعه الگوریتم‌های شناسایی چهره می‌توان هویت افراد را شناسایی کرد. اما کماکان مشکل اصلی جمهوری اسلامی معرفی و آموزش الگوریتمی برای تشخیص میزان پایبندی حجاب به هوش مصنوعی است. مشکلی که تا رفع آن در آینده کوتاه مدت بعید به نظر می‌رسد.

سردار احمدرضا رادان، فرمانده پلیس ایران، درباره استفاده از دوربین‌های هوشمند تشخیص چهره در طرح عفاف و حجاب در ۱۹ فروردین گفت «از فناوری هوشمند در ثبت تخلفات استفاده می‌کنیم» او در راهپیمایی روز قدس در ۲۵ فروردین تاکید کرد«مطمئن باشید که [این دوربین‌ها] هیچ خطایی نخواهد داشت.»

پیش از این، موسی غضنفر آبادی، حسین جلالی و محمد نبویان، نمایندگان مجلس بر به‌کارگیری این فناوری برای شناسایی شهروندانی که به پوشش اجباری تن نمی‌دهد تاکید کرده و محمد صالح هاشمی گلپایگانی دبیر ستاد امر به معروف و نهی از منکر هم گفته بود: «فناوری الان اجازه می‌دهد تصاویر با عکس کارت ملی تطبیق داده شود و بی‌حجاب‌ها شناسایی شوند.»

اگر قرار باشد سیستمی با استفاده از هوش مصنوعی، عدم رعایت پوشش مد نظر حکومت در معابر شهری را تشخیص دهد و برای شهروندان به طور اتوماتیک جریمه صادر کرده و آنها را با پیامک مطلع کند، باید اجزای زیر در آن سیستم عمل کنند:

1. دوربین‌هایی که تصاویر ویدیویی شهری را ثبت می‌کنند و شبکه‌ای با پهنای باند وسیع و زیرساخت‌های ابری و مراکز پردازش. این دوربین‌های شهری توسط شهرداری‌های درحال توسعه است.
2. توسعه هوش مصنوعی که تصاویر را بررسی کند و تشخیص دهد چه شهروندی «چه پوششی دارد» و آیا کد لباس‌پوشیدن (dressing code) جمهوری اسلامی را رعایت کرده‌است یا نه. این مسئله بسیار سخت و مهم‌ترین چالش جمهوری اسلامی است. به‌نظر می‌رسد جایگزین آن، استفاده از نیروی انسانی است.
3. توسعه هوش مصنوعی که تصاویر را بررسی کند و تشخیص دهد هر فردی که در تصویر دیده می‌شود، کدام شهروند است. این فناوری‌ها از چین وارد شده یا در حال مذاکره برای خرید آن هستند. اما تا زمانی که توان تشخیص شهروندان ایرانی را داشته‌باشند، نیازمند اطلاعات زیادی هستند.
4. در صورت تطبیق تصویر فرد مورد نظر با مشخصات یک شهروند، برای او جریمه صادر شود و به اطلاع او برسد. سیستم سیام در وزارت ارتباطات این مساله را حل کرده‌است.

در صورتی که دیتابیس کاملی از تصاویر مختلف افراد یک منطقه، شهر یا کشور موجود باشد، تعداد کافی دوربین‌های پیشرفته برای کنترل و نظارت آن منطقه تهیه شده‌باشد؛ (مشابه آنچه که در سال‌های گذشته در برخی شهرهای چین انجام شده) با توسعه الگوریتم‌های شناسایی چهره می‌توان هویت افراد را شناسایی کرد. اما کماکان مشکل اصلی جمهوری اسلامی معرفی و آموزش الگوریتمی برای تشخیص میزان پایبندی حجاب به هوش مصنوعی است. مشکلی که تا رفع آن در آینده کوتاه مدت بعید به نظر می‌رسد.