بررسی مشکلات تشخیص چهره: چرا 2020 یک سال مهم و پر از تناقض بود؟

اولین بار در ژانویه ۲۰۲۰ یک فرد به اشتباه توسط فناوری تشخیص چهره مجرم شناخته شد و دستگیر شد تا یک بار دیگر توجهات جلب مشکلات تشخیص چهره شود. رابرت ویلیامز، یک سیاه پوست بود که با همسر و دختر جوانش در جاده‌ای خارج از دیترویت در حال رانندگی بود که دستگیر شد. او شب را در زندان گذراند. روز بعد در اتاق بازجویی، یک کارآگاه تصویر یک مرد سیاه‌پوست دیگر را که در ویدئو در حال دزدی یک ساعت بود نشان داد.
کارگاه پرسید: «این شمایید؟»
ویلیامز پاسخ داد: «نه ، این من نیستم.»
کارآگاه عکس دیگری را نشان داد و گفت: «حدس می زنم این هم تو نباشی؟»
ویلیامز تصویر را کنار صورتش نگه داشت. واضح است که او نبود. ویلیامز گفت: «این من نیستم. امیدوارم فکر نکنید همه سیاه‌پوستان شبیه هم هستند.»
کارآگاه پاسخ داد: «اما کامپیوتر می‌گوید این تو هستی.»
نکته جدید در مورد دستگیری رابرت ویلیامز این نبود که این این یک اشتباه بوده است. اساسا نباید مشکلات تشخیص چهره را نادیده گرفت و این فناوری معروف است که برای افراد با پوست تیره از دقت کمتری برخوردار است و این فناوری به طور گسترده توسط ادارات پلیس در ایالات متحده استفاده می‌شود، اگرچه داده‌های خوبی در مورد فراگیر بودن آن وجود ندارد. قسمت غیرمعمول داستان ویلیامز این است که پلیس اعتراف کرد مشکلات تشخیص چهره باعث بازداشت وی شده است.

اخبار این پرونده در اوایل ماه اوت علنی شد و با خشم سراسری روبرو شد. قبل از آن نیز آمریکا شاهد یک اعتراض تابستانی درمورد نحوه برخورد پلیس با جوامع سیاه‌پوستان بود. دو هفته بعد، بازداشت غیرقانونی یک سیاه‌پوست دیگر در دیترویت و این بار هم مشکلات تشخیص چهره دلیل آن بود.

حتی پیش از این موارد نیز فعالان خواستار پایان دادن به پروژه گرین‌لایت بودند. در این پروژه که در سطح شهر اجرایی می‌شود قرار است با استفاده از تشخیص چهره به کاهش جرم کمک شود. با این وجود نه تنها این پروژه هنوز ادامه دارد بلکه در پایان ماه سپتامبر، شورای شهر به تمدید قرارداد بین اداره پلیس دیترویت و ارائه‌دهنده این فناوری یعنی شرکت داده وورکس پلاس رأی داد.

یک سال پر از تناقض
حوادث دیترویت نمونه‌ای از مشکلات تشخیص چهره و رابطه پیچیده فعلی ما با این فناوری را نشان می‌دهد. با وجود این که کاربردهای هوش مصنوعی زیاد هستند و به کارگیری فناوری تشخیص چهره هم در حال رشد است و در برخی حوزه‌ها این فناوری به یک بخش جدایی‌ناپذیر تبدیل شده است. در دیگر حوزه‌ها از جمله خرده‌فروشی‌ها، فناوری شناسایی چهره امید به آینده را افزایش داده است. بسیاری از ارائه‌دهندگان این فناوری معتقدند که مردم با استفاده از بیومتریک راحت‌تر می‌شوند و به زودی این فناوری یک قسمت مهم از زندگی دیجیتال ما خواهد بود: اپل به شدت روی آن در حال کار کردن است و اکنون میلیون‌ها نفر از سیستم Face ID آن برای باز‌کردن قفل آیفون خود استفاده می‌کنند.
از سوی دیگر مردم نسبت به خطرات شناسایی چهره، به ویژه در عدالت کیفری آگاهی بیشتری پیدا کرده‌اند. اکنون آگاهی، نگرانی و بحث در این مورد به طور قابل توجهی بیشتر از هر زمان دیگری است، و امسال بیشتر از همه سال‌های گذشته قوانین مربوط به تشخیص چهره تصویب شده است. در شش شهر در سراسر ایالات متحده در سال 2019 ممنوعیت یا توقف قانونی استفاده از این فناوری تصویب شد و امسال نیز همین وضعیت ادامه داشت.
آنچه مسلم است این است که سازگاری این قوانین با رشد صنعت سخت خواهد بود. اما وقایع سال 2020 سرنخ‌هایی به ما می‌دهد که در سال ۲۰۲۱ چگونه قرار است با این فناوری به صلح رسید.

بازیکنان کوچک ، صنعت بزرگ
در ژانویه، نیویورک تایمز تحقیق درباره ClearviewAI، که یک شرکت کوچک ارائه‌دهنده فناوری شناسایی چهره است را منتشر کرد. این شرکت الگوریتم خود را بر روی پایگاه داده میلیاردها عکس گرفته‌شده از شبکه‌های اجتماعی اجرا کرد. ادارات پلیسی که از فناوری این شرکت استفاده می‌کردند به عکس‌های فیس‌بوک شما دسترسی داشتند تا در هنگام تحقیقات تصاویر اغلب تار یا ناقص را با آنها تطابق دهند.
این شرکت به شدت مورد انتقاد قرار گرفت و گزارش BuzzFeed News نشان داد که فناوری این شرکت توسط حدود 2200 دستگاه اجرای قانون در ایالات متحده و همچنین توسط اداره مهاجرت و گمرک، وزارت دادگستری و خرده فروشانی از جمله Macy و والمارت استفاده می‌شود.
جیمسون اسپیواک، متخصص سیاستگذاری در مرکز حفظ حریم خصوصی و فناوری دانشگاه جورج تاون می‌گوید: «داستان Clearview واقعاً بسیاری از مردم را ترسانده است. بسیاری از نگرانی‌ها بر آسیب‌پذیری این حوزه متمرکز است. در حالی که شرکت‌های بزرگی مانند IBM و Microsoft وزن قابل توجهی دارند، شرکت‌های خصوصی کوچک‌تری همچون ClearviewAI و NtechLab نیز وجود دارند که به صورت چراغ خاموش و به دور از نظارت عمومی در حال فعالیت هستند.» این گزارش همچنین نشان داد که مردم در مورد استفاده گسترده دولت از این فناوری اطلاعات زیادی ندارند.

اعتراضات نژادی به عنوان یک کاتالیزور
این داستان‌ها آگاهی نسبت به خطرات و مشکلات به کارگیری این فناوری را افزایش داد، اما اسپیواک می‌گوید اعتراضات جنبش «زندگی سیاهان مهم است» که پس از قتل جورج فلوید شروع شد بزرگ‌ترین کاتالیزور برای قانون محدود کردن استفاده از تشخیص چهره در ایالات متحده بود. ایتجا بود که آمریکایی‌ها ناگهان شروع به بررسی مجدد ابزارها، سیاست‌ها و غیره کردند.
پیش از این نگرانی از وقتی آغاز شده بود که جوی بولاموینی و تیمنیت گبرو سوگیری نژادی را در سرویس‌های تجاری شناسایی چهره در سال 2018 کشف و مستند کردند، و این خود منجر به تصویب قوانینی در چندین شهر و ایالت آمریکا شد که پلیس را از استفاده از این فناوری در دوربین‌های متصل به لباس منع کرد.
اما در جریان بزرگترین حرکت اعتراضی در تاریخ آمریکا، فعالان مدنی نگران بودند که پلیس از ابزارهای نظارتی برای تلافی‌کردن استفاده کند. از آن زمان تأیید شده است که حداقل ادارات پلیس نیویورک، میامی و واشنگتن دی سی از فناوری شناسایی چهره برای شناسایی افراد معترض استفاده کرده‌اند.

در تاریخ 1 ژوئن در واشنگتن دی سی، پلیس با استفاده از اسپری فلفل و گاز اشک‌آور معترضین را در میدان لافایت به عقب راند تا رئیس جمهور بتواند در کلیسای مجاور عکس بگیرد. در میان این هرج و مرج، یک معترض با مشت به یک افسر پلیس زد . چند روز بعد، مأموران تصویری از این مرد را در توییتر پیدا کردند و آن را از طریق سیستم تشخیص چهره خود تطییق دادند و آن فرد را دستگیر کردند. به همین شکل در میامی، یک زن که متهم به پرتاب سنگ به سمت پلیس در جریان اعتراض‌ها شده بود، با استفاده از فناوری تشخیص چهره دستگیر شد.
اسپیواک شاهد بود که فعالان مدنی در طول تابستان و پاییز گروه‌های خواهان اصلاحات در پلیس از جمله اتحادیه آزادی‌های مدنی آمریکا با گروه‌های اصلاح پلیس علیه فناوری شناسایی چهره همکاری می‌کنند. کار تا آنجا پیش رفت که در پورتلند، یک معترض برای شناسایی افسران پلیس گمنام یک سیستم تشخیص چهره ایجاد کرد.
با شروع سال 2020 قانونی برای محدود‌کردن استفاده پلیس از این فناوری در سطح شهری، ایالتی و حتی فدرال ارائه شد. در ماه ژوئن، قانون‌گذاران دموکرات لایحه‌ای را ارائه کردند که استفاده از این فناوری را به دلیل مشکلات تشخیص چهره توسط مجریان قانون فدرال را ممنوع می کرد. در ورمونت، با یک فرمان اجرایی از طرف فرماندار، ممنوعیت استفاده دولت از این فناوری در سراسر ایالت اعلام شد. همچنین در ماساچوست، تابستان امسال شهرهای کمبریج و بوستون استفاده از این فناوری را ممنوع اعلام کردند و دولت ایالتی در ماه دسامبر ممنوعیت به کارگیری تشخیص چهره برای نیروهای انتظامی را تصویب کرد.

این مباحث در ایالت کالیفرنیا نیز داغ بود و در حال حاضر شهرهای سانفرانسیسکو و اوکلند استفاده از این فناوری توسط نیروی انتظامی را ممنوع کرده‌اند و دلیل آن چیزی نیست جز مشکلات تشخیص چهره. در ماه ژوئیه، شهر نیویورک مهلت داد که تا سال 2022 استفاده از فناوری شناسایی چهره در مدارس متوقف شود. درشهر اورگان قانونی تصویب شد که استفاده از این فناوری را توسط گروه‌های دولتی یا خصوصی ممنوع می‌کند.

اما همانطور که دیترویت نشان داد، این تغییرات در همه جا اتفاق نمی‌افتد. اسپیواک حدس می‌زند که پویایی قدرت نژادی ممکن است در این جنگ سیاسی درمورد نظارت پلیس تأثیر بگذارد. او می‌گوید: «اگر به بسیاری از شهرهایی که جزو اولین‌هایی بودند که به‌کارگیری فناوری تشخیص چهره را ممنوع کردند نگاه کنید، آن‌ها به طور معمول – نه همیشه- ثروتمندتر، سفیدپوست‌تر و بسیار مترقی‌تر بوده‌اند که با سرمایه سیاسی بیشتری که دارند توانایی تأثیرگذاری بر قانونگذاران را داشته‌اند.»

چشم‌انداز فناوری تشخیص چهره
با وجود این مباحث، همه واکنش‌ها به قانون‌گذاری منجر نشده است. در اوایل ماه ژوئن IBM اعلام کرد که فروش محصولات مبتنی بر تشخیص چهره خود را متوقف کرده است. همچنین آمازون و مایکروسافت نیز قراردادهای خود با ادارات پلیس را به طور موقت لغو کردند. در ماه ژوئیه ACLU شکایتی علیه ClearviewAI به دلیل عدم رعایت قانون حفظ حریم خصوصی ثبت کرد.
همچنین ACLU به تلاش‌های خود برای پیش‌نویس قانونی که به دنبال ممنوعیت این فناوری است، ادامه می‌دهد. در بیانیه‌ای در وب سایت این سازمان آمده است که این سازمان برای دفاع از حقوق انسان‌ها در برابر خطرات فزاینده ورود این فناوری به دادگاه‌ها، خیابان‌ها، مجالس قانونگذاری، شوراهای شهر و حتی دفاتر شرکت‌ها تلاش‌های خود را ادامه می‌دهد.
در هر صورت اولویت‌های دولت جدید آمریکا مقررات در مورد این فناوری را در سال 2021 و بعد از آن تعیین می‌کند. کمالا هریس به عنوان معاون ریاست جمهوری، اصلاح به کارگیری فناوری تشخیص چهره در اجرای قانون را به عنوان بخشی از برنامه اصلاح پلیس خود ذکر کرده است.