افشای کدهای پنهان در اپلیکیشن عینک‌های هوشمند متا

این سیستم شامل مجموعه‌ای از مدل‌های هوش مصنوعی برای تشخیص، پردازش و ایجاد اثر انگشت بیومتریک چهره است؛ معماری‌ای که می‌تواند امکان شناسایی افراد در محیط واقعی را برای کاربران عینک‌های هوشمند فراهم کند. اگرچه متا اعلام کرده بود هنوز تصمیمی برای عرضه عمومی چنین قابلیتی نگرفته است، تحلیل کدهای نسخه‌های منتشرشده اپ نشان می‌دهد بخش‌های اصلی این فناوری مدتی روی دستگاه کاربران وجود داشته‌اند.

کشف NameTag؛ فناوری تشخیص چهره پنهان در اپ متا

بررسی نسخه‌های مختلف اپلیکیشن Meta AI که برای مدیریت عینک‌های هوشمند متا توسعه یافته، نشان می‌دهد این شرکت مجموعه‌ای از مؤلفه‌های نرم‌افزاری لازم برای اجرای یک سیستم کامل تشخیص چهره را در اختیار داشته است.

بر اساس تحلیل کدها، NameTag شامل سه مدل اصلی هوش مصنوعی است:

• SCRFD برای شناسایی چهره در تصویر
• KPSAligner برای برش و هم‌ترازسازی دقیق چهره
• SFace برای تبدیل تصویر چهره به یک بردار بیومتریک ۲۰۴۸ بُعدی که با نام faceprint شناخته می‌شود

این فرآیند مشابه ایجاد یک «اثر انگشت دیجیتال» برای چهره است. سیستم ابتدا چهره مشاهده‌شده توسط دوربین را استخراج می‌کند، ویژگی‌های آن را به یک بردار عددی تبدیل می‌کند و سپس آن را با داده‌های ذخیره‌شده روی دستگاه مقایسه می‌کند.

در صورت یافتن تطبیق، اپلیکیشن می‌تواند هشداری مانند Person recognized نمایش دهد. در مقابل، چهره‌هایی که هنوز در فهرست شناخته‌شده قرار ندارند، در قالب داده‌های موقت شامل تصویر برش‌خورده و اطلاعات بیومتریک مرتبط ذخیره می‌شوند تا در فرآیندهای بعدی مورد استفاده قرار گیرند.

نکته مهم در این معماری آن است که بخش قابل توجهی از پردازش روی خود گوشی انجام می‌شود؛ موضوعی که از یک سو می‌تواند با هدف کاهش ارسال داده به سرور طراحی شده باشد اما از سوی دیگر پرسش‌هایی درباره نحوه ذخیره‌سازی، مدیریت و استفاده احتمالی از این داده‌ها ایجاد می‌کند.

دو پژوهشگر مستقل امنیتی، از جمله «کوپر کوئینتین» از بنیاد مرزهای الکترونیکی (EFF) و پژوهشگری با نام مستعار «بوچودی»، یافته‌های مربوط به ساختار NameTag را بررسی و تأیید کردند.

بوچودی برای آزمایش عملکرد سیستم، یک faceprint متعلق به «میشل فوکو»، فیلسوف فرانسوی، را به سیستم اضافه کرد و گزارش داد که اپلیکیشن توانست آن را با پیام «Person recognized» شناسایی کند.

کوئینتین در واکنش به این یافته‌ها هشدار داد که چنین فناوری‌ای می‌تواند ظرفیت تبدیل کاربران عادی به بخشی از یک شبکه نظارت توزیع‌شده را ایجاد کند؛ زیرا میلیون‌ها دستگاه مجهز به دوربین می‌توانند در صورت فعال شدن این قابلیت، توانایی شناسایی افراد در فضای عمومی را پیدا کنند.

فاصله میان روایت رسمی متا و آنچه کدها نشان می‌دهند

افشای NameTag زمانی اهمیت بیشتری پیدا می‌کند که با موضع رسمی متا مقایسه شود.

این شرکت پیش‌تر اعلام کرده بود که فناوری تشخیص چهره روی عینک‌های هوشمند را صرفاً به‌عنوان یک موضوع تحقیقاتی بررسی می‌کند و هنوز تصمیمی برای عرضه چنین قابلیتی نگرفته است. سخنگوی متا نیز تأکید کرده بود که این شرکت در حال ساخت یک پایگاه داده مرکزی از چهره افراد نیست.

اما بررسی کدهای اپلیکیشن نشان می‌دهد مؤلفه‌های اصلی مورد نیاز برای چنین سیستمی، از جمله مدل‌های هوش مصنوعی، ساختار ذخیره‌سازی داده‌های بیومتریک و سیستم اعلان، در نسخه‌های منتشرشده اپ وجود داشته‌اند.

این موضوع لزوماً به معنای فعال بودن عمومی قابلیت برای تمام کاربران نیست اما نشان می‌دهد زیرساخت فنی آن تا مرحله‌ای پیش رفته بوده که امکان آزمایش و توسعه آن وجود داشته است.

چند روز پس از انتشار گزارش WIRED، نسخه جدیدی از اپلیکیشن Meta AI منتشر شد که در آن بخش‌هایی از کدهای مرتبط با NameTag حذف شده بودند. متا درباره علت این حذف توضیح فنی گسترده‌ای ارائه نکرد اما این تغییر باعث شد پرسش‌هایی درباره وضعیت واقعی پروژه و میزان آمادگی آن مطرح شود.

بازگشت متا به پرونده قدیمی تشخیص چهره

NameTag نخستین تجربه متا در حوزه تشخیص چهره نیست. این شرکت سال‌ها پیش، زمانی که هنوز با نام فیسبوک فعالیت می‌کرد، یکی از گسترده‌ترین سیستم‌های تشخیص چهره مصرفی جهان را توسعه داده بود.

فیسبوک از سال ۲۰۱۰ قابلیتی را ارائه کرد که می‌توانست چهره افراد در تصاویر را تحلیل کند و به کاربران پیشنهاد دهد چه کسانی را در عکس‌های خود تگ کنند. این سیستم طی سال‌های بعد به یکی از بزرگ‌ترین سامانه‌های تشخیص چهره در جهان تبدیل شد و طبق گزارش‌های منتشرشده، بیش از یک میلیارد قالب چهره (face template) ایجاد کرده بود.

اما همین فناوری به یکی از مهم‌ترین چالش‌های حقوقی و حریم خصوصی برای شرکت تبدیل شد. منتقدان معتقد بودند جمع‌آوری داده‌های بیومتریک کاربران بدون رضایت روشن و قابل فهم، می‌تواند پیامدهای جدی داشته باشد.

در نهایت، متا با چندین پرونده حقوقی مرتبط با داده‌های بیومتریک مواجه شد. این شرکت برای پایان دادن به شکایت دسته‌جمعی کاربران در ایالت ایلینوی آمریکا، توافقی ۶۵۰ میلیون دلاری انجام داد. همچنین در تگزاس با پرونده‌ای درباره جمع‌آوری و استفاده از داده‌های تشخیص چهره مواجه شد که به توافق ۱.۴ میلیارد دلاری انجامید.

در نوامبر ۲۰۲۱، متا اعلام کرد سیستم تشخیص چهره فیسبوک را تعطیل می‌کند و قالب‌های چهره ذخیره‌شده را حذف خواهد کرد. این تصمیم در آن زمان به‌عنوان عقب‌نشینی شرکت از یکی از بحث‌برانگیزترین فناوری‌هایش تعبیر شد.

با این حال، ورود دوباره چنین قابلیتی به اکوسیستم عینک‌های هوشمند نشان می‌دهد تشخیص چهره همچنان یکی از فناوری‌های مورد توجه متا باقی مانده است؛ تفاوت اصلی این بار در آن است که این فناوری دیگر فقط در یک شبکه اجتماعی و روی تصاویر آپلودشده کاربران حضور ندارد بلکه می‌تواند در قالب یک ابزار پوشیدنی و در فضای واقعی زندگی افراد مورد استفاده قرار گیرد.

از ابزار کمکی برای نابینایان تا نگرانی درباره نظارت عمومی

یکی از مهم‌ترین استدلال‌هایی که در دفاع از توسعه NameTag مطرح شده، کاربردهای کمکی آن برای افراد نابینا و کم‌بینا است.

تحقیقات مشترک فیسبوک و دانشگاه Cornell Tech نشان داده بود که «شناختن افراد» یکی از نیازهای واقعی بسیاری از کاربران دارای اختلال بینایی است. برای فردی که قادر به دیدن چهره‌ها نیست، توانایی تشخیص اعضای خانواده، دوستان یا افرادی که در محیط کاری با آن‌ها تعامل دارد، می‌تواند یک قابلیت مهم و کاربردی باشد.

بر همین اساس، گزارش‌هایی منتشر شده بود که متا قصد داشت قابلیت‌هایی مشابه NameTag را ابتدا در محیط‌هایی مرتبط با کاربران نابینا معرفی کند؛ رویکردی که می‌توانست بر جنبه‌های انسانی و کاربردی فناوری تأکید کند.

اما نگرانی اصلی مدافعان حریم خصوصی این است که یک فناوری طراحی‌شده برای گروهی مشخص، ممکن است در صورت عرضه عمومی به شکل دیگری مورد استفاده قرار گیرد.

تفاوت مهم میان یک ابزار کمکی و یک سیستم عمومی تشخیص چهره، در مقیاس استفاده و محیط کاربرد آن است. وقتی یک فناوری از یک دستگاه تخصصی به محصولی مصرفی با میلیون‌ها کاربر تبدیل می‌شود، امکان استفاده‌های پیش‌بینی‌نشده نیز افزایش پیدا می‌کند.

در مورد عینک‌های هوشمند، این نگرانی شدیدتر است؛ زیرا دوربین روی صورت کاربر قرار دارد و برخلاف تلفن همراه، می‌تواند در لحظه و بدون حرکت آشکار دست، محیط اطراف را ثبت کند.

از دید منتقدان، مسئله اصلی فقط توانایی شناسایی یک فرد خاص نیست؛ بلکه ایجاد فرهنگی است که در آن افراد در فضاهای عمومی ندانند آیا توسط یک دستگاه پوشیدنی در حال اسکن شدن هستند یا نه.

تبدیل عینک‌های هوشمند به زیرساخت‌های بیومتریک

تحلیل NameTag نشان می‌دهد مسئله فقط یک قابلیت نرم‌افزاری ساده نیست بلکه بخشی از روند بزرگ‌تر حرکت عینک‌های هوشمند به سمت تبدیل شدن به حسگرهای دائماً فعال است.

نسل جدید این محصولات دیگر صرفاً برای پخش صدا، نمایش اعلان‌ها یا تعامل با دستیارهای هوش مصنوعی طراحی نمی‌شوند؛ بلکه مجموعه‌ای از حسگرها را در اختیار دارند که می‌توانند محیط اطراف کاربر را تحلیل کنند.

در چنین شرایطی، اضافه شدن قابلیت تشخیص چهره یک تغییر بنیادی ایجاد می‌کند، دستگاه دیگر فقط اطلاعات مربوط به جهان اطراف را دریافت نمی‌کند بلکه می‌تواند درباره «هویت افراد حاضر در آن جهان» نیز استنتاج کند.

«کوپر کوئینتین»، پژوهشگر امنیتی بنیاد مرزهای الکترونیکی پس از بررسی ساختار NameTag هشدار داد که چنین معماری‌ای می‌تواند ظرفیت تبدیل مشتریان متا به یک شبکه نظارتی توزیع‌شده را ایجاد کند.

یکی از بخش‌های بحث‌برانگیز این سیستم، نحوه برخورد با چهره‌های ناشناس است. بر اساس تحلیل‌های منتشرشده، چهره‌هایی که هنوز در پایگاه داده شناخته‌شده قرار ندارند، می‌توانند به شکل تصویر برش‌خورده و داده بیومتریک موقت ذخیره شوند.

حتی اگر این داده‌ها در وضعیت فعلی تنها روی دستگاه باقی بمانند، منتقدان معتقدند تغییر سیاست‌های آینده یا اتصال این داده‌ها به سرویس‌های ابری می‌تواند پیامدهای گسترده‌ای ایجاد کند.

به همین دلیل، بحث اصلی درباره NameTag فقط مربوط به وضعیت فعلی فناوری نیست؛ بلکه درباره این پرسش است که چه زیرساختی برای آینده ساخته می‌شود.

شکاف‌های شفافیت؛ چه کسی صاحب داده چهره است؟

حتی پس از انتشار گزارش‌های مربوط به NameTag، بسیاری از پرسش‌های اساسی درباره نحوه عملکرد و سیاست‌های آینده این فناوری همچنان بی‌پاسخ مانده است.

مهم‌ترین پرسش این است که چه کسانی می‌توانند در پایگاه داده چهره‌های قابل‌شناسایی قرار بگیرند و فرآیند اضافه شدن یک فرد به این فهرست چگونه انجام خواهد شد.

در یک سیستم تشخیص چهره، تفاوت بزرگی میان ذخیره‌سازی یک تصویر ساده و ایجاد یک شناسه بیومتریک وجود دارد. تصویر را می‌توان حذف کرد اما یک faceprint یا بردار بیومتریک، نمایشی عددی از ویژگی‌های منحصربه‌فرد چهره فرد است که می‌تواند برای مقایسه‌های بعدی مورد استفاده قرار گیرد.

متا تاکنون توضیح دقیقی درباره چند موضوع کلیدی ارائه نکرده است:

• آیا کاربران باید به‌صورت فعال این قابلیت را روشن کنند یا به‌صورت پیش‌فرض فعال خواهد بود؟
• آیا افرادی که چهره‌شان ثبت می‌شود باید از این موضوع مطلع باشند؟
• آیا داده‌های بیومتریک تولیدشده هرگز به سرورهای متا منتقل خواهند شد؟
• چه مدت این داده‌ها روی دستگاه باقی خواهند ماند؟
• آیا کاربران امکان حذف کامل داده‌های چهره ذخیره‌شده را خواهند داشت؟

این پرسش‌ها اهمیت بیشتری پیدا می‌کنند زیرا عینک‌های هوشمند برخلاف بسیاری از ابزارهای دیجیتال دیگر، در محیط‌های عمومی استفاده می‌شوند؛ محیط‌هایی که افراد حاضر در آن الزاماً کاربر محصول نیستند و هیچ قراردادی با شرکت سازنده ندارند.

«وودرو هارتزوگ»، استاد حقوق حریم خصوصی در دانشگاه بوستون، هشدار داده است که حتی مدل‌های مبتنی بر opt-in نیز همیشه تضمین‌کننده رضایت واقعی نیستند. از نگاه او، در بسیاری از فناوری‌های داده‌محور، انتخاب کاربران ممکن است تحت تأثیر فشارهای اجتماعی، شغلی یا اقتصادی قرار گیرد.

به بیان دیگر وقتی یک فناوری به اندازه کافی فراگیر شود، مسئله فقط این نیست که افراد می‌توانند آن را انتخاب کنند یا نه؛ بلکه این است که آیا جامعه به شرایطی می‌رسد که بدون استفاده از آن، فرد احساس عقب‌ماندگی یا محدودیت کند.

سیاست، زمان‌بندی و رقابت در بازار پوشیدنی‌های هوش مصنوعی

بحث درباره NameTag تنها یک موضوع فنی نیست؛ بلکه بخشی از رقابت بزرگ‌تر برای ساخت نسل بعدی دستگاه‌های پوشیدنی هوشمند است.

عینک‌های هوشمند در حال تبدیل شدن به یکی از میدان‌های اصلی رقابت شرکت‌های فناوری هستند. متا با همکاری برندهایی مانند Ray-Ban و توسعه نسل جدید محصولات خود تلاش می‌کند جایگاه‌ی مشابه آنچه تلفن‌های هوشمند در دهه گذشته ایجاد کردند، در بازار پوشیدنی‌های هوش مصنوعی به دست آورد.

در چنین بازاری، قابلیت‌هایی که تجربه کاربر را «جادویی‌تر» نشان می‌دهند، اهمیت زیادی دارند. توانایی تشخیص افراد حاضر در محیط، یادآوری نام آن‌ها یا ارائه اطلاعات لحظه‌ای درباره افراد می‌تواند از نظر تجربه کاربری جذاب باشد.

اما همین ویژگی‌ها از دید متخصصان حریم خصوصی، مرز میان دستیار هوشمند و ابزار نظارتی را کمرنگ می‌کنند.

گزارش‌هایی درباره اسناد داخلی متا نیز نشان داده‌اند که این شرکت درباره زمان‌بندی معرفی NameTag حساسیت زیادی داشته است. ایده عرضه اولیه این فناوری در محیط‌هایی مانند رویدادهای مرتبط با نابینایان می‌توانست به برجسته کردن کاربردهای مثبت آن کمک کند اما در عین حال این نگرانی وجود دارد که استفاده محدود و تخصصی، به مسیری برای پذیرش عمومی فناوری تبدیل شود.

این مسئله نمونه‌ای از چالشی گسترده‌تر در حوزه هوش مصنوعی است: بسیاری از فناوری‌ها ابتدا با کاربردهای مشخص و محدود معرفی می‌شوند اما پس از ورود به بازار مصرفی، دامنه استفاده آن‌ها بسیار گسترده‌تر می‌شود.

آینده عینک‌های هوشمند؛ وقتی دوربین روی صورت انسان قرار می‌گیرد

ماجرای NameTag نشان می‌دهد آینده عینک‌های هوشمند تنها درباره کوچک‌تر شدن سخت‌افزار یا بهتر شدن دستیارهای صوتی نیست؛ بلکه درباره رابطه جدید انسان با محیط اطراف خود است.

در نسل آینده این محصولات، دوربین‌ها، مدل‌های هوش مصنوعی و حسگرهای مختلف می‌توانند دائماً در کنار انسان حضور داشته باشند و اطلاعاتی از جهان اطراف دریافت کنند.

این تحول فرصت‌های مهمی ایجاد می‌کند. برای افراد دارای معلولیت، چنین فناوری‌هایی می‌توانند استقلال بیشتری ایجاد کنند. برای کاربران عمومی نیز می‌توانند تجربه‌هایی مانند یادآوری اطلاعات، ترجمه لحظه‌ای یا تعامل طبیعی‌تر با محیط فراهم کنند.

اما هم‌زمان، همین فناوری‌ها پرسش‌های اساسی درباره حریم خصوصی، رضایت و کنترل داده ایجاد می‌کنند.

اگر یک تلفن همراه در جیب کاربر قرار دارد و فعال شدن دوربین معمولاً یک اقدام آگاهانه است، یک عینک هوشمند می‌تواند در طول روز همراه فرد باشد و محیط اطراف را بدون تعامل آشکار ثبت و تحلیل کند.

به همین دلیل، چالش اصلی فناوری‌هایی مانند NameTag فقط این نیست که «آیا امکان ساخت آن وجود دارد؟» بلکه این است که «در چه شرایطی، با چه محدودیت‌هایی و تحت چه قوانینی باید استفاده شود؟»

کدها زودتر از سیاست حرکت می‌کنند

پرونده NameTag بار دیگر نشان می‌دهد که در عصر هوش مصنوعی، فاصله میان توانایی فنی شرکت‌ها و چارچوب‌های نظارتی موجود می‌تواند بسیار زیاد باشد.

از نگاه جامعه فناوری، این ماجرا یادآور اهمیت بررسی لایه‌های فنی محصولات است؛ زیرا گاهی قابلیت‌هایی که هنوز در روایت رسمی شرکت‌ها وجود ندارند، در سطح کد و زیرساخت در حال شکل‌گیری هستند.

برای قانون‌گذاران نیز این پرونده نمونه‌ای از چالش‌های آینده است: چگونه باید با فناوری‌هایی برخورد کرد که می‌توانند پیش از شکل‌گیری قوانین، میلیون‌ها کاربر و محیط اجتماعی را تحت تأثیر قرار دهند.

عینک‌های هوشمند احتمالاً یکی از مهم‌ترین رابط‌های انسان و هوش مصنوعی در سال‌های آینده خواهند بود. اما موفقیت آن‌ها تنها به قدرت پردازشی، طراحی زیبا یا قابلیت‌های جذاب وابسته نیست؛ بلکه به میزان اعتمادی بستگی دارد که کاربران و جامعه نسبت به نحوه استفاده از این فناوری‌ها پیدا می‌کنند.

NameTag نشان داد که در دنیای پوشیدنی‌های هوشمند، مرز میان «دستیار شخصی» و «زیرساخت نظارت» ممکن است بسیار باریک‌تر از چیزی باشد که تصور می‌کنیم.