در پی بروز اختلال سراسری در اپلیکیشن و سایت فیسبوک و سایر سرویس‌ها و اپلیکیشن‌های این شرکت در روز چهارشنبه ۱۲ تیرماه، نکته‌ای جالب از عملکرد هوش مصنوعی در شناسایی افراد و اشیا در عکس‌های کاربران سرویس‌های فیسبوک آشکار شد. 

مطلب مرتبط: اختلال سراسری در فیسبوک، اینستاگرام و واتس‌اپ؛ فیسبوک به دنبال رفع مشکل

در پی اختلال یاد‌شده، بارگذاری تصاویر و ویدیوها در فیسبوک و اینستاگرام دچار اختلال شدید شد و طی این مدت، بسیاری از کاربران این دو رسانه اجتماعی امکان مشاهده این نوع از محتوا را نداشتند. اما متنی که در فیسبوک به‌جای تصاویر نمایش داده می‌شد، از کلیدواژه‌هایی پرده برمی‌داشت که با کمک سیستم بینایی ماشینی فیسبوک و الگوریتم هوش مصنوعی این شرکت، روی عکس‌ها تگ شده بود.

تصویر از سایت The Verge

با مرور تصاویری که در فیسبوک باز نمی‌شدند، عنوان آنچه احتمالا در عکس‌ها وجود داشت در قالب متن برملا شد. به‌جای هر تصویر بارگذاری‌نشده، عبارت «تصویر احتمالا شامل:...» دیده می‌شود و در ادامه، عنوانِ آنچه در عکس شناسایی‌شده آمده است. آسمان، درخت، گل، ابر، کفش، تعدادی آدم، آدم‌های ایستاده، فضای داخلی، آدم‌های نشسته و کلیدواژه‌های دیگری که موتور شناسایی و پردازش تصویر فیسبوک در هر عکس تشخیص داده است.

این وضعیت در اینستاگرام هم دیده می‌شد و درباره هر تصویر با توجه به آنچه در عکس بود توضیحاتی وجود داشت. 

به بیان ساده، این برداشتِ کامپیوتر از زندگی شماست؛ هوش مصنوعی فیسبوک شما را این‌گونه قضاوت می‌کند.

Oh yeah!‎ I forgot Facebook uses machine learning to tag our photos with what it sees in the picture.‎



To be fair, "one person, beard" is pretty much a spot-on description of me.‎ pic.twitter.com/fCpydUxtpz

— Zack Whittaker ‪(@zackwhittaker)‬ July 3, 2019

توییت زک ویتاکر، دبیر ارشد سایت تِک‌کرانچ: «اوه آره! فراموش کرده بودم که فیسبوک از [الگوریتم‌های] یادگیری ماشینی برای تگ کردن عکس‌های ما و آنچه در تصویر می‌بیند استفاده می‌کند. اگر بخواهیم منصف باشیم، «یک آدم ریشو» توصیفی خوبی از من است.» 

فیسبوک از الگوریتم شناسایی چهره برای تصاویر هم استفاده کرده است که به این سرویس اجازه می‌دهد افراد را بدون این‌که به‌صورت دستی در عکسی تگ شده باشند، در تصاویر خود فرد یا دوستانش تشخیص دهد و پیشنهاد تگ شدن بدهد. فیسبوک از سال ۲۰۱۷ از این سرویس استفاده کرده است و در اینستاگرام هم استفاده می‌شود تا افراد حاضر در عکس را تشخیص و برای تگ کردن پیشنهاد دهد.

فیسبوک حداقل از آوریل سال ۲۰۱۶، از الگوریتم‌های یادگیری ماشینی برای «خواندن» تصاویر استفاده می‌کند و این پروژه از پروژه‌های بزرگ این شرکت به شمار می‌رفته است. یکی از کاربردهای این روشِ شناسایی خودکار توصیف عکس‌ها یا ویدیوها برای افراد کم‌بینا است.

اما آنچه مشخص نیست این است که آیا فیسبوک از این داده‌ها برای تبلیغات هدفمند هم استفاده می‌کند؟ حجم قابل‌توجهی از اطلاعات در مورد سبک زندگی کاربران از طریق تصاویر و ویدیوهای آن‌ها و با کمک این الگوریتم‌ها در قالب کلیدواژه‌ها استخراج می‌شود؛ مواردی نظیر آیا کاربر حیوان خانگی دارد یا خیر؟ چه علایقی دارد؟ دوست دارد تعطیلات را کجا بگذراند؟ آیا به ماشینی خاص، جمع‌آوری کلکسیون و سایر چیزها علاقه دارد یا خیر؟ فیسبوک می‌تواند از همه این داده‌ها برای تبلیغات هدفمند استفاده کند.

در سال ۲۰۱۷، برنامه‌نویسی که این سوال‌ها برایش مطرح شده بود افزونه‌ای برای مرورگر کروم نوشت که این کلیدواژه‌ها را در صفحه‌های فیسبوک نمایش می‌داد. همان زمان نوشت: «فکر می‌کنم بسیاری از کاربران اینترنت نمی‌دانند چه حجمی از داده‌ها به‌صورت منظم و روزمره از تصاویر استخراج می‌شود.»

Oh yeah!‎ I forgot Facebook uses machine learning to tag our photos with what it sees in the picture.‎



To be fair, "one person, beard" is pretty much a spot-on description of me.‎ pic.twitter.com/fCpydUxtpz

— Zack Whittaker ‪(@zackwhittaker)‬ July 3, 2019

روبن سالوادوری، از سردبیرهای وبسایت ورج، در توییتی کلیدواژه‌های تصویر پروفایل بارگذاری‌نشده‌اش در مدت اختلال فیسبوک را کنار نسخه‌ای از تصویر پروفایلش قرار داد و نوشت: «موتور هوش مصنوعی فیسبوک یک نفر را جا انداخته است. یا من را یا یهودا را» (فیسبوک در تصویر پروفایل سالوادوری، که بر پس‌زمینه‌ای از «شام آخر» است، شش نفر را در محیطی سرپوشیده تشخیص داده است).

بدون در نظر گرفتن چگونگی استفاده از این اطلاعات، سرک کشیدن پشت پرده یکی از بزرگ‌ترین عملیات‌‌های جمع‌آوری داده‌ها جذاب است. ضمن این‌که نشان می‌دهد جهان دیداری ما تا چه حد برای ماشین خوانا و قابل‌فهم شده است.

پیشرفت در مباحثی مانند «یادگیری عمیق» در سال‌های اخیر در حوزه بینایی ماشینی و خوانایی متن‌واره محتوای دیداری برای کامپیوترها، انقلابی ایجاد کرده است. اما روشن است که این روشی آسان برای نگهداری، تحلیل و استخراج داده‌ها از تصاویر و محتوای تصویری است که ما از آن بی‌خبریم و فقط در زمان‌هایی مثل اختلال اخیر در فیسبوک ممکن است متوجهش شویم.