شرکت فیسبوک از ابزار تازه‌ای مبتنی بر هوش مصنوعی رونمایی کرده است که می‌تواند جلوی سوء‌استفاده از عکس‌های خصوصی را بگیرد و انتشار آن‌ها را غیرممکن کند. این فناوری قابلیت تشخیص تصاویر با محوریت «پورن انتقامی» را دارد.

انتشار بدون رضایت تصاویر خصوصی افراد یکی از چالش‌های همیشگی فضای اینترنت به حساب می‌آمده است. اصطلاح پورن انتقامی تعریفی مشخص دارد: سوءاستفاده از تصاویر شخصی دیگران با هدف انتقام یا آزار و اخاذی. تصاویری که با چنین هدفی منتشر می‌شوند گاه حتی ساختگی‌اند، اما مساله اصلی انتشار آن‌ها بدون اجازه شخصی است که در تصویر حضور دارد. این‌گونه تصاویر، چه در قالب عکس باشد چه ویدیو، معمولا با صحنه‌های برهنه یا انجام اعمال جنسی همراه است. انتشار این تصاویر همواره عواقب ویران‌کننده‌ای برای شخص حاضر در آن‌ها به همراه دارد.

بنا بر بیانیه رسمی منتشر‌شده در فیسبوک، این ابزار تازه برای تشخیص عکس‌ها و ویدیوهای برهنه یا نیمه‌برهنه‌ای که بی‌اجازه منتشر شده‌اند، هم‌زمان از هر دو فناوری هوش مصنوعی و یادگیری ماشینی استفاده می‌کند.

فیسبوک می‌گوید قابلیت یاد‌شده را برای رسانه اجتماعی اینستاگرام نیز فعال کرده است.

این شرکت حدود دو سال پیش، با همکاری سازمان‌های مدافع قربانیان جنسی، در برنامه‌ای آزمایشی، از کاربرانش خواسته بود به میل و رضایت خود تصاویر خصوصی‌شان را برای این مجموعه ارسال کنند تا در ساخت ابزار هوشمندی برای تشخیص مناسب این‌گونه محتوا استفاده شوند. حالا به نظر می‌رسد پس گذشت دو سال، ابزار یاد‌شده آماده استفاده وسیع در شبکه‌های این رسانه اجتماعی است.

این ابزار شبیه همان ابزاری است که در حال حاضر رسانه‌های اجتماعی مختلف برای جلوگیری از انتشار تصاویر کودک‌آزاری استفاده می‌کنند.

هوش مصنوعی تازه فیسبوک برای تشخیص محتوای پورن انتقامی به گزارش خود قربانی نیاز ندارد. فیسبوک این ویژگی را «مهم» می‌داند، چرا که در چنین مواقعی، قربانی ممکن است از ترس تلافی دوباره، از گزارش مساله هراس داشته باشد. علاوه بر این، در بسیاری از موارد، خود قربانی از انتشار تصاویرش مطلع نیست.

فیسبوک در خصوص سازوکار مربوط به چگونگی شناسایی تصاویر جزییات بیشتری ارائه نکرده است، اما آنچه مشخص است فناوری یاد‌شده فراتر از ابزاری برای تشخیص تصاویر برهنه عمل می‌کند.

پس از آن‌که ابزار مورد‌نظر تصویری را تشخیص دهد، یکی از کارکنان آموزش‌دیده محتوا را بررسی می‌کند و در صورتی‌که تصویر منتشر‌شده قوانین فیسبوک را نقض کرده باشد، از این رسانه حذف خواهد شد. در بیشتر موارد نیز حساب فرد منتشر‌کننده تعلیق می‌شود. در مواردی که فرایند طی‌شده به اشتباه صورت گرفته باشد، امکان درخواست بررسی دوباره وجود دارد.

فیسبوک می‌گوید پرداختن به مساله پورن انتقامی امری بسیار حیاتی است، چرا که این موضوع می‌تواند عواقبی مانند اضطراب، افسردگی، میل به خودکشی یا حتی اختلال استرس پس از ضایعه روانی را برای قربانیان به همراه داشته باشد. علاوه بر این، چنین موضوعی می‌تواند به مسائلی مانند از دست دادن شغل یا از دست دادن روابط اجتماعی نیز منجر شود. افرادی که در جوامع سنتی یا مذهبی زندگی می‌کنند حتی با خطر طرد، تبعید یا آزار و آسیب‌های جسمی هم رو‌به‌رو می‌شوند.

قرار است فیسبوک طی ماه‌های آینده، با همکاری شرکای محلی‌اش، راهکاری برای حمایت از قربانیان پورن انتقامی طرح کند. این همکاری، در مرحله اول، با سازمان‌های مرتبط و فعال در کشورهای بریتانیا، ایالات متحده، برزیل، پاکستان و کره جنوبی آغاز خواهد شد.