صنعت ویديوهای پورن جعلی (Pornogheraphic Deepfakes) در مقیاس نگران کننده ای مسلح شده است. این مقیاس نگران کننده آنقدر است که حداقل ۱۰۴ هزار زن را هدف حمله یک ربات قرار می دهد و از ماه ژوئیه در برنامه پیام رسان تلگرام فعالیت می کند. هر ماه هزاران نفر از این ربات استفاده می کنند که از آن برای ایجاد تصاویر برهنه از دوستان و اعضای خانواده استفاده می کنند، به نظر می رسد برخی از آنها زیر ۱۸ سال هستند. این محتواها توسط یک ربات دیپ فیک پورن تلگرام تولید شده اند.
تصاویر زنان برهنه با استفاده از هوش مصنوعی ایجاد می شود که لباس ها را از یک عکس غیر برهنه «پاک می کند». هر روز ربات گالری تصاویر جدید را به یک کانال تلگرامی ارسال می کند که تقریبا 25000 مشترک دارد. مجموعه تصاویر به طور مشخص حدود ۳۰۰۰ بار مشاهده می شوند. یک کانال تلگرامی جداگانه که ربات را تبلیغ می کند، بیش از 50،000 مشترک دارد.
برخی از تصاویر تولید شده توسط ربات گنگ هستند اما بسیاری از آنها می توانند برای تصاویر اصلی برهنه استفاده شوند. جورجیو پاتریینی، مدیرعامل و دانشمند ارشد شرکت تشخیص دیپ فیک به نام Sensity که تحقیق را انجام داده، می گوید:
“شاید اولین بار است که این موارد را در مقیاس گسترده مشاهده می کنیم.”
این شرکت یافته های خود را در تلاش برای تحت فشار قرار دادن سرویس هایی که میزبان این محتوا هستند استفاده می کند تا تبلیغات را حذف کند اما به طور علنی از کانال های تلگرامی درگیر، نام نمی برد.
تعداد واقعی زنان هدف این ربات deepfake احتمالا بیش از 104،000 نفر است. Sensity تنها قادر به شمردن تصاویر به اشتراک گذاشته شده به صورت عمومی بود و ربات به مردم این امکان را می دهد تا به صورت خصوصی عکس تولید کنند. پاترینی می گوید:
“بیشترین علاقه به حمله به افراد خاص ( اطرافیان کاربران) است.” “اکثریت عظیم آن برای افرادی است که ما حتی نمی توانیم آنها را بشناسیم.”
ربات دیپ فیک پورن در تلگرام
در نتیجه، احتمالا تعداد بسیار کمی از زنانی که مورد هدف قرار گرفته اند می دانند که تصاویر وجود دارد. ربات و تعدادی از کانال های تلگرامی متصل به آن در درجه اول روسی هستند اما ترجمه های انگلیسی زبان را نیز ارائه می دهند. Sensity اضافه می کند، در تعدادی از موارد، تصاویر ایجاد شده حاوی دخترانی است که زیر ۱۸ سال هستند، و می گوید هیچ راهی برای تأیید این مسئله وجود ندارد اما مراتب قانونی را از وجود آنها آگاه کرده است.
برخلاف سایر فیلم های DeepFake بدون اجازه، که میلیون ها بازدید را در وب سایت های پورنو جمع کرده است، ایجاد این تصاویر به هیچ دانش فنی احتیاج ندارد. این فرایند به صورت خودکار انجام می شود و هر کسی می تواند از آن استفاده کند. این کار به راحتی آپلود تصویر در هر سرویس پیام رسانی است.
این تصاویر برهنه به طور خودکار ایجاد می شوند هنگامی که افراد تصویری پوشیده از قربانی را از طریق تلفن یا دسکتاپ خود در ربات تلگرام آپلود می کنند. تحلیل Sensity می گوید این فناوری فقط روی تصاویر زنان کار می کند. استفاده از ربات رایگان است اگرچه افراد را به ده تصویر در روز محدود می کند و برای حذف واترمارک سفید از تصاویر باید پرداخت شود. Sensity می گوید که نسخه پریمیوم آن برای ۱۱۲ تصویر حدود ۸ دلار قیمت دارد.
ماری آن فرانک، استاد حقوق دانشگاه میامی می گوید:
“این یک مدرک تأییدکننده است برای تمام ترس هایی که در ابتدا کسانی که در مورد این فناوری شنیدند، ایجاد کردند.”
فرانکس پیش از انتشار درباره Sensity بازخورد داد، اما در یافته های نهایی گزارش دخیل نبود.
“اکنون این واقعیت وحشتناک تر نیز وجود دارد که مهم نیست که شما هرگز به کسی عکس برهنه داده اید یا نداده اید و یا هر نوع داده صمیمی را با کسی به اشتراک گذاشته یا نگذاشته اید، تمام آنچه که آنها نیاز دارند تصویر چهره شما است.”
اعتقاد بر این است که ربات تلگرام توسط نسخه ای از نرم افزار DeepNude طراحی شده است. Vice برای اولین بار در ژوئن 2019 از DeepNude خبر داد. سازنده اصلی برنامه را به دلیل ترس از نحوه استفاده از آن متوقف، اما قبل از اینکه فقط در چند روز به 95000 دانلود برسد.
به سرعت از نسخه پشتیبان تهیه و کپی شد. نرم افزار DeepNude با استفاده از یادگیری عمیق، آنچه که بدن قربانیان به نظر می رسد را تولید می کند. هوش مصنوعی بر روی مجموعه ای از تصاویر زنان با لباس و برهنه آموزش دیده است و قادر است اعضای بدن را در تصاویر نهایی ترکیب کند.
Patrini می گوید:
“این اکنون چیزی است که جامعه در یک برنامه پلتفرم پیام رسانی تعبیه کرده است و بنابراین آنها قابلیت استفاده و سهولت دسترسی به این نوع فن آوری را به جلو سوق داده اند.” ربات تلگرام توسط سرورهای خارجی تأمین می شود، به این معنی که مانع های ورود شما را کاهش می دهد. “به نوعی، این به معنای واقعی کلمه، این یک Deepfake به عنوان یک سرویس است.”
تلگرام به سوالات مربوط به ربات و تصاویر سو استفاده کننده از آن پاسخ نداد.
گزارش Sensity همچنین می گوید که این شرکت وقتی ربات و کانال ها را چند ماه پیش گزارش کرد، تلگرام هیچ پاسخی نداد. این شرکت خدمات محدودی دارد. یکی از سه نقطه آن می گوید که مردم نباید “محتوای غیرقانونی پورنوگرافی را در کانال های تلگرامی، ربات ها و غیره که دارای نمایش عمومی هستند، ارسال کنند.”
در مجموعه گسترده ای از سوالات متداول، تلگرام می گوید که درخواست های “حذف کردن محتوای عمومی غیرقانونی” را پردازش می کند. این اضافه می کند که اگر گزارش ها مربوط به چت های تلگرام و گپ های گروهی خصوصی باشد، شرکت درخواست های مربوط به آنها را پردازش نمی کند، با این حال کانال ها و ربات ها به صورت عمومی در دسترس هستند. بخشی در مورد حذف ها می گوید:
“ما می توانیم ربات های پورنو را حذف کنیم.”
قبل از انتشار این مقاله، کانال تلگرامی که گالری تصاویر روزانه جعلی بات را تولید می کرد، همه پیام های موجود در آن را حذف می کرد. مشخص نیست که این تصاویر توسط چه کسانی برداشته شده اند.
برای این نوع فعالیت ها معمولاً داده هایی در مورد افرادی که از ربات استفاده کرده اند و اهداف آنها وجود دارد. در کانال های تلگرامی متصل به ربات، یک “سیاست حفظ حریم خصوصی” دقیق وجود دارد و افرادی که از این سرویس استفاده می کنند به نظرسنجی های مربوط به رفتار خود پاسخ داده اند.
یک نظرسنجی ناشناس که در ژوئیه 2019 به کانال تلگرام ارسال شد، بیش از 7200 نفر پاسخ دادند، که 70 درصد این افراد گفتند که آنها از “روسیه، اوکراین، بلاروس و قزاقستان و کل اتحاد جماهیر شوروی سابق” بودند. همه مناطق دیگر جهان کمتر از شش درصد سهم نظرسنجی را داشتند. افرادی که از ربات استفاده می کنند نیز گزارش دادند که آن را از شبکه رسانه های اجتماعی روسی VK پیدا کرده اند. گزارش Sensity می گوید که مقدار زیادی محتوای عمیق جعلی در شبکه اجتماعی پیدا کرده است و ربات همچنین دارای یک صفحه اختصاصی در سایت است. سخنگوی VK می گوید که:
“چنین رفتاری را در پلتفرم تحمل نمی کند” و “این انجمن را برای همیشه مسدود کرده است”.
یک نظرسنجی جداگانه در ژوئیه سال 2019 که توسط 3،300 نفر پاسخ داده شد، انگیزه های افراد برای استفاده از ربات را نشان داد. برای این کار این سوال را پرسیدند:
در وهله اول به چه کسی علاقه دارید که تصویر برهنه آن را ببینید؟
کارشناسان ترس دارند از این نوع تصاویر برای تحقیر و سیاه نمایی زنان استفاده شود. اما همانطور که فناوری deepfake به سرعت بزرگ شده است، قاون قادر به کنترل این بخش نبوده و بیشتر در مورد تأثیرات سیاسی آینده این فناوری متمرکز بوده است.
از آنجا که deepfakes در اواخر سال ۲۰۱۷ اختراع (یا عمومی) شد، بیشتر آنها برای سواستفاده از زنان استفاده می شد. این رشد در سال گذشته نمایی زیادی داشته است زیرا فناوری مورد نیاز برای ارزان تر شدن و استفاده از آنها آسان تر شده است. در جولای 2019 حدود 14،678 فیلم DeepFake بصورت آنلاین وجود داشت، این را یک تحقیق قبلی در مورد Sensity نشان داد. در ژوئن امسال این تعداد به 49،081 رسید. تقریباً همه این فیلم ها ماهیتی پورنوگرافیک داشتند و زنان را هدف قرار می دادند.
در ماه آگوست، WIRED در مورد چگونگی جریان اصلی فیلم های پورنو ساختگی گزارش داد. ماهانه بیش از ۱۰۰۰ فیلم توهین آمیز در بزرگترین وب سایت های پورنو در جهان آپلود می شود. یک ویدیوی 30 ثانیه ای که از چهره بازیگر اما واتسون استفاده می کند و در ۲ وب سایت پورن معروف (از نام بردن معذوریم) میزبانی می شود که هر دو متعلق به یک شرکت هستند و بیش از 30 میلیون بار دیده شده است. در آن زمان این شرکت به درخواست های مربوط به نظر پاسخ نداد، در حالی که یک وب سایت پرون دیگر (همچنان از بردن نام معذوریم، می توانید گزارش اصلی را بخوانید) پس از برجسته کردن فیلم ها توسط WIRED، ده ها فیلم Deepfake را با میلیون ها بازدید از سایت خود پاک کرد.
دستیابی به موفقیت در تصاویر تولید شده توسط ربات سواستفاده کننده، صنعت Deepfake را به سمت قلمرو جدید و خطرناکی سوق می دهد. ربات تلگرام تنها نمونه سیستم پایه DeepNude نیست که در طبیعت استفاده می شود. فروشگاه Google Play دارای برنامه هایی است که مناطقی از عکس ها را به صورت پیکسل درآورده و باعث می شود سوژه ها به هیچ وجه لباس نپوشند یا می گویند از اشعه ایکس برای دیدن لباس افراد استفاده می کنند. وب سایت های دیگر دسترسی مردم به فناوری deepfake را از افراد دریافت می کنند. حتی یک سرویس اشتراک $ 20 در هر ماه ارائه می دهد.
Sensity معتقد است که شخص پشت ربات تلگرام احتمالا در روسیه مستقر است. وقتی پیام در مورد ربات ارسال شد، خالق ان تأثیری که این فناوری داشت، کم اهمیت جلوه داد. خالق ناشناس ادعا کرد:
“همه چیز آزادانه در دسترس است، اگر تصمیم دارید از برنامه سرگرمی برای اهداف خودخواهانه استفاده کنید، در نتیجه شما مسئولیت این کار را بر عهده دارید.”
سیاست حفظ حریم خصوصی ربات ادعا می کند تصاویر تولید شده با استفاده از آن “تقلبی و Deepfake است که نباید به عنوان عکس واقعی یا مربوط به شخصی باشد” و تصاویر “به منظور سرگرمی” تولید می شوند.
نسخه های متعددی از کد DeepNude در پلتفرم نرم افزاری متعلق به مایکروسافت GitHub به صورت عمومی در دسترس است. در زمان نگارش این مطلب، دو مجموعه کد DeepNude در هفته گذشته به روز شده است. در این اسناد آمده است که افراد دارای فکر فنی می توانند از کد بدون واترمارک استفاده کرده و نسخه های نمایشی بهترین عملکرد سیستم را ارائه دهند.
نسخه های منبع باز کد DeepNude در GitHub علی رغم اینکه سازمان قبلا آنها را حذف کرده بود، وجود دارد. پس از اینکه برنامه DeepNude برای اولین بار در ژوئیه 2019 ظاهر شد، GitHub گفت که “سیاست استفاده قابل قبول” خود را نقض کرده و برخی از پرونده ها را حذف کرده است.
وقتی سخنگوی GitHub در مورد پرونده های DeepNude که هنوز روی سیستم عامل آن است ، سوال شد، می گوید محتوای آپلود شده کاربر را کنترل نمی کند مگر اینکه شکایتی دریافت کند. سخنگوی شرکت می گوید:
“ما استفاده از GitHub را برای ارسال محتوای ناپسند جنسی رد نمی کنیم و چنین رفتاری را در شرایط خدمات و خط مشی های استفاده قابل قبول منع می کنیم.”
هنگام نوشتن، تمام نسخه های کد منبع باز در سایت قابل دسترسی بودند.
فرانكس مي گوید، وجود اين تكنولوژی و عدم اقدام برای جلوگیری از گسترش آن توسط شركت هاي فن آوری می تواند باعث آسيب درازمدت برای زنان و دختران شود.
“این قطعاً مانع از صحبت شما، آنچه شما مایل به انجام آن هستید، خطراتی که می توانید بپذیرید، و انواع مشاغلی را که می خواهید درخواست کنید می شود. اینها همه روشهایی است که ما در آنها تأثیر خاموش کننده بر زنان و دختران تحمیل می کنیم. “
نظر شما چیست؟ فکر می کنید که این ربات باید به زودی توسط تلگرام بسته شود؟ از سویی آن ها (افراد پشت این ربات تلگرام) ادعا می کنند که “ابزار” به خودی خود بد نیست و استفاده های بد از آن باعث نمی شود که آن را حذف کنند. از طرفی نقریبا فقط از این ابزار به صورت منفی استفاده یم شود و این یعنی که اصلا نمی تواند ابزار مفیدی باشد. شما چطور فکر می کنید؟
عجب😐💔
چقدر پیشرفت تکنولوژی کثیفه
موافقم بیشترشون روسی هستن
تایل ندی زیاد داره
وطنی هم زیاده
کشورهای کمونیستی و رفیق کمونیست ها تو تولید این نوع محتوای غیر قانونی خیلی از بقیه جلو هستن
به جز ربات هزاران کانال روسی وجود داره که همچین محتوای دارن بقیشم تایلند
ایرانم که زیاد داره 😐
دیگه سیاست های کمونیستی و رفاقت با کمونیسم و فاصله گرفتن از انسانیت همچین نتیجه ای داره
جدیدا هم یه عده شنگول و منگول تو تلگرام پیدا شدن طرفدار کاسترو و کوبا و چه ناگوارا شدن
عجب 😐