20 − 5 =

حساب کاربری ندارید؟ ثبت نام کنید

۹ افشاگری ترسناک از ۴۰ سال تحقیق در زمینه فناوری تشخیص چهره

Avatar

نوشته

2 ماه قبل | یک دیدگاه | فناوری‌های نوین

در داستان های علمی تخیلی، فناوری تشخیص چهره همیشه مشخصه ی یک جامعه پادآرمان شهر بوده است. حقیقت چگونگی ایجاد آن و نحوه استفاده امروزی آن نیز به همان اندازه ترسناک است. MIT Technology Review با انتشار تجزیه و تحلیل یک مطالعه جدید، آن را به عنوان بزرگترین مطالعه در زمینه تشخیص چهره توصیف کرده است که نشان می دهد که افزایش یادگیری عمیق تا چه میزان به از دست دادن حریم خصوصی دامن زده است. در ادامه به نقل از mashable این افشاگری ها را بازگو می کنیم.

افشاگری های ترسناک از فناوری تشخیص چهره

در یک مطالعه جدید، محققان یک بررسی تاریخی را بر روی بیش از ۱۰۰ مجموعه داده مورد استفاده برای آموزش سیستم های تشخیص چهره جمع آوری شده در ۴۳ سال گذشته انجام داده اند. بزرگ ترین افشاگری این است که با افزایش نیاز به داده های بیشتر (به عنوان مثال عکس ها) ، محققان برای کسب رضایت از افرادی که در عکس ها استفاده کرده اند، دیگر به خود زحمتی ندادند.

محققان، دبورا راجی از Mozilla و گنویو فرید از موسسه AI Now، این مطالعه را روی سرویس توزیع رایگان دانشگاه کرنل یعنی arXiv.org منتشر کردند. MIT Technology Review با انتشار تجزیه و تحلیل این مقاله، آن را به عنوان “بزرگترین مطالعه در زمینه تشخیص چهره” توصیف کرده است که “نشان می دهد که افزایش یادگیری عمیق تا چه میزان به از دست دادن حریم خصوصی دامن زده است.”

در نمودار مطالعه تحول مجموعه داده های تشخیص چهره، لحظاتی در تاریخ و حقایقی درباره پیشرفت این فناوری وجود دارد که یک افشاگری محض است. آن ها نشان می دهند که چطور ماهیت فناوری تشخیص چهره وقتی در سناریوهای دنیای واقعی اعمال می شود یک فناوری ناقص است که با هدف گسترش نظارت، باعث نقض حریم خصوصی ما شده است.

در اینجا ۹ حقیقت ترسناک و شگفت آور از ۴۳ سال تحقیق در زمینه شناسایی چهره آورده شده است.

۱- تفاوت بین عملکرد شناسایی چهره در محیط دانشگاهی و آزمایشگاهی و عملکردهای دنیای واقعی بسیار زیاد است.

یکی از دلایلی که محققان برای انجام مطالعه خود آورده اند، درک این مسئله است که چرا سیستم های تشخیص چهره که با دقت تقریبی ۱۰۰ درصد در آزمایش ها عمل می کنند، در دنیای واقعی خطای زیادی دارند. به عنوان مثال، آن ها می گویند، MTA شهر نیویورک یک راننده قطار را متوقف کرد، و بعد از آن مشخص شد که ۱۰۰ درصد خطا داشته است. فناوری تشخیص چهره که سابقا ثابت شده بود که در مورد صورت های سیاه و تیره دقت کمتری دارد، اخیراً منجر به دستگیری سه مرد سیاه پوست شد که توسط این فناوری به اشتباه شناسایی شده بودند.

تشخیص چهره

فناوری تشخیص چهره

۲- وزارت دفاع مسئول رونق اصلی این فناوری است.

اگرچه تلاش های اولیه برای توسعه فناوری شناسایی چهره در محیط های دانشگاهی آغاز شد، اما در سال ۱۹۶۶ زمانی که وزارت دفاع و موسسه ملی استاندارد و فناوری(NIST)  ۶.۵ میلیون دلار برای ایجاد بزرگ ترین مجموعه داده ها اختصاص داد، فعالیت اصلی شروع شد. دولت به این حوزه به این دلیل علاقه مند شد که برخلاف انگشت نگاری، این پتانسیل نظارت نیازی به مشارکت فعال افراد ندارد.

۳- عکس های اولیه ای که برای ایجاد داده های شناسایی چهره استفاده شدند، عکس های پرتره بودند که باعث ایجاد نقص بزرگی شد.

این موضوع تقریبا عجیب به نظر می رسد، اما قبل از اواسط دهه ۲۰۰۰، روش جمع آوری پایگاه داده توسط محققان اینطور بود که از افراد عکس پرتره می گرفتند. از آنجا که امروزه برخی از فناوری های اساسی شناسایی چهره از این مجموعه داده ها ناشی می شود، نقص روش عکاسی پرتره آشکار می شود. یعنی یک مجموعه محدود از شرکت کنندگان و صحنه و موقعیت هایی که شرایط دنیای واقعی را به درستی منعکس نمی کند.

فناوری تشخیص چهره از روی پوشش و حتی از پشت سر

۴- وقتی محققان متوجه شدند که عکس های پرتره کافی نیست، به گوگل متوسل شدند و کسب رضایت از افراد را متوقف کردند.

بله! وقتی محققان می خواستند مجموعه داده ها را از عکس های پرتره فراتر ببرند، این اتفاق واقعا رخ داد. یک مجموعه داده مربوط به سال ۲۰۰۷ به نام Labeled Faces in the Wild که از گوگل، فلیکر، یوتیوب و سایر منابع آنلاین گرفته شده است و شامل عکس کودکان بود. در حالی که این امر منجر به ایجاد تنوع بیشتری در عکس ها شد، اما از آن طرف حقوق حریم خصوصی افراد را نیز زیرپا گذاشت.

در مقاله آمده است: «در ازای مجموعه داده های واقعی تر و متنوع تر، کنترل امور نیز از دست می رود زیرا کسب رضایت افراد، ثبت داده های آماری، حفظ کیفیت مجموعه داده ها و همگون کردن ویژگی هایی نظیر وضوح تصویر در مجموعه داده های منابع اینترنتی غیرقابل کنترل است».

۵- دومین عامل رونق در فناوری شناسایی چهره از فیسبوک ناشی شد.

هنگامی که فیسبوک ایجاد پایگاه داده DeepFace خود را در سال ۲۰۱۴ فاش کرد، محققان به یک نقطه عطف در شناسایی چهره اشاره کردند. فیسبوک نشان داد که چگونه مجموعه ی میلیون ها عکس می تواند شبکه هایی ایجاد کند که در تشخیص چهره بسیار بهتر از سیستم های قبلی هستند. فیس بوک اساس تشخیص چهره مدرن را بنا نهاد.

۶- سورپرایز! اقدام بزرگ تشخیص چهره فیسبوک، حریم خصوصی کاربران را نقض کرد.

تشخیص چهره

فناوری تشخیص چهره در فیسبوک

از آن زمان فیسبوک توسط کمیسیون فدرال تجارت (FTC) جریمه شد و به دلیل عدم کسب رضایت از کاربران و استفاده از عکس های بارگذاری شده آن ها در فیس بوک برای فناوری شناسایی چهره، اقدام به پرداخت جریمه به ایالت ایلینوی کرد. روشی که DeepFace از آن استفاده کرد از طریق “پیشنهاد تگ کردن افراد” بود، این ویژگی به شما این امکان را می دهد که شخصی را که در عکس شماست، شناسایی و تگ کنید. پذیرش یا رد تگ ها به نوبه خود باعث هوشمندتر شدن سیستم های فیسبوک شد. پیشنهاد تگ اختیاری بود، به این معنی که شرکت در این فناوری به طور پیش فرض تعریف شده بود.

۷- شناسایی چهره را در مورد صورت ۱۷.۷ میلیون نفر آزمایش کردند. البته این عدد، آماری است که به صورت عمومی اعلام کرده اند.

در حقیقت، ما از تعداد و هویت افرادی که عکس آن ها بدون اجازه در توسعه فناوری تشخیص چهره استفاده شده است، خبر نداریم.

۸- اتوماسیون تشخیص چهره منجر به ایجاد سیستم هایی شد که برچسب های توهین آمیز و غیرمنصفانه به افراد می زنند.

سیستم های تشخیص چهره فراتر از شناسایی چهره یا شناسایی فرد رفته اند. آن ها همچنین می توانند به افراد و خصوصیات آن ها برچسب های توهین آمیز بزنند.

در مقاله آمده است: « این برچسب ها شامل برچسب های توهین آمیز در مورد اندازه افراد مثل ” چاق “،” غبغبو ” یا برچسب های نژادی نامناسب مانند” پوست رنگ پریده “، ” بینی نوک تیز “، ” چشم بادومی ” برای مردم آسیا و” بینی بزرگ ” و “لب های درشت ” برای بسیاری از سیاه پوستان می شود. علاوه بر این، این برچسب ها به طرز عجیبی شامل مفاهیمی مانند ” پف زیر چشم “، ” ته ریش ” می شود. دسته ای دیگر از برچسب ها در واقع قابل تعریف نیستند، مانند برچسب ” جذاب “.

تشخیص چهره به کروم بوک ها اضافه می شود

در مجموعه های آزمایشی، چهره های “غربی” به عنوان پیش فرض در نظر گرفته شدند. و سایر مجموعه داده ها که به طور صریح برای افزایش تنوع ایجاد شده بودند، خود مشکل ساز شدند: یکی از اهداف چنین سیستمی “آموزش الگوریتم های تشخیص چهره به صورت غیرمغرضانه” بود، اما محققان اشاره کردند که این سیستم قومیت و ریشه انسان ها را فقط به سه دسته تقسیم می کند.

این قصور بزرگ فراتر از یک توهین رفته است. تحقیقات نشان داده است که تبعیض در دنیای هوش مصنوعی می تواند تبعیض در دنیای واقعی را نیز افزایش دهد.

۹- امروزه کاربردهای فناوری تشخیص چهره از نظارت دولت تا تبلیغات را شامل می شود.

فناوری تشخیص چهره هم به هدف های اولیه خود وفادار مانده و هم فراتر از آنچه که سازندگان آن در دهه ۱۹۷۰ تصور می کردند، توسعه یافته است.

فناوری تشخیص چهره

فناوری تشخیص چهره

نویسندگان مقاله گفتند: «ما با نگاهی به تاریخچه این فناوری می توانیم ببینیم که دولت از همان ابتدا این فناوری را به منظور امکان تحقیقات و نظارت در زمینه جرم و جنایت ترویج و پشتیبانی کرده است. به عنوان مثال، آمازون فناوری Rekognition خود را به تعداد بی شماری از ادارات پلیس فروخته است.»

در انتهای دیگر طیف، برخی از مجموعه های آزمایشی نوید می دهند که می توانند به توسعه سیستم های تحلیل احساسات خریداران و پیگیری و درک بهتر مشتریان کمک کنند.

mashable

دیدگاه خودتان را بنویسید

ابتدا وارد شوید تا بتوانید دیدگاهی ارسال کنید

آخرین دیدگاه ها

  1. Milad7
    Milad7milad7ir
    سوپر ترنج

    دیگه آدم از سایه ی خودش هم میترسه!

10 کاربر برتر
  1. 1# Milad7 - 20,241 ترنج
  2. 2# ahmad - 15,911 ترنج
  3. 3# m.b - 14,101 ترنج
  4. 4# Mahdi - 12,144 ترنج
  5. 5# Sajad - 11,543 ترنج
  6. 6# نیما عرفانی - 10,414 ترنج
  7. 7# The Destroyer - 9,148 ترنج
  8. 8# Dr.Nazer - 8,967 ترنج
  9. 9# Amir galaxy - 8,939 ترنج
  10. 10# _V_ - 8,776 ترنج
قاصدک 24
تترایران
Avatar
عاطفه رشیدی
کانال تلگرام ترنجی