در حالی که هنوز شاهد حل بزرگترین مشکلات بشریت توسط هوش مصنوعی نبوده‌ایم، روزبه‌روز با ویدیوهای تولید شده توسط AI، از جمله دیپ‌فیک‌های پیچیده، بیشتر مواجه می‌شویم. با توجه به این موضوع، نیاز به ابزارهایی برای محافظت از هویت و چهره افراد بیش از پیش احساس می‌شود. امروز، یوتیوب رسماً از چنین ابزاری رونمایی کرده است.
مبارزه یوتوب با دیپ فیک
یوتیوب به تازگی و رسماً ابزار جدید خود برای تشخیص چهره مبتنی بر هوش مصنوعی را راه‌اندازی کرد. این ویژگی به تولیدکنندگان محتوا اجازه می‌دهد ویدیوهای تولید یا دستکاری شده با AI را که بدون اجازه از چهره آن‌ها استفاده کرده‌اند، شناسایی کنند. سپس می‌توانند این ویدیوهای شناسایی شده را مدیریت کرده و درخواست حذف آن‌ها را به یوتیوب ارسال نمایند.
هدف یوتیوب کمک به تولیدکنندگان برای محافظت از هویتشان و جلوگیری از فریب خوردن مخاطبان توسط ویدیوهای دیپ‌فیک است.
این قابلیت جدید در بخش “Content Detection” در یوتیوب استودیو در دسترس خواهد بود. برای استفاده از آن، تولیدکنندگان محتوا باید مراحل زیر را طی کنند:
این ابزار در حال حاضر برای اعضای برنامه شرکای یوتیوب (YPP) در دسترس قرار می‌گیرد. عرضه آن طی هفته‌های آینده آغاز شده و تا ژانویه ۲۰۲۶ (دی/بهمن ۱۴۰۴)، تمام تولیدکنندگان محتوایی که از کانال خود کسب درآمد می‌کنند، به آن دسترسی خواهند داشت.
با گسترش ابزارهایی مانند Sora، مشکل دیپ‌فیک برای همه در حال افزایش است. اقدام یوتیوب یک قدم اول خوب محسوب می‌شود، اما افراد مشهور تنها کسانی نیستند که از محتوای جعلی با چهره خود آسیب می‌بینند.
نگرانی دیگر، الزام به ارائه مدارک هویتی است. به نظر من:
ارائه کارت شناسایی و داده‌های بیومتریک برای محافظت در برابر محتوای جعلی هوش مصنوعی، حس خوبی به من نمی‌دهد.
به جای این راهکار، شاید بهتر بود یوتیوب محدودیت‌های بیشتری برای ویدیوهای تولید شده با AI اعمال می‌کرد، مانند ایجاد یک فید جداگانه برای آن‌ها یا حداقل نمایش یک هشدار بسیار واضح که نشان دهد یک کلیپ احتمالاً جعلی است. این کار جلوی تولید دیپ‌فیک را نمی‌گیرد، اما می‌تواند مردم را از دردسر توضیح دادن جعلی بودن یک ویدیو نجات دهد.
نظر شما چیست؟ فکر می‌کنید که برای مبارزه با سواستفاده‌های احتمالی مبتنی بر هوش‌مصنوعی چه راهکاری باید اتخاذ شود؟ شما ایده‌ای دارید؟
