ویژگی جدید واتس اپ پیام‌های کلاهبرداری را با هوش مصنوعی شناسایی می‌کند

ویژگی جدید واتس اپ با نام Scam Alert در حال آزمایش است و می‌تواند پیام‌های مشکوک به کلاهبرداری را مستقیماً روی گوشی کاربر شناسایی کند. نکته مهم این است که فرایند بررسی با یک مدل هوش مصنوعی روی خود دستگاه انجام می‌شود و محتوای پیام‌ها برای این منظور از گوشی خارج نمی‌شود؛ بااین‌حال، این قابلیت یک محدودیت مهم دارد.

قابلیت جدید Scam Alert واتس‌اپ چگونه کار می‌کند؟

متا به تازگی جزئیات فنی قابلیت جدید Scam Alert را منتشر کرده است. هدف این قابلیت، هشدار دادن به کاربران درباره پیام‌های احتمالی کلاهبرداری پیش از آن است که کاربر فریب بخورد.

پس از فعال‌شدن قابلیت، واتس‌اپ یک مدل هوش مصنوعی کوچک را روی دستگاه دانلود می‌کند. این مدل پیام‌های دریافتی را بررسی و الگوهای آن‌ها را با نمونه‌ها و الگوهای کلاهبرداری‌های گزارش‌شده مقایسه می‌کند.

به گفته متا، محتوای پیام‌ها برای این فرایند از گوشی خارج نمی‌شود. در نتیجه، رمزگذاری سرتاسری واتس‌اپ نیز همچنان برقرار خواهد بود و متن پیام‌ها برای اجرای این قابلیت در اختیار سرورهای متا قرار نمی‌گیرد.

فقط گیرنده هشدار کلاهبرداری را می‌بیند

اگر مدل هوش مصنوعی یک پیام را به‌عنوان تلاش احتمالی برای کلاهبرداری شناسایی کند، هشداری مستقیماً در همان گفت‌وگو نمایش داده می‌شود. فرستنده از نمایش این هشدار مطلع نخواهد شد.

پس از مشاهده هشدار، کاربر می‌تواند فرستنده را مسدود کند، او را گزارش دهد یا به گفت‌وگو ادامه دهد. واتس‌اپ نیز به‌صورت خودکار چیزی را برای متا گزارش نمی‌کند و ارسال گزارش تنها زمانی انجام می‌شود که کاربر گزینه Report را به‌صورت دستی انتخاب کند.

محدودیت مهم ویژگی جدید واتس‌اپ

مهم‌ترین محدودیت Scam Alert این است که طبق توضیحات خود متا، این مدل فقط پیام‌های فرستندگانی را بررسی می‌کند که در فهرست مخاطبان کاربر ذخیره نشده‌اند.

پیام‌های افرادی که از قبل در دفترچه مخاطبان کاربر قرار دارند، توسط این قابلیت بررسی نمی‌شوند. این موضوع می‌تواند یک نقطه‌ضعف مهم باشد؛ زیرا یکی از روش‌های رایج کلاهبرداری، سوءاستفاده از حساب‌های واقعی دوستان یا اعضای خانواده است.

اگر حساب واتس‌اپ یک فرد آشنا هک شود، پیام کلاهبرداری از یک حساب واقعی و شناخته‌شده ارسال می‌شود و در نتیجه Scam Alert هشداری نمایش نخواهد داد.

همچنین تماس‌های خارج از واتس‌اپ، از جمله تماس‌هایی که با صدای شبیه‌سازی‌شده انجام می‌شوند، تحت پوشش این قابلیت قرار نمی‌گیرند؛ زیرا از مسیر پیام‌رسانی واتس‌اپ عبور نمی‌کنند.

با اعتماد به یک مخاطب، هشدارها برای همیشه حذف می‌شوند

اگر کاربر تصور کند هشدار نمایش‌داده‌شده اشتباه است، می‌تواند آن گفت‌وگو را به‌عنوان مورد قابل اعتماد علامت‌گذاری کند. پس از این کار، هشدارهای Scam Alert برای آن مخاطب به‌صورت دائمی حذف می‌شوند.

کاربر همچنین می‌تواند در صورت تمایل، پنج پیام اخیر دریافت‌شده را برای واتس‌اپ ارسال کند. بااین‌حال، امکان غیرفعال‌شدن دائمی هشدار برای یک مخاطب می‌تواند در شرایطی که کاربر تحت فشار یک کلاهبردار قرار دارد، تصمیم پرریسکی باشد.

متا برای شفافیت مدل هوش مصنوعی چه کرده است؟

متا اعلام کرده برای افزایش امکان بررسی و اعتبارسنجی مدل، نسخه‌های مختلف مدل هوش مصنوعی پیش از انتشار در یک رجیستری عمومی ثبت می‌شوند و Checksum آن‌ها نیز در دسترس قرار می‌گیرد.

امضای مدل توسط Cloudflare انجام می‌شود و متا کلید لازم برای ایجاد این امضا را در اختیار ندارد. وزن‌های مدل نیز منتشر می‌شوند تا پژوهشگران بتوانند بررسی کنند که آیا مدل واقعاً برای شناسایی کلاهبرداری طراحی شده است یا خیر.

کاربران نیز می‌توانند از مسیر Account > Request Info > Scam Alert Activity گزارشی از فعالیت این قابلیت مشاهده کنند. این بخش نشان می‌دهد چه پیام‌هایی بررسی شده‌اند و در زمان بررسی، کدام نسخه از مدل در حال اجرا بوده است.

اطلاعات کاربران چگونه پردازش می‌شود؟

آمار مربوط به تعداد هشدارهای صادرشده و واکنش کاربران در محیط‌های محاسباتی جداگانه پردازش می‌شود. پیش از آنکه این داده‌ها در اختیار متا قرار بگیرند، اطلاعات به‌صورت تجمیعی و مبهم‌سازی‌شده پردازش می‌شوند تا نتوان از آن‌ها اطلاعاتی درباره کاربران خاص استخراج کرد.

قابلیت Scam Alert هنوز برای همه کاربران منتشر نشده است

ویژگی جدید واتس اپ فعلاً در قالب یک بتای محدود و هم‌زمان با برنامه Bug Bounty متا در حال آزمایش است. این شرکت هنوز تاریخ عرضه عمومی یا کشورهای مقصد این قابلیت را اعلام نکرده است.

تا زمان عرضه گسترده Scam Alert، همچنان بهتر است در برابر پیام‌هایی که شامل درخواست پول، تغییر شماره تلفن یا درخواست‌های غیرمنتظره هستند، احتیاط کنید. در چنین شرایطی، هویت فرد مقابل را از طریق یک کانال ارتباطی دیگر، ترجیحاً با تماس با شماره قدیمی او، بررسی کنید.

نظر شما چیست؟

ویژگی جدید Scam Alert یکی از قابلیت‌های واتس‌اپ برای مقابله با پیام‌های کلاهبرداری است که با تکیه بر هوش مصنوعی روی دستگاه کار می‌کند. پردازش محلی پیام‌ها باعث می‌شود محتوای گفت‌وگو برای این فرایند از گوشی خارج نشود و رمزگذاری سرتاسری نیز حفظ شود.

🔴 همچنین بخوانید: آپدیت واتس اپ چندین ویژگی جدید را برای گروه‌ها ارائه کرد

نظر شما درباره این ویژگی جدید واتس اپ چیست؟ آیا ترجیح می‌دهید تشخیص کلاهبرداری روی خود گوشی انجام شود، حتی اگر پیام‌های مخاطبان ذخیره‌شده بررسی نشوند؟