گوگل در حال توسعه یک قابلیت ایمنی جدید برای هوش مصنوعی جمینای است که در صورت شناسایی مکالمات مرتبط با خودآزاری، به والدین هشدار می‌دهد. این ویژگی که هنوز به‌صورت رسمی منتشر نشده، قرار است در کنار ابزارهای کنترل والدین قرار بگیرد و به آن‌ها امکان دهد از برخی نشانه‌های نگران‌کننده در گفت‌وگوهای فرزندانشان با چت‌بات مطلع شوند.
🔷 گوگل در حال توسعه سیستم هشدار خودآزاری در اپلیکیشن Gemini است.
🔷 در صورت شناسایی مکالمات مرتبط با آسیب‌زدن به خود، والدین اعلان دریافت می‌کنند.
🔷 کودکان تحت نظارت، پیش از استفاده از این قابلیت با یک پیام هشدار روبه‌رو می‌شوند.
🔷 این ویژگی فراتر از کنترل‌های فعلی Family Link عمل می‌کند.
🔷 زمان انتشار عمومی قابلیت جدید جمینای هنوز مشخص نیست.
با بررسی کدهای نسخه 17.73.15 اپلیکیشن گوگل، نشانه‌هایی از توسعه سیستم هشدار جدید پیدا شده است. رشته‌متن‌های پنهان در این نسخه نشان می‌دهند که کودکان تحت نظارت والدین، هنگام فعال‌بودن این قابلیت یک پیام هشدار برجسته در جمینای مشاهده خواهند کرد.
در این پیام به کاربران کم‌سن‌وسال اطلاع داده می‌شود که اگر چت‌بات مکالمه‌ای درباره آسیب‌زدن به خود را تشخیص دهد، والدین آن‌ها از موضوع مطلع خواهند شد.
به این ترتیب، سیستم جدید قرار است علاوه بر کنترل محتوای پاسخ‌های هوش مصنوعی، برخی پیام‌های ارسالی کودکان را نیز از نظر وجود نشانه‌های نگران‌کننده بررسی کند.
والدین در حال حاضر می‌توانند با استفاده از سرویس Family Link دسترسی فرزندانشان به اپلیکیشن‌ها را مدیریت کنند و محدودیت‌ها و فیلترهای محتوایی بیشتری در اختیار داشته باشند.
بااین‌حال، ابزارهای فعلی بیشتر بر محدودکردن دسترسی به محتوای نامناسب یا جلوگیری از ارائه پاسخ‌های آسیب‌زا تمرکز دارند. قابلیت جدید جمینای رویکرد متفاوتی دارد و می‌خواهد در صورت مشاهده نشانه‌های احتمالی خودآزاری در مکالمات، والدین را به‌صورت خودکار مطلع کند.
این تغییر می‌تواند به والدین کمک کند زودتر از برخی مشکلات احتمالی فرزندانشان آگاه شوند؛ اما در عین حال، پرسش‌هایی درباره حریم خصوصی نوجوانان ایجاد می‌کند.
برخی مدافعان حریم خصوصی هشدار می‌دهند که اطلاع نوجوانان از نظارت خودکار بر مکالماتشان ممکن است پیامدهای ناخواسته‌ای داشته باشد. برای مثال، اگر کاربران بدانند صحبت درباره مشکلات روانی یا افکار مرتبط با خودآزاری به‌طور خودکار به والدین گزارش می‌شود، ممکن است از مطرح‌کردن چنین موضوعاتی با هوش مصنوعی خودداری کنند.
به همین دلیل، شرکت‌های فناوری با چالش مهمی روبه‌رو هستند: از یک سو باید ابزارهایی برای محافظت از کودکان و نوجوانان فراهم کنند و از سوی دیگر، حریم خصوصی آن‌ها را نیز در نظر بگیرند.
توسعه این قابلیت در شرایطی انجام می‌شود که شرکت‌های بزرگ فناوری با انتقادهای فزاینده‌ای درباره نحوه تعامل هوش مصنوعی با کاربران کم‌سن‌وسال مواجه هستند.
گزارش اخیر بلومبرگ (Bloomberg) به شکایتی حقوقی اشاره کرده است که در آن ادعا می‌شود قابلیت AI Search Mode گوگل با یک نوجوان درباره خودکشی گفت‌وگو کرده، اما والدین او را از این موضوع مطلع نکرده است.
علاوه بر سیستم هشدار جدید، بررسی کدهای منتشرنشده اپلیکیشن گوگل نشان می‌دهد این شرکت روی قابلیت محدودیت روزانه زمان استفاده از جمینای نیز کار می‌کند. این ویژگی می‌تواند به والدین اجازه دهد مدت‌زمان استفاده فرزندانشان از چت‌بات را محدود کنند.
ازآنجاکه قابلیت هشدار خودآزاری و محدودیت زمان استفاده هنوز فقط در کدهای منتشرنشده اپلیکیشن گوگل مشاهده شده‌اند، این شرکت جزئیاتی درباره زمان عرضه آن‌ها اعلام نکرده است.
به نظر می‌رسد توسعه‌دهندگان گوگل همچنان در حال آزمایش و اصلاح این قابلیت‌ها هستند و مشخص نیست کدام‌یک از آن‌ها و در چه زمانی در اختیار کاربران قرار خواهند گرفت.
قابلیت جدید جمینای می‌تواند نظارت والدین بر تعامل کودکان با هوش مصنوعی را فراتر از فیلترهای محتوایی فعلی ببرد و در شناسایی نشانه‌های احتمالی خودآزاری نقش داشته باشد. بااین‌حال، حفظ تعادل میان ایمنی کودکان و حریم خصوصی نوجوانان یکی از مهم‌ترین چالش‌های پیش روی گوگل در توسعه این ویژگی خواهد بود.
🔴 همچنین بخوانید: شکایت جنجالی علیه گوگل؛ هوش مصنوعی این شرکت یک دانش‌آموز ۱۳ ساله را به خودکشی ترغیب کرد؟
به نظر شما آیا والدین باید از مکالمات حساس فرزندانشان با هوش مصنوعی به‌صورت خودکار مطلع شوند یا چنین قابلیتی ممکن است حریم خصوصی نوجوانان را بیش از حد محدود کند؟
