شرکت اوپنایآی (OpenAI) اعلام کرده است که از این پس در صورتی که حساب یک نوجوان به دلیل نقض قوانین مرتبط با تهدیدهای خشونتآمیز یا اعمال خشونت در ChatGPT مسدود شود، والدین یا سرپرستان دارای حسابهای متصل از این موضوع مطلع خواهند شد.
🔷 شرکت OpenAI والدین را از مسدود شدن حساب نوجوانان در ChatGPT مطلع میکند.
🔷 این اعلانها مربوط به نقض قوانین خشونت و تهدیدهای آنلاین هستند.
🔷 والدین پیشتر نیز به ابزارهای کنترل زمان استفاده و کاهش محتوای حساس دسترسی داشتند.
🔷 قابلیت Study Mode اکنون از طریق بخش کنترل والدین قابل فعالسازی است.
🔷 هوش مصنوعی ChatGPT همچنین به نوجوانان پرمصرف، یادآوریهای بیشتری برای استراحت نمایش خواهد داد.
این اقدام در ادامه توسعه قابلیتهای کنترل والدین (Parental Controls) در ChatGPT انجام شده است؛ قابلیتی که سال گذشته معرفی شد و به والدین اجازه میدهد حساب کاربری خود را به حساب فرزند نوجوانشان متصل کنند.
🔴 همچنین بخوانید: هوش مصنوعی GPT-5.6 رسماً برای کاربران منتشر شد؛ OpenAI از ChatGPT Work نیز رونمایی کرد
والدینی که حساب کاربری آنها به حساب فرزندشان متصل شده است، در صورت غیرفعال شدن حساب نوجوان به دلیل نقض سیاستهای استفاده از ChatGPT، یک اعلان دریافت خواهند کرد.
در نمونهای که اوپنایآی منتشر کرده، پیام با عنوان «بهروزرسانی مهم درباره حساب فرزند شما» برای والدین ارسال میشود. سپس آنها میتوانند با انتخاب گزینه «Learn More»، جزئیات بیشتری درباره دلیل غیرفعال شدن حساب مشاهده کنند.
طبق توضیحات این شرکت، این اعلانها به مواردی مربوط میشوند که کاربر قوانین مربوط به «اعمال خشونت» (Acts of Violence) را نقض کرده باشد.
اوپنایآی برای توسعه این قابلیت با شرکت Moonshot همکاری کرده است؛ شرکتی که در زمینه پایش و مقابله با خشونت آنلاین فعالیت میکند.
«ویدیا رامالینگام» (Vidhya Ramalingam)، بنیانگذار Moonshot، در این رابطه گفت:
«اطلاعرسانی به والدین در زمان بروز نگرانیهای جدی و فراهم کردن دسترسی به اطلاعات بیشتر، نخستین گام مهم برای فراهم کردن فرصت مداخله زودهنگام و دریافت کمک است.»
او همچنین تأکید کرد که این قابلیت تنها یکی از اقداماتی است که برای افزایش امنیت نوجوانان هنگام استفاده از ChatGPT مورد نیاز خواهد بود.
🔴 همچنین بخوانید: شرکت OpenAI از Codex Micro رونمایی کرد؛ کنترلر فیزیکی ۲۳۰ دلاری برای مدیریت هوش مصنوعی Codex
اوپنایآی پس از حادثه تیراندازی گسترده سال 2025 در منطقه Tumbler Ridge استان بریتیش کلمبیا کانادا، وعده داده بود پروتکلهای ایمنی خود را تقویت کند.
بر اساس گزارشها، مظنون این حادثه از ChatGPT استفاده کرده بود و مقامات کانادایی پس از انتشار اخباری مبنی بر اینکه اوپنایآی هنگام مسدود کردن حساب وی به مقامات اطلاع نداده است، این شرکت را برای ارائه توضیحات فراخواندند.
«سم آلتمن» (Sam Altman)، مدیرعامل اوپنایآی، نیز پیشتر بابت این موضوع عذرخواهی کرده بود.
کنترل والدین در ChatGPT
اوپنایآی علاوه بر سیستم اعلان جدید، چند قابلیت دیگر را نیز برای کاربران نوجوان معرفی کرده است.
اوپنایآی با گسترش قابلیتهای کنترل والدین در ChatGPT، تلاش میکند نقش فعالتری در افزایش ایمنی نوجوانان ایفا کند. اطلاعرسانی درباره مسدود شدن حساب کاربران نوجوان به دلیل تهدیدها یا رفتارهای خشونتآمیز، در کنار قابلیتهایی مانند Study Mode و یادآوری استراحت، بخشی از رویکرد جدید این شرکت برای ایجاد محیطی امنتر در استفاده از هوش مصنوعی است.
نظر شما چیست؟ آیا شرکتهای توسعهدهنده هوش مصنوعی باید در شرایط خاص، والدین یا حتی نهادهای مسئول را از رفتارهای خطرناک کاربران نوجوان مطلع کنند؟
با عضویت در شبکههای اجتماعی ترنجی از آخرین اخبار فناوری باخبر شوید!
