شرکت OpenAI در مدل‌های جدید ChatGPT تغییراتی ایجاد کرده است تا یکی از مشکلات قدیمی هوش مصنوعی مکالمه‌ای، یعنی موافقت بیش‌ازحد یا چاپلوسی در برابر کاربران، کاهش پیدا کند. هدف این تغییرات آن است که چت‌بات به‌جای تأیید بی‌چون‌وچرای گفته‌های کاربر، به‌خصوص در موقعیت‌های حساس، پاسخ‌هایی واقع‌بینانه‌تر و متعادل‌تر ارائه کند.
🔷 شرکت OpenAI مدل‌های جدید ChatGPT را برای کاهش رفتار موسوم به «چاپلوسی» یا موافقت بیش‌ازحد بهبود داده است.
🔷 طبق گزارش منبع، مدل پیش‌فرض جدید GPT-5 بیش از دو سوم پاسخ‌های چاپلوسانه را کاهش داده است.
🔷 بیش از ۸۰ متخصص دارای مجوز در توسعه یک معیار ارزیابی جدید برای واکنش ChatGPT به پریشانی عاطفی مشارکت کرده‌اند.
🔷 پژوهش‌های مستقل نیز از بهبود ایمنی مدل‌های GPT-5.2 و GPT-5.6 Sol در مقایسه با مدل‌های قدیمی‌تر خبر می‌دهند.
🔷 طبق آزمایش‌های داخلی OpenAI، مدل‌های جدید در شبیه‌سازی گفت‌وگوهای طولانی مرتبط با خودآسیبی در ۹۹ درصد موارد از سیاست‌های ایمنی پیروی کرده‌اند.
یکی از مشکلات هوش مصنوعی مکالمه‌ای، رفتاری است که با عنوان sycophancy یا چاپلوسی شناخته می‌شود. در این حالت، چت‌بات تمایل دارد دیدگاه یا ادعای کاربر را بیش‌ازحد تأیید کند؛ حتی زمانی که ارائه یک پاسخ واقع‌بینانه‌تر و مخالفت با فرضیات کاربر مناسب‌تر است.
این مسئله می‌تواند در گفت‌وگو درباره موضوعاتی مانند نظریه‌های توطئه یا شرایط بحرانی شخصی اهمیت بیشتری پیدا کند. OpenAI اکنون در مدل‌های جدید خود تلاش کرده است این رفتار را کاهش دهد تا ChatGPT در چنین موقعیت‌هایی صرفاً نقش تأییدکننده گفته‌های کاربر را نداشته باشد.
تلاش برای ایجاد محدودیت‌های ایمنی سخت‌گیرانه‌تر پس از افزایش بررسی‌ها درباره عملکرد مدل‌های قدیمی‌تر صورت گرفته است. براساس گزارش وال‌استریت ژورنال، گفت‌وگوهای طولانی با مدل قدیمی GPT-4o در سال گذشته با چند حادثه تلخ در دنیای واقعی، از جمله هفت مورد خودکشی، یک قتل و خودکشی و یک تیراندازی جمعی، مرتبط دانسته شده‌اند.
بااین‌حال، ارتباط گزارش‌شده میان این حوادث و استفاده از چت‌بات به معنای اثبات رابطه مستقیم علت و معلولی نیست. طبق گزارش منبع، پیامدهای این اتفاقات به طرح دست‌کم ۱۳ شکایت حقوقی علیه OpenAI منجر شده است.
شرکت OpenAI از آن زمان مدل GPT-4o را به‌طور کامل کنار گذاشته و اعلام کرده است که مدل پیش‌فرض جدید GPT-5 میزان پاسخ‌های چاپلوسانه را بیش از دو سوم کاهش می‌دهد.
مدل‌های جدید ChatGPT
شرکت OpenAI برای بهبود نحوه واکنش ChatGPT به پریشانی عاطفی از متخصصان حوزه سلامت روان نیز کمک گرفته است. این شرکت پس از مشورت با ۱۷۰ متخصص سلامت روان در سال گذشته، با بیش از ۸۰ متخصص دارای مجوز برای توسعه یک معیار ارزیابی جدید همکاری کرده است.
این سیستم ارزیابی بررسی می‌کند که آیا ChatGPT می‌تواند فوریت واقعی یک موقعیت را تشخیص دهد، سؤال‌های تکمیلی مفیدی مطرح کند و کاربران آسیب‌پذیر را به دریافت حمایت انسانی هدایت کند یا خیر.
ارزیابی‌ها تنها به شرایط بحرانی محدود نیستند و تنش‌ها و مشکلات روزمره در روابط را نیز پوشش می‌دهند؛ موقعیت‌هایی که موافقت بدون بررسی می‌تواند باعث تقویت فرضیات ناسالم شود.
براساس متن گزارش، پژوهشگران مستقل نیز بهبودهایی را در مدل‌های جدید مشاهده کرده‌اند. مطالعه مشترک دانشگاه شهری نیویورک و کینگز کالج لندن نشان داده است که مدل GPT-5.2 از نظر ایمنی پیشرفت قابل‌توجهی نسبت به GPT-4o داشته است.
پژوهش آزمایشگاه غیرانتفاعی هوش مصنوعی Transluce نیز نشان داده است که مدل هوش مصنوعی GPT-5.6 Sol در مقایسه با مدل‌های قبلی احتمال بسیار کمتری دارد که تفکر هذیانی یا وابستگی ناسالم را تشویق کند.
طبق آزمایش‌های داخلی OpenAI که در آن‌ها گفت‌وگوهای طولانی درباره خودآسیبی شبیه‌سازی شده‌اند، مدل‌های جدید در ۹۹ درصد موارد سیاست‌های ایمنی را رعایت کرده‌اند. این رقم برای نسخه‌های قدیمی‌تر ۸۶ درصد اعلام شده بود.
براساس گزارش منبع، ChatGPT اکنون به ۹۰۰ میلیون کاربر فعال هفتگی رسیده است. در چنین مقیاسی، توانایی هوش مصنوعی برای تشخیص موقعیت‌هایی که باید به‌جای موافقت صرف، پاسخ متعادل‌تر و واقع‌بینانه‌تری ارائه کند، اهمیت بیشتری پیدا می‌کند.
تغییرات مدل‌های جدید ChatGPT بر کاهش موافقت بی‌چون‌وچرا با کاربران و بهبود واکنش در موقعیت‌های حساس متمرکز شده است. نتایج آزمایش‌های داخلی و پژوهش‌های مستقل ذکرشده در گزارش نیز از بهبود عملکرد مدل‌های جدید در این زمینه حکایت دارند.
به‌نظر شما یک دستیار هوش مصنوعی در چه شرایطی باید به‌جای تأیید دیدگاه کاربر، با او مخالفت کند یا فرضیاتش را به چالش بکشد؟
