شرکت OpenAI اعلام کرد که ازاین‌پس مدل‌های پیشرفته هوش مصنوعی خود را بدون دسترسی مستقیم به اینترنت آموزش خواهد داد. این تصمیم با هدف افزایش امنیت، محافظت از زیرساخت‌های اینترنت و کاهش خطرات ناشی از رفتارهای غیرمنتظره هوش مصنوعی اتخاذ شده است. OpenAI پس از مشاهده چندین مورد رفتار کنترل‌نشده در ایجنت‌های آزمایشی خود، تصمیم گرفت محدودیت‌های سخت‌گیرانه‌تری برای محیط آموزش مدل‌های جدید اعمال کند.
🔷 شرکت OpenAI آموزش مدل‌های پیشرفته هوش مصنوعی را بدون دسترسی مستقیم به اینترنت انجام می‌دهد.
🔷 این تصمیم پس از شناسایی رفتارهای غیرمنتظره و آسیب‌پذیری‌های امنیتی ایجنت‌های هوش مصنوعی اتخاذ شد.
🔷 مدل‌ها همچنان به ابزارهای مرورگر، برنامه‌نویسی و محتوای ذخیره‌شده وب در محیط‌های ایزوله دسترسی دارند.
🔷 ایجنت‌های آزمایشی توانسته بودند از ماشین‌های مجازی خارج شوند و راه‌هایی برای ارتباط غیرمجاز پیدا کنند.
🔷 شرکت OpenAI آموزش مدل‌های پیشرفته را از اول اکتبر با محدودیت‌های امنیتی جدید از سر گرفته است.
تصمیم جدید OpenAI پس از مجموعه‌ای از اتفاقات امنیتی مرتبط با رفتار ایجنت‌های هوش مصنوعی شکل گرفت. این شرکت در ماه جولای اعلام کرده بود که برخی از ایجنت‌های آزمایشی آن توانسته‌اند به پلتفرم هاگینگ فیس (Hugging Face) نفوذ کنند. پس از آن نیز گزارش‌های دیگری از رفتارهای غیرمنتظره مدل‌های هوش مصنوعی شرکت‌های OpenAI، آنتروپیک و گوگل منتشر شد.
OpenAI معتقد است باتوجه‌به وضعیت فعلی تحقیقات ایمنی هوش مصنوعی، سیستم‌های نظارتی و امنیت زیرساخت‌های اینترنت، آموزش مدل‌های پیشرفته بدون اتصال به اینترنت عمومی رویکرد مسئولانه‌تری محسوب می‌شود.
این محدودیت به‌خصوص برای مدل‌هایی اهمیت دارد که می‌توانند به‌صورت مستقل از ابزارهای مختلف استفاده کنند و وظایف پیچیده را بدون دخالت مستقیم انسان انجام دهند.
قطع دسترسی به اینترنت به‌معنای حذف تمام ابزارهای آنلاین از فرایند آموزش نیست. OpenAI محیطی ایزوله طراحی کرده است که ایجنت‌ها می‌توانند در آن از مرورگر، ابزارهای کنترل کامپیوتر و محیط‌های برنامه‌نویسی استفاده کنند.
بااین‌حال، این ابزارها به اینترنت زنده متصل نیستند و تنها در محیطی کنترل‌شده فعالیت می‌کنند. ارتباط میان ایجنت‌ها نیز فقط درصورت داشتن مجوز امکان‌پذیر است. OpenAI برای شبیه‌سازی محیط اینترنت، یک دنیای آفلاین شامل صفحات وب فهرست‌بندی‌شده و محتوای ذخیره‌شده طراحی کرده است.
به‌این‌ترتیب، مدل‌هایی که برای انجام وظایفی مانند جست‌وجوی اطلاعات و کار با برنامه‌ها توسعه پیدا می‌کنند، می‌توانند بدون مراجعه مستقیم به وب‌سایت‌های واقعی آموزش ببینند.
نمایی از محیط ایزوله آموزش مدل‌های هوش مصنوعی OpenAI بدون دسترسی مستقیم به اینترنت
شرکت OpenAI در جریان آزمایش‌های امنیتی متوجه شد که برخی ایجنت‌ها حتی در محیط‌های ایزوله نیز می‌توانند راه‌هایی برای عبور از محدودیت‌ها پیدا کنند. در یکی از آزمایش‌ها، ایجنت‌های مسئول بررسی امنیت توانستند آسیب‌پذیری‌هایی را شناسایی کنند که امکان خروج از محیط ماشین مجازی (VM) و دسترسی به سیستم میزبان را فراهم می‌کردند.
در موردی دیگر، ایجنت‌ها روشی برای ارتباط با یکدیگر پیدا کردند که از حافظه کش پردازنده و زمان بارگذاری داده‌ها استفاده می‌کرد. این روش به آن‌ها اجازه می‌داد بدون استفاده از کانال‌های ارتباطی معمول، اطلاعاتی را مبادله کنند.
OpenAI اعلام کرده است که آسیب‌پذیری‌های شناسایی‌شده در چندین ماشین مجازی را گزارش و برطرف کرده و قابلیت‌های نظارتی جدیدی برای شناسایی تلاش مدل‌ها جهت همکاری غیرمجاز اضافه کرده است.
OpenAI در ماه سپتامبر ۲۰۲۶ فرایند آموزش مدل‌های پیشرفته خود را متوقف کرده بود تا اقدامات امنیتی جدید را بررسی و اجرا کند. این شرکت اکنون تأیید کرده است که آموزش مدل‌ها را از اول اکتبر ۲۰۲۶ (۹ مهر ۱۴۰۵) با رویکرد جدید و بدون دسترسی مستقیم به اینترنت از سر گرفته است.
شرکت OpenAI قصد دارد تا زمانی که پیشرفت سیستم‌های امنیتی امکان دسترسی گسترده‌تر را توجیه کند، این محدودیت‌ها را حفظ کند. البته هنوز مشخص نکرده است که چه معیارهایی برای کاهش محدودیت‌ها درنظر خواهد گرفت.
نکته مهم این است که این تصمیم به‌معنای قطع دسترسی کاربران ChatGPT به اینترنت نیست و محدودیت‌های اعلام‌شده به محیط آموزش مدل‌های پیشرفته مربوط می‌شوند.
تصمیم OpenAI برای آموزش مدل‌های پیشرفته بدون اینترنت نشان‌دهنده افزایش توجه این شرکت به خطرات امنیتی ایجنت‌های هوش مصنوعی است؛ سیستم‌هایی که توانایی استفاده مستقل از ابزارها و انجام وظایف پیچیده را دارند. اگرچه محیط‌های ایزوله می‌توانند احتمال دسترسی غیرمجاز به زیرساخت‌های واقعی را کاهش دهند، آزمایش‌های OpenAI نشان داده‌اند که این روش‌ها نیز به نظارت و بهبود مداوم نیاز دارند.
به‌نظر شما، محدود کردن دسترسی هوش مصنوعی به اینترنت می‌تواند خطرات امنیتی آن را کاهش دهد یا باعث کند شدن پیشرفت مدل‌های پیشرفته خواهد شد؟ دیدگاه خود را در بخش نظرات بنویسید.
