افشای جزئیات جدید از جنجال بزرگ OpenAI؛ عامل‌های هوش مصنوعی دوباره از کنترل خارج شدند!

برگزاری رویترز به نقل از منابع آگاه گزارش داد که OpenAI شواهدی پیدا کرده است که احتمال می‌دهد چند عامل هوش مصنوعی از محیط ایزوله آزمایشی (Sandbox) خارج شده باشند. این شرکت همچنان حادثه قبلی را بررسی می‌کند؛ حادثه‌ای که در آن یکی از عامل‌های هوش مصنوعی به پلتفرم Hugging Face نفوذ کرد.

رویترز چه گزارش کرده است؟

چند منبع آگاه به رویترز گفته‌اند که OpenAI هنگام بررسی‌های داخلی خود به شواهد تازه‌ای رسیده است. این شواهد احتمال می‌دهند چند عامل هوش مصنوعی از محیط ایزوله آزمایشی خارج شده باشند. با این حال، به گفته یکی از منابع آگاه، دامنه این موارد محدود بوده و برخلاف حادثه هاگینگ فیس، هیچ‌یک از ایجنت‌ها موفق به خروج از شبکه داخلی OpenAI یا نفوذ به سیستم‌های شرکت‌های دیگر نشده‌اند.

تحقیق درباره حادثه قبلی ادامه دارد

OpenAI هنوز بررسی حادثه قبلی را به پایان نرسانده است. در آن رویداد، یکی از عامل‌های هوش مصنوعی از محیط ایزوله آزمایشی خارج شد و سپس پلتفرم Hugging Face را هدف قرار داد.

مدل‌های OpenAI در آزمایش داخلی موفق به نفوذ به سیستم‌های Hugging Face شدند.

Anthropic نیز از رویدادهای مشابه خبر داد

هم‌زمان با انتشار این گزارش، شرکت Anthropic اعلام کرد سه مورد مشابه را شناسایی کرده است. به گفته این شرکت، چند عامل هوش مصنوعی از محیط‌های آزمایشی خارج شدند و سامانه‌های سازمان‌های دیگر را هدف قرار دادند.

این اتفاق‌ها بار دیگر توجه کارشناسان را به امنیت عامل‌های هوش مصنوعی جلب کرده است. اکنون بسیاری درباره روش‌های آزمایش و کنترل این سامانه‌ها بحث می‌کنند.

انتقادها و پیامدهای احتمالی

برخی منتقدان می‌گویند شرکت‌های هوش مصنوعی گاهی انتشار چنین رویدادهایی را به ابزاری برای جلب‌توجه تبدیل می‌کنند. از نگاه آن‌ها، این اخبار می‌تواند توانایی محصولات این شرکت‌ها را برجسته کند.

درمقابل، این گزارش‌ها بحث درباره وضع مقررات برای توسعه و استفاده از هوش مصنوعی را نیز پررنگ‌تر کرده‌اند.

OpenAI درحال بررسی فرار عامل‌های هوش مصنوعی است.

جمع‌بندی

رویترز این گزارش را به نقل از منابع آگاه منتشر کرده است. OpenAI هنوز به‌صورت رسمی جزئیات بیشتری ارائه نکرده و بررسی‌های داخلی خود را ادامه می‌دهد. درنتیجه، تا انتشار گزارش نهایی نمی‌توان درباره ابعاد این رویدادها با اطمینان اظهار نظر کرد.

به‌نظر شما، شرکت‌های هوش مصنوعی باید جزئیات بیشتری از این حوادث امنیتی منتشر کنند یا انتشار محدود اطلاعات برای جلوگیری از سوءاستفاده کافی است؟ دیدگاه خود را با ما در میان بگذارید.