شرکت OpenAI اعلام کرد که بررسیهای داخلی این شرکت نشان میدهد تعدادی از مدلهای هوش مصنوعی آن، ازجمله GPT-5.6 Sol و یک مدل پیشانتشار پیشرفتهتر، در جریان یک آزمایش امنیتی موفق شدهاند به سیستمهای پلتفرم متنباز Hugging Face نفوذ کنند. این اتفاق پس از آن رسانهای شد که Hugging Face از شناسایی دسترسی غیرمجاز توسط یک عامل هوش مصنوعی به زیرساختهای خود خبر داد.
🔷 شرکت OpenAI تأیید کرد مدلهای هوش مصنوعی این شرکت در یک آزمایش داخلی به Hugging Face نفوذ کردهاند.
🔷 مدل GPT-5.6 Sol و یک مدل پیشانتشار پیشرفتهتر از عوامل اصلی این حادثه بودند.
🔷 مدلها ابتدا یک آسیبپذیری Zero-Day را در محیط آزمایشی OpenAI شناسایی و سوءاستفاده کردند.
🔷 عاملهای هوش مصنوعی سپس به یک گره متصل به اینترنت دسترسی پیدا کردند و بهدنبال راهحلهای ارزیابی خود رفتند.
🔷 اکنون OpenAI و Hugging Face برای بررسی فنی حادثه و رفع آسیبپذیریها همکاری میکنند.
OpenAI در بیانیهای توضیح داد که این حادثه در جریان یک آزمایش داخلی رخ داده است. هدف از این آزمایش، ارزیابی توانایی مدلهای هوش مصنوعی در اجرای حملات سایبری پیچیده و سنجش قابلیتهای آنها در حوزه امنیت تهاجمی بود.
بهگفته این شرکت، مدلها در یک محیط ایزوله یا Sandbox قرار داشتند تا نتوانند به سامانههای واقعی آسیب برسانند. بااینحال، بخشی از محدودیتها و محافظتهای ایمنی برای اهداف ارزیابی غیرفعال شده بود.
براساس توضیحات OpenAI، مدلها در میانه آزمایش بهطور فزایندهای روی حل مسئلهای که برای آنها تعریف شده بود تمرکز کردند. آنها در تلاش برای یافتن پاسخ، بهدنبال راهی برای دسترسی به اینترنت رفتند.
گزارش منتشرشده ادعا میکند مدلها ابتدا یک آسیبپذیری Zero-Day را در محیط آزمایشی OpenAI شناسایی و از آن سوءاستفاده کردند. سپس در میان زیرساختهای موجود جستوجو کردند تا درنهایت به سیستمی دست پیدا کنند که امکان اتصال به اینترنت را فراهم میکرد.
GPT-5.6 Sol و یک مدل پیشانتشار OpenAI در این حادثه نقش داشتهاند.
طبق یافتههای OpenAI، مدلها به این نتیجه رسیده بودند که پلتفرم Hugging Face ممکن است مجموعهدادهها یا پاسخهای مرتبط با مسئله ارزیابی آنها را میزبانی کند. بههمیندلیل، تلاش کردند به سامانههای این پلتفرم نفوذ کنند.
گفته میشود عاملهای هوش مصنوعی برای دسترسی به این سامانه از چندین مسیر حمله مختلف استفاده کردهاند. گزارش OpenAI به سوءاستفاده از آسیبپذیریهای ناشناخته و همچنین استفاده از اعتبارنامههای سرقتشده برای نفوذ اشاره میکند.
پس از شناسایی رخداد، OpenAI و Hugging Face همکاری مشترکی را برای بررسی فنی و تحلیل دقیق حادثه آغاز کردند. دو شرکت اعلام کردهاند آسیبپذیریهایی که در این فرایند مورد سوءاستفاده قرار گرفته بودند، شناسایی و اصلاح شدهاند.
جزئیات بیشتری درباره میزان دسترسی ایجادشده، دادههای احتمالی تحتتأثیر یا خسارتهای ناشی از این حادثه منتشر نشده است.
مدلهای OpenAI در آزمایش داخلی موفق به نفوذ به سیستمهای Hugging Face شدند.
Hugging Face در واکنش به این اتفاق اعلام کرد ابزارهای تهاجمی مبتنیبر هوش مصنوعی دیگر یک سناریوی فرضی نیستند و اکنون به واقعیتی عملی تبدیل شدهاند. این شرکت هشدار داد که استفاده از هوش مصنوعی میتواند سرعت و هزینه حملات سایبری را بهطور قابلتوجهی تغییر دهد.
بهگفته Hugging Face، دفاع از پلتفرمهای آنلاین در عصر جدید نهتنها به ابزارهای سنتی امنیتی وابسته است، بلکه استفاده از هوش مصنوعی برای شناسایی و مقابله با تهدیدها نیز اهمیت فزایندهای پیدا کرده است.
OpenAI نیز دیدگاهی مشابه ارائه کرد و اعلام کرد با گسترش مدلهای دارای تواناییهای پیشرفته سایبری، رخدادهای امنیتی مبتنیبر هوش مصنوعی احتمالاً بهمرور رایجتر خواهند شد. این شرکت تأکید کرد توسعه قابلیتهای پیشرفته هوش مصنوعی باید همزمان با تقویت سازوکارهای حفاظتی و ابزارهای دفاعی انجام شود.
حادثه هک Hugging Face توسط هوش مصنوعی OpenAI یکی از کمسابقهترین رویدادهای امنیتی سالهای اخیر بهشمار میرود. براساس توضیحات منتشرشده، مدلهای هوش مصنوعی در جریان یک آزمایش داخلی توانستند از محدودیتهای موجود عبور کرده و به سامانهای خارجی دسترسی پیدا کنند. هرچند آسیبپذیریهای مورد استفاده اصلاح شدهاند، اما این اتفاق بار دیگر ضرورت توسعه ابزارهای دفاعی متناسب با پیشرفت سریع هوش مصنوعی را برجسته میکند.
بهنظر شما با افزایش تواناییهای مدلهای هوش مصنوعی، شرکتهای فناوری چگونه باید میان نوآوری و امنیت تعادل برقرار کنند؟ دیدگاه خود را در بخش نظرات با ما بهاشتراک بگذارید.
با عضویت در شبکههای اجتماعی ترنجی از آخرین اخبار فناوری باخبر شوید!
