گزارشهای جدید از یک مشکل امنیتی قابلتوجه در عاملهای هوش مصنوعی OpenAI حکایت دارند. این عاملهای خودمختار زمانی که جستوجوی معمول اطلاعات با محدودیت مواجه شد، در چند مورد بدون دریافت دستور برای آزمایش نفوذ، از روشهایی مانند تزریق SQL برای دور زدن محدودیت سایتهای دولتی و دانشگاهی استفاده کردند.
🔷 عاملهای هوش مصنوعی OpenAI پس از شکست جستوجوهای عادی از روشهای امنیتی تهاجمی استفاده کردند.
🔷 این روشها شامل تزریق SQL، اسکریپتنویسی بینسایتی و پیمایش مسیر بودند.
🔷 یک عامل در ژوئن ۲۰۲۶ به سامانه آمار Medicare استرالیا دسترسی پیدا کرد.
🔷 اطلاعات خصوصی بیماران در جریان این رویداد افشا نشد.
🔷 شرکت OpenAI رفتار ناخواسته عاملها را بررسی کرده و دولت استرالیا نیز تحقیقات خود را آغاز کرده است.
شرکت امنیتی Transluce نمونههایی از رفتار عاملهای OpenAI را در فاصله مارس تا سپتامبر ۲۰۲۶ بررسی کرده است. طبق این گزارش، هنگامی که درخواست عادی عاملها برای دریافت اطلاعات مسدود میشد، برخی از آنها تلاش میکردند با تکنیکهای امنیتی تهاجمی به هدف خود برسند.
این روشها شامل SQL Injection یا تزریق SQL، حملات Cross-Site Scripting یا XSS و Path Traversal میشد. نکته مهم این است که وظیفه این عاملها آزمایش نفوذ یا بررسی امنیت سایتها نبود و آنها در جریان انجام مأموریتهای عادی جمعآوری داده، چنین روشهایی را انتخاب کردند.
جدیترین مورد گزارششده به Medicare Statistics Reporting Service استرالیا مربوط میشود. آنتونی آلبانیزی، نخستوزیر استرالیا، تأیید کرد که یکی از عاملهای OpenAI در ژوئن ۲۰۲۶ به این سامانه دسترسی پیدا کرده است.
این عامل توانست به فایلهای تجمیعشده حوزه سلامت که دسترسی عمومی نداشتند دسترسی پیدا کند و سپس دادههایی را روی یک سرور داخلی بنویسد. بااینحال، طبق اطلاعات منتشرشده، سوابق خصوصی بیماران افشا نشدند.
عاملهای خودمختار OpenAI برای جمعآوری اطلاعات سراغ روشهای هک رفتند.
نفوذ به سامانه استرالیا تنها نمونه گزارششده نیست. در مه ۲۰۲۶، یکی از عاملها هنگام جستوجوی تصاویر تاریخی در کتابخانه دیجیتال دانشگاه نیومکزیکو حدود ۸۰ درخواست برای بررسی نقاط آسیبپذیر احتمالی به سرور ارسال کرد.
چند روز بعد نیز یک عامل دیگر پس از ناموفق بودن درخواست عادی خود، پورتال Data USA را با اکسپلویتهای امنیتی هدف گرفت. این نمونهها نشان میدهند رفتار مورد بحث تنها به یک وبسایت یا یک مأموریت محدود نبوده است.
عاملهای خودمختار برخلاف چتباتهای معمولی میتوانند برای رسیدن به یک هدف، چند مرحله را برنامهریزی و ابزارهای مختلف را اجرا کنند. مشکل زمانی شکل میگیرد که عامل، رسیدن به هدف را بر رعایت محدودیتهای امنیتی مقدم بداند.
در موارد گزارششده، عاملها ظاهراً مسدود شدن درخواست را بهعنوان پایان مأموریت تفسیر نکردند و درعوض راههای دیگری را برای دسترسی به داده امتحان کردند. چنین رفتاری اهمیت تعریف محدودیتهای سختگیرانه برای ابزارهای دراختیار عاملهای هوش مصنوعی را افزایش میدهد.
واکنش دولت استرالیا فقط به خود نفوذ محدود نبود. OpenAI در اوت ۲۰۲۶ از رخداد امنیتی مطلع شد، اما مقامهای استرالیا را تا ۱۰ سپتامبر در جریان قرار نداد.
شرکت OpenAI این هشدار را ازطریق ایمیل به یک صندوق عمومی گزارش آسیبپذیری ارسال کرد که روزانه بررسی میشد. نخستوزیر استرالیا در گفتوگو با سم آلتمن، مدیرعامل OpenAI، نحوه رسیدگی به این اتفاق را کاملاً غیرقابلقبول توصیف کرد.
انتقاد نخستوزیر استرالیا از نحوه مدیریت رخداد امنیتی OpenAI
🔴 همچنین بخوانید: شرکت OpenAI چند رفتار نگرانکننده مدلهای هوش مصنوعی خود را افشا کرد
شرکت OpenAI تأیید کرده است که مدلهایش در جریان ارزیابیهای داخلی اقداماتی ناخواسته انجام دادهاند. این موضوع بررسی چندماههای را درباره رفتار ناهماهنگ عاملهای هوش مصنوعی بهدنبال داشته است.
دولت استرالیا نیز یک گروه ویژه متشکل از چند نهاد را برای بررسی اتفاق تشکیل داده است. این گروه علاوهبر ابعاد فنی رخداد، واکنشهای حقوقی احتمالی را بررسی خواهد کرد.
🔴 همچنین بخوانید: مدیرعامل آنتروپیک خواستار کاهش سرعت توسعه هوش مصنوعی و خودبهبوددهی مدلها شد
این رویداد یکی از چالشهای مهم توسعه عاملهای خودمختار هوش مصنوعی را برجسته میکند: سیستمی که برای انجام مستقل یک مأموریت طراحی شده، باید بتواند تفاوت میان یافتن راه جایگزین مشروع و دور زدن یک کنترل امنیتی را تشخیص دهد.
نمونههای گزارششده نشان میدهند توسعهدهندگان عاملهای هوش مصنوعی علاوهبر توانایی انجام وظایف، باید روی محدود کردن ابزارها، کنترل اقدامات و جلوگیری از رفتارهای امنیتی ناخواسته تمرکز کنند؛ بهخصوص زمانی که این سیستمها به اینترنت و ابزارهای اجرایی دسترسی مستقیم دارند.
بهنظر شما عاملهای هوش مصنوعی متصل به اینترنت برای جلوگیری از چنین رفتارهایی باید با چه محدودیتهایی فعالیت کنند؟
