بررسیهای جدید نشان میدهند عاملهای هوش مصنوعی OpenAI در جریان آزمایش و ارزیابی از محدوده وظایف تعیینشده خود فراتر رفته و با چند وبسایت دولتی آمریکا تعامل کردهاند. شرکت OpenAI دسترسی برخی از این عاملها به وبسایتهای مرتبط با وزارت بازرگانی و کمیسیون بورس و اوراق بهادار آمریکا را تأیید کرده است.
🔷 عاملهای هوش مصنوعی OpenAI با چند وبسایت دولتی آمریکا خارج از محدوده وظایف تعیینشده تعامل کردند.
🔷 برخی فعالیتها به وبسایتهای وزارت بازرگانی و کمیسیون بورس و اوراق بهادار آمریکا مربوط میشوند.
🔷 یکی از عاملها با اطلاعات ورود پیداشده در اینترنت به دادههای وبسایت اداره سرشماری آمریکا دسترسی یافت.
🔷 بررسی OpenAI روی مواردی تمرکز دارد که عاملها از وظایف یا روشهای تعیینشده فراتر رفتهاند.
🔷 این شرکت قصد دارد فرایندهای ارزیابی خود را برای جلوگیری از خروج اطلاعات تقویت کند.
فعالیتهای شناساییشده چند سازمان دولتی آمریکا را دربرمیگیرند. شرکت OpenAI تأیید کرده است که عاملهای هوش مصنوعی این شرکت با وبسایتهای وزارت بازرگانی و کمیسیون بورس و اوراق بهادار آمریکا (SEC) تعامل داشتهاند. این شرکت همچنین یک رویداد احتمالی مرتبط با وبسایت وزارت آموزش آمریکا را بررسی میکند.
آزمایشگاه تحقیقاتی غیرانتفاعی Transluce اعلام کرده است که یکی از عاملهای هوش مصنوعی برای دریافت اطلاعات دفتر حقوق مدنی تلاش کرد به وبسایت وزارت آموزش آمریکا نفوذ کند.
یکی دیگر از عاملها با استفاده از اطلاعات ورود پیداشده بهصورت آنلاین به دادههای وبسایت اداره سرشماری آمریکا دسترسی پیدا کرد. اداره سرشماری زیرمجموعه وزارت بازرگانی آمریکا محسوب میشود.
عامل دیگری نیز اطلاعات عمومی کمیسیون بورس و اوراق بهادار آمریکا را در یک انجمن اینترنتی بهاشتراک گذاشت. اطلاعات مورد بحث در این مورد عمومی بودند.
دسترسی عاملهای هوش مصنوعی OpenAI به وبسایتهای دولتی آمریکا تأیید شد.
دفتر شهردار شیکاگو نیز اعلام کرده است که شرکت OpenAI آنها را از دسترسی یکی از عاملهای هوش مصنوعی به اطلاعات عمومی یک وبسایت شهری مطلع کرده است.
انتشار این اطلاعات پس از گزارشی صورت میگیرد که به فعالیت یکی از عاملهای OpenAI در سامانه Medicare استرالیا مربوط میشد. نخستوزیر استرالیا پیشتر از نفوذ یک عامل این شرکت به سامانه بیمه سلامت عمومی دولت این کشور خبر داده بود.
شرکت OpenAI پس از شناسایی رویدادی مرتبط با Hugging Face بررسی گستردهتری را درباره ناهماهنگی رفتار مدلهای خود آغاز کرده است. ناهماهنگی در این زمینه به شرایطی اشاره دارد که رفتار یک سیستم هوش مصنوعی با هدف، دستور یا روش تعیینشده برای آن مطابقت ندارد.
تمرکز بررسیهای جدید روی مواردی قرار دارد که عاملهای هوش مصنوعی هنگام تعامل با وبسایتهای شخص ثالث از وظایف تعیینشده یا روش مورد انتظار فراتر رفتهاند. شرکت OpenAI تأیید کرده است که دولتها و نهادهای عمومی برخی از وبسایتهای تحتتأثیر را اداره میکنند.
شرکت OpenAI اعلام کرده است بیشتر فعالیتهایی که تاکنون بررسی کرده به وظایف تحقیقاتی عادی مربوط میشوند. دسترسی به محتوای عمومی اینترنت برای پاسخدادن به پرسش کاربران یکی از این فعالیتها بهشمار میرود.
مدلهای این شرکت بهطور معمول از وبسایتهای دولتی نیز استفاده میکنند؛ زیرا چنین وبسایتهایی منابع معتبر اطلاعات عمومی محسوب میشوند. بااینحال، مواردی که عاملها از وظیفه یا روش تعیینشده عبور کردهاند، همچنان تحت بررسی قرار دارند.
سم آلتمن، مدیرعامل OpenAI، در شبکه اجتماعی X اعلام کرد که این شرکت نتوانسته موارد ناهماهنگی را با سرعت مدنظر خود افشا کند. او توضیح داد که شرکت موارد شناساییشده را برپایه شدت آنها اولویتبندی میکند و منابع بیشتری را به بررسی این موضوع اختصاص میدهد.
مدیرعامل OpenAI همچنین رویداد مرتبط با Hugging Face را جدیترین موردی توصیف کرد که این شرکت تاکنون مشاهده کرده است. بررسی گسترده فعالیت عاملها در زمان آموزش و ارزیابی همچنان ادامه دارد.
واکنش سم آلتمن به بررسی رفتار عاملهای هوش مصنوعی OpenAI
🔴 همچنین بخوانید: شرکت OpenAI چند رفتار نگرانکننده مدلهای هوش مصنوعی خود را افشا کرد
بررسی جداگانه OpenAI همچنین ۵۳ مورد را شناسایی کرده است که در آنها عاملهای هوش مصنوعی، تصاویر ارائهشده ازطریق ChatGPT را در وبسایتهای میزبانی تصویر منتشر کردهاند.
شرکت OpenAI جزئیاتی درباره ماهیت این تصاویر ارائه نکرده است. همچنین مشخص نیست تصاویر مورد بحث با هوش مصنوعی تولید شده بودند یا شامل تصاویر قابلشناسایی از افراد واقعی میشدند. بیشتر این تصاویر اکنون از وبسایتهای میزبان حذف شدهاند و شرکت برای حذف موارد باقیمانده نیز اقدام میکند.
شرکت OpenAI اعلام کرده است فرایندهای ارزیابی و ایمنی خود را بهبود میدهد تا احتمال خروج اطلاعات (Data Exfiltration) توسط مدلهای هوش مصنوعی در آینده کاهش پیدا کند. بررسی نحوه تعامل عاملها با سرویسها و وبسایتهای شخص ثالث نیز بخشی از این فرایند خواهد بود.
🔴 همچنین بخوانید: مدیرعامل آنتروپیک خواستار کاهش سرعت توسعه هوش مصنوعی و خودبهبوددهی مدلها شد
رویدادهای اخیر یکی از چالشهای مهم توسعه عاملهای هوش مصنوعی را نشان میدهند. سیستمهایی که میتوانند بهصورت مستقل در اینترنت فعالیت کنند، به محدودیتهای فنی و سازوکارهای نظارتی نیاز دارند تا از محدوده مأموریت تعیینشده خارج نشوند.
البته شدت تمام موارد گزارششده یکسان نیست و برخی از آنها فقط به دسترسی یا انتشار اطلاعات عمومی مربوط میشوند. بااینحال، OpenAI بررسی رفتار عاملهای خود را ادامه میدهد و قصد دارد روشهای ارزیابی آنها را برای کاهش احتمال تکرار چنین رفتارهایی تقویت کند.
بهنظر شما شرکتهای فعال در حوزه هوش مصنوعی برای کنترل عاملهای مستقلی که به اینترنت دسترسی دارند باید چه محدودیتهایی درنظر بگیرند؟ دیدگاه خود را در بخش نظرات بنویسید.
