داریو آمودی، مدیرعامل آنتروپیک، خواستار کاهش سرعت توسعه هوش مصنوعی در حوزههایی شده که به سیستمها امکان میدهند در ساخت نسل بعدی هوش مصنوعی مشارکت کنند. او هشدار میدهد روند «خودبهبوددهی بازگشتی» میتواند سریعتر از توان توسعهدهندگان برای درک و کنترل سیستمهای هوش مصنوعی پیش برود.
🔷 مدیرعامل آنتروپیک میگوید پیشرفت هوش مصنوعی از تابستان امسال بهشدت سرعت گرفته و توانایی AI برای کمک به ساخت نسل بعدی خود یکی از عوامل اصلی آن است.
🔷 آمودی هشدار داده سیستمهای خودمختار مشابه نمونههای فعلی میتوانند ظرف ۶ تا ۱۲ ماه تهدیدی برای کل اینترنت ایجاد کنند.
🔷 او استقرار دائمی حسابرسان مستقل در شرکتهای هوش مصنوعی و تدوین استانداردهای ایمنی مشترک را پیشنهاد میکند.
🔷 پیشنهادهای آمودی شامل توافقهای بینالمللی با حضور چین و حتی تعیین «محدودیت سرعت» برای خودبهبوددهی بازگشتی هوش مصنوعی است.
🔷 مدیرعامل Anthropic توقف کامل توسعه AI را عملی نمیداند و هدف از کاهش سرعت را خریدن زمان برای تحقیقات ایمنی، تفسیرپذیری و آزمایشهای سختگیرانهتر عنوان میکند.
آمودی در مطلب تازهای مینویسد که از حدود تابستان امسال، سرعت پیشرفت هوش مصنوعی به شکل چشمگیری افزایش یافته و توانایی روبهرشد AI برای کمک به ساخت نسل بعدی سیستمهای هوش مصنوعی عامل اصلی این شتاب بوده است.
این فرایند که از آن با عنوان «خودبهبوددهی بازگشتی» یا Recursive Self-Improvement یاد میشود، به گفته مدیرعامل آنتروپیک در سراسر صنعت در حال وقوع است. نگرانی او این است که سرعت این روند در نهایت از توان توسعهدهندگان برای فهم عملکرد سیستمها و کنترل آنها فراتر برود.
گزارشها همچنین حاکی از آن است که در OpenAI نیز گفتوگوهایی مشابه درباره امکان کاهش سرعت توسعه هوش مصنوعی در جریان است.
یکی از شواهد مورد استناد آمودی، ماجرای OpenAI و Hugging Face است. براساس نمونههای مطرحشده، ایجنتهای هوش مصنوعی پیشتر بهصورت خودمختار حملات سایبری انجام داده و برای عبور از سیستمهای کنترلی تلاش کردهاند. رخدادهای مشابهی نیز در آنتروپیک گزارش شده است.
مدیرعامل آنتروپیک معتقد است ادامه توسعه سیستمهایی با چنین قابلیتهایی میتواند در بازهای نسبتاً کوتاه پیامدهای گستردهتری داشته باشد. او هشدار داده است سیستمهایی از این نوع ممکن است ظرف ۶ تا ۱۲ ماه تهدیدی برای کل اینترنت ایجاد کنند.
مدیرعامل آنتروپیک
یکی از راهکارهای پیشنهادی آمودی، حضور دائمی حسابرسان مستقل در داخل شرکتهای توسعهدهنده هوش مصنوعی است. این حسابرسان باید به سیستمهای داخلی دسترسی داشته باشند و بتوانند یافتههای خود را منتشر کنند.
شرکت آنتروپیک متعهد شده است چنین رویکردی را اجرا کند و همزمان از دولت خواسته شرکتهای دیگر را نیز ملزم به پذیرش سازوکاری مشابه کند.
آمودی همچنین معتقد است شرکتهای هوش مصنوعی مستقر در کشورهای دموکراتیک باید درباره استانداردهای مشترک ایمنی به توافق برسند و محدودیتهایی برای پیشرفت بدون کنترل تعیین کنند. پیشنهاد مشابهی نیز پیشتر از سوی دمیس هاسابیس مطرح شده است.
بخش دیگری از پیشنهاد مدیرعامل آنتروپیک به توافقهای بینالمللی مربوط میشود؛ توافقهایی که از دید او باید چین را نیز شامل شوند. آمودی چهار سطح مختلف برای چنین همکاریهایی مطرح کرده است.
این سطوح از ممنوعیت برخی کاربردهای هوش مصنوعی مانند استفاده در سلاحهای زیستی و الزام به آزمایشهای ایمنی مشترک آغاز میشوند و در بالاترین سطح به تعیین نوعی «محدودیت سرعت» برای خودبهبوددهی بازگشتی میرسند.
آمودی این مدل از محدودیت بینالمللی را با پیمانهای کاهش تسلیحات SALT مقایسه کرده است؛ توافقهایی که برای محدود کردن تسلیحات راهبردی شکل گرفتند.
با وجود این هشدارها، آمودی خواهان توقف کامل توسعه هوش مصنوعی نیست. او معتقد است چنین توافقی واقعبینانه نخواهد بود، زیرا انگیزه کشورها یا شرکتها برای نقض یک توقف کامل بیش از حد قوی است.
دونالد ترامپ، رئیسجمهور آمریکا، پیشتر با هرگونه کاهش سرعت توسعه هوش مصنوعی مخالفت کرده و حفظ برتری ایالات متحده در حوزه AI نسبت به چین را ضروری دانسته است.
از دید مدیرعامل آنتروپیک، هدف اصلی باید خریدن زمان برای بهبود ایمنی باشد. زمان بهدستآمده میتواند صرف تحقیقات ایمنی بهتر، افزایش تفسیرپذیری مدلها، آزمایشهای سختگیرانهتر و ایجاد نظم عملیاتی بیشتر شود.
آمودی برای توضیح دیدگاه خود صنعت هوانوردی تجاری را مثال میزند. هواپیماهای مسافربری امروزه میلیونها پرواز را بدون حادثه انجام میدهند، اما رسیدن صنعت هوانوردی به چنین سطحی از ایمنی به سالها زمان نیاز داشته است.
از نگاه او، صنعت هوش مصنوعی نیز به زمان نیاز دارد تا سازوکارهای ایمنی، آزمایش و کنترل خود را متناسب با سرعت پیشرفت فناوری توسعه دهد.
اظهارات آمودی پس از هشدار کارکنان آزمایشگاههای بزرگ هوش مصنوعی، از جمله آنتروپیک، مطرح شده است. این افراد گفتهاند صنعت AI با سرعت فعلی خود در حال پذیرش ریسکهای وجودی است.
هشدار تازه مدیرعامل آنتروپیک همچنین در آستانه عرضه اولیه سهام گزارششده این شرکت مطرح میشود؛ عرضهای که گفته شده برای نوامبر ۲۰۲۶ (آبان تا آذر ۱۴۰۵) برنامهریزی شده و ممکن است رکوردشکن باشد.
🔴 همچنین بخوانید: ایجنتهای OpenAI پیش از حمله به Hugging Face ماهها بهطور مخفیانه با یکدیگر همکاری میکردند
داریو آمودی توقف کامل پیشرفت هوش مصنوعی را امکانپذیر نمیداند، اما معتقد است سرعت توسعه در بخشهایی مانند خودبهبوددهی بازگشتی باید محدود شود تا پژوهشهای ایمنی، تفسیرپذیری و سازوکارهای نظارتی فرصت رسیدن به تواناییهای مدلها را پیدا کنند. پیشنهاد او از حسابرسی مستقل شرکتها تا استانداردهای مشترک و توافقهای بینالمللی برای کنترل سرعت پیشرفت هوش مصنوعی را در بر میگیرد.
به نظر شما تعیین محدودیت مشترک برای سرعت توسعه سیستمهای هوش مصنوعی پیشرفته در سطح جهانی امکانپذیر است؟
