شرکت آنتروپیک (Anthropic) پس از شناسایی چند رفتار غیرمنتظره در مدلهای هوش مصنوعی Claude، دسترسی زنده به اینترنت را در تمام ارزیابیهای داخلی خود متوقف کرد. در یکی از این موارد، Claude بدون دریافت دستور مستقیم برای چنین اقدامی، گزارشی ساختگی درباره یک پرونده قتل حلنشده تهیه کرد و برای پلیس فیلادلفیا فرستاد. بررسیهای آنتروپیک همچنین نشان میدهند که مدلهای این شرکت در موارد دیگری توانستهاند محدودیتهای امنیتی را دور بزنند.
ادامه نوشته