دولت آمریکا شب گذشته با استناد به مقررات کنترل صادرات، دستور بی‌سابقه‌ای به شرکت Anthropic صادر کرد و خواستار توقف فوری دسترسی همگانی به دو مدل قدرتمند Claude Fable 5 و Claude Mythos 5 شد. دلیل این دستور، نگرانی‌های امنیت ملی عنوان شده، اما جزئیات آن همچنان مبهم است. در واکنش، Anthropic نه تنها دسترسی عمومی، بلکه دسترسی تمام کاربران جهانی، حتی مشتریان شرکتی و کارمندان خود را به این مدل‌ها قطع کرد و جلسات فعال را به خطا ختم کرد. این اتفاق درست سه روز پس از انتشار عمومی این مدل‌ها رخ داده و ضربه سنگینی به اعتماد کاربران و کسب‌وکارها وارد کرده است.

به‌نظر می‌رسد این اقدام دولتی تحت تأثیر یک جیلبریک (شکستن محدودیت‌های امنیتی) گسترده از سوی هکری معروف به «پلینیِ آزادی‌بخش» (Pliny the Liberator) صورت گرفته است. او ادعا کرده با استفاده از تکنیک‌های پیشرفته‌ای مثل یونیکد، سیریلیک و ردیابی مرجع طولانی، موفق به دور زدن محدودیت‌های مدل Fable 5 و استخراج آموزش‌هایی برای ساخت مواد منفجره و داروهای غیرمجاز شده است. Anthropic اما می‌گوید دولت آمریکا شواهد دقیقی از این جیلبریک ارائه نداده و این اتفاق می‌تواند به یک هنجار خطرناک برای تمام ارائه‌دهندگان مدل‌های پیشرفته تبدیل شود.

این رویداد برای کسب‌وکارهایی که به API اختصاصی Anthropic وابسته‌اند، هشداری جدی است. پیش از این هم در سال جاری، پنتاگون Anthropic را به دلیل عدم همکاری در پروژه‌های نظارتی و تسلیحات خودمختار به فهرست ریسک زنجیره تأمین اضافه کرده بود. حالا کارشناسان توصیه می‌کنند که شرکت‌ها نباید تمام تخم‌مرغ‌های هوش مصنوعی خود را در یک سبد بگذارند. بهترین راهکار، طراحی معماری «خنثی نسبت به مدل» است، یعنی سیستمی که بتواند در لحظه بین مدل‌های ابری و مدل‌های محلی (مثلاً مدل‌های متن‌باز مثل MiniMax M3) سوئیچ کند تا از قطعی سرویس در برابر دستورات دولتی یا حملات سایبری جلوگیری شود.

تحلیل و بررسی: این اولین جرقه‌ی یک جنگ تمام‌عیار بین حاکمیت‌های دولتی و سرعت پیشرفت هوش مصنوعی است و احتمالاً مدل‌های بسته و متمرکز ابری بیش از پیش هدف مقررات سخت‌گیرانه قرار خواهند گرفت. بهترین کار برای مدیران فناوری اطلاعات، مهاجرت به یک استراتژی دوگانه است: استفاده از مدل‌های پیشرفته ابری برای کارهای حیاتی و هم‌زمان نگهداشتن یک مدل متن‌باز روی سخت‌افزار داخلی برای مواقع بحرانی. پیش‌بینی می‌کنم در ماه‌های آینده شاهد ظهور استانداردهای جدیدی برای «تاب‌آوری زنجیره تأمین هوش مصنوعی» در شرکت‌های بزرگ باشیم.

منبع: VentureBeat (مشاهده متن اصلی)

لینک کوتاه: inoit.ir/post/166 کپی شد!