شب گذشته، دولت آمریکا با صدور یک دستور صادراتی بیسابقه، شرکت Anthropic را مجبور کرد دسترسی به دو مدل قدرتمند خود یعنی Claude Fable 5 و Claude Mythos 5 را برای تمام کاربران خارجی مسدود کند. این تصمیم که به بهانههای امنیت ملی اتخاذ شده، باعث شد Anthropic دسترسی عمومی به این مدلها را در سراسر جهان قطع کند؛ حتی مشتریان سازمانی و کارمندان خود شرکت هم نمیتوانند از آنها استفاده کنند. این اتفاق درست سه روز پس از انتشار عمومی این مدلها رخ داده و ضربه سنگینی به کاربران و کسبوکارها وارد کرده است.
جالب اینجاست که این دستگیری ناگهانی احتمالاً تحت تأثیر یک نفوذ عمومی (جیلبریک) توسط هکری معروف به «Pliny the Liberator» صورت گرفته. او ادعا کرده بود که با استفاده از تکنیکهای پیچیده مثل یونیکد و حروف مشابه، موفق به دور زدن محدودیتهای امنیتی Fable 5 شده و دستورالعملهای تولید مواد منفجره و حتی متامفتامین را استخراج کرده است. البته Anthropic تأیید نکرده که دقیقاً همین نفوذ باعث این دستور شده و میگوید دولت آمریکا فقط شواهد شفاهی از یک جیلبریک محدود ارائه داده که آن هم در مدلهای دیگر مثل GPT-5.5 وجود دارد. این شرکت هشدار داده که اگر هر جیلبریک کوچکی منجر به مسدود شدن یک مدل تجاری شود، عملاً توسعه تمام مدلهای پیشرو متوقف خواهد شد.
این ماجرا یک زنگ خطر جدی برای شرکتهایی است که به یک سرویس هوش مصنوعی خاص وابسته هستند. تجربهای که سال گذشته با تحریم Anthropic توسط پنتاگون تکرار شد، نشان میدهد که اتکا به یک تأمینکننده واحد میتواند در یک شب باعث اختلال کامل در عملیات کسبوکار شود. بهترین راهحل، تنوعبخشی به تأمینکنندگان هوش مصنوعی است؛ چه از طریق استفاده از مدلهای ابری دیگر و چه با راهاندازی مدلهای محلی روی سختافزار اختصاصی. به قول یکی از کارآفرینان حوزه هوش مصنوعی: «هیچ شرکتی نمیتواند مدلهای محلی شما را ازتان بگیرد.» بنابراین، طراحی سیستمهای هوشمند که بتوانند به سرعت بین مدلهای مختلف جابهجا شوند، دیگر یک انتخاب نیست؛ یک الزام است.
تحلیل و بررسی: این رویداد نشاندهنده شروع دوران جدیدی از نظارت دولتی بر مدلهای پیشرو هوش مصنوعی است که میتواند به محدودیتهای بیشتر در آینده منجر شود. شرکتها باید هرچه سریعتر معماری «فعال-فعال» (Active-Active) را برای سرویسهای هوش مصنوعی خود پیاده کنند تا در صورت قطع دسترسی یک ارائهدهنده، عملیات آنها متوقف نشود. پیشبینی میکنم که در شش ماه آینده، شاهد افزایش شدید تقاضا برای مدلهای متنباز (Open Weights) و سرویسهای ابری مستقل از آمریکا در میان کسبوکارهای بینالمللی باشیم.
منبع: VentureBeat (مشاهده متن اصلی)
inoit.ir/post/140
کپی شد!