داستان عجیبی از دنیای هوش مصنوعی: شرکت Anthropic مجبور شد دو مدل محبوب خود یعنی Fable و Mythos را بهطور کامل خاموش کند. دلیل؟ وزارت بازرگانی آمریکا نگران شده که نسخه پنجم مدل Fable (که عملاً یک «جیلبریک» خطرناک محسوب میشود) میتواند تهدیدی جدی برای امنیت ملی باشد. انگار قرار است این جنگ سرد دیجیتال تازه شروع شود!
ظاهراً دستور مستقیم از سوی دولت ترامپ صادر شده و فشار روی شرکتهای بزرگ هوش مصنوعی برای کنترل خروجیهایشان شدت گرفته. این تصمیم نشان میدهد که دیگر نمیتوان مدلهای قدرتمند را بدون نظارت رها کرد، حتی اگر توسط یک غول مثل Anthropic ساخته شده باشند. بهقول معروف، «هرچه قدر هوش مصنوعی باهوشتر، خطرناکتر» شاید این جمله جدیدترین شعار سیلیکونولی باشد.
تحلیل و بررسی: این حرکت میتواند سرآغاز موج جدیدی از محدودیتهای دولتی روی مدلهای متنباز و حتی بسته باشد. احتمالاً Anthropic مجبور میشود در نسخههای بعدی، لایههای امنیتی سنگینتری اضافه کند که خودش ریسک کندی و کاهش کیفیت را بهدنبال دارد. اگر این روند ادامه پیدا کند، شاهد تقابل جدیتری بین آزادی تحقیق و امنیت ملی در حوزه هوش مصنوعی خواهیم بود که میتواند چشمانداز نوآوری را برای همیشه تغییر دهد.
منبع: Ars Technica (مشاهده متن اصلی)
inoit.ir/post/195
کپی شد!