شرکت آنتروپیک، خالق کلود و رقیب سرسخت OpenAI، در اقدامی قابل توجه و در پی یک دستور مستقیم از دولت ترامپ، دو مدل قدرتمند خود به نامهای «Fable» و «Mythos» را از دسترس خارج کرده است. بر اساس گزارشها، این تصمیم پس از هشدار وزارت بازرگانی آمریکا مبنی بر احتمال سوءاستفاده امنیتی از یک تکنیک نفوذ (جیلبریک) روی مدل «Fable 5» گرفته شده است.
مقامات امنیتی نگران هستند که این آسیبپذیری بالقوه بتواند برای اهداف خرابکارانه یا جاسوسی علیه منافع ملی آمریکا مورد استفاده قرار گیرد. با توجه به حساسیت بالای فناوریهای تولید محتوا و متن توسط هوش مصنوعی، این اقدام نشان میدهد که نهادهای نظارتی آمریکا حالا بیش از هر زمان دیگری بر روی توسعه و انتشار مدلهای قدرتمند هوش مصنوعی حساسیت نشان میدهند و حاضرند برای کاهش ریسک، حتی محصولات شرکتهای پیشرو را نیز متوقف کنند.
تحلیل و بررسی: این رویداد نشاندهنده تشدید روند نظارت دولتی بر توسعه هوش مصنوعی و اولویت یافتن ملاحظات امنیتی ملی بر سرعت پیشرفت تجاری است. به نظر میرسد در آینده نزدیک شاهد وضع مقررات سختگیرانهتر و احتمالاً ممنوعیتهای بیشتری برای مدلهای خاص هوش مصنوعی توسط دولتها خواهیم بود. این موضوع میتواند فضای رقابتی را برای شرکتهای فناوری پیچیدهتر کرده و مسیر نوآوری را به سمت تمرکز بیشتر بر امنیت و شفافیت سوق دهد.
منبع: Ars Technica (مشاهده متن اصلی)
inoit.ir/post/164
کپی شد!