ظاهراً فصل حملههای امنیتی به مدلهای زبانی تمامی ندارد. حالا گزارش شده ChatGPT هدف یک حمله جدید برای دزدی داده قرار گرفته است. این نوع حملات که با استخراج غیرمجاز اطلاعات آموزشی مدل انجام میشوند، مثل یک دور باطل، مدام تکرار میشوند و نشان میدهد امنیت این سیستمهای پیچیده هنوز چالشی جدی است.
کارشناسان میگویند ریشه این مشکل احتمالاً برای همیشه باقی خواهد ماند. دلیلش این است که ذات یادگیری این مدلها، مبتنی بر دادههای عظیم است و جدا کردن دادههای حساس از غیرحساس در این حجم، تقریباً غیرممکن به نظر میرسد. پس هر بار با یک ترفند جدید، مهاجمان ممکن است بتوانند بخشی از اطلاعات پنهان در اعماق هوش مصنوعی را بیرون بکشند.
تحلیل و بررسی: به نظر میرسد جامعه هوش مصنوعی باید به جای ریشهکن کردن کامل این آسیبپذیری، روی کاهش ریسک و کنترل خسارت تمرکز کند. احتمالاً در آینده شاهد استانداردهای امنیتی سختگیرانهتر و فریمورکهای نظارتی جدید برای مدلهای بزرگ زبانی خواهیم بود. این نبرد دائمی بین توسعهدهندگان و هکرها، بخش جداییناپذیر از مسیر تکامل فناوریهای مبتنی بر هوش مصنوعی باقی خواهد ماند.
منبع: Ars Technica (مشاهده متن اصلی)
n8n.ir/iit48v
کپی شد!