در دو سال اخیر، شرکتها به سمت استفاده از مدلهای زبانی بزرگ (LLMs) در حوزههایی مانند پشتیبانی، تحلیل، توسعه و اتوماسیون داخلی رفتهاند. اما همزمان با رشد این فناوری، مجرمان سایبری سواستفاده از شکافهای طراحی این مدلها را آغاز کردهاند. در گزارشهای مستقل مختلف اشاره شده که نفوذ با دستورات مخرب یکی از اصلیترین و موثرترین روشهای حمله به سیستمهای LLM باقی مانده است. بهطوری که OWASP، در فهرست 10 آسیبپذیری خطرناک LLM، این نوع حمله را به عنوان LLM01 معرفی کرده است.
طبق گزارشی از CrowdStrike در سال 2026، مجرمان توانستهاند با تزریق دستورات مخرب به ابزارهای هوش مصنوعی معتبر، اطلاعات حساس را از بیش از 90 سازمان سرقت کنند. این نوع حملات نشان میدهد که نفوذ با دستورات مخرب نه تنها یک تهدید نظری، بلکه یک مشکل واقعی و قابل تکرار است که هر شرکتی باید به آن رسیدگی کند. با پیشرفت تکنیکهای نفوذ، امروز این حملات قادر به هدف قرار دادن معماریهای چندعاملی، زنجیرههای تأمین RAG و حتی روترهای مدل نیز هستند.
شرکتها برای مقابله با این تهدید باید سیاستهای سختگیرانهای را برای اعتبارسنجی محتوا، محدود کردن مجوزهای مدل و نظارت بر حرکات ابزارها اتخاذ کنند. بهویژه در سال 2026، خطرات ناشی از نفوذ با دستورات میتواند به سرقت دادههای حساس و مختل کردن فرآیندهای داخلی منجر شود. تنها راه کارآمد با این چالش، تغییر دیدگاه شرکتها به مدلهای LLM به عنوان ابزارهای غیرقابل اعتماد است.
تحلیل و بررسی: با توجه به تغییردر شیوههای حمله، به نظر میرسد که تهدیدات ناشی از نفوذ با دستورات مخرب در سالهای آینده بیشتر خواهد شد. بنابراین، لازم است که شرکتها روی امنیت این سیستمها تمرکز بیشتری داشته باشند. در غیر این صورت، آسیبپذیری آنها به سادگی میتواند منجر به خسارات مالی و اعتباری سرسامآوری شود.
منبع: VentureBeat (مشاهده متن اصلی)
inoit.ir/post/313
کپی شد!