شرکت گوگل به تازگی اقدام به شکایت قضایی از یک شبکه گسترده کلاهبرداری سایبری کرده که ظاهرا مقر آن در چین است. طبق ادعای این غول فناوری، این گروه مجرمانه از ابزار هوش مصنوعی خود گوگل یعنی Gemini برای ایجاد و خودکارسازی سایتهای کلاهبرداری استفاده کردهاند. گفته میشود این سایتها صدها هزار کاربر را در سراسر جهان هدف قرار داده بودند.
طبق اسناد دادگاه، کلاهبرداران با سوءاستفاده از مدل زبانی بزرگ Gemini، عملیات فیشینگ و طرحهای مختلف کلاهبرداری مالی را به صورت خودکار راهاندازی کرده و قربانیان را به دام میانداختند. این پرونده نشاندهنده نخستین نمونههای جدی از سوءاستفاده سازمانیافته از ابزارهای هوش مصنوعی تولیدی برای اهداف مجرمانه است که شرکت سازنده را مجبور به واکنش قضایی کرده است.
تحلیل و بررسی:
این پرونده نقطه عطف مهمی در مدیریت ریسک ابزارهای هوش مصنوعی عمومی محسوب میشود و نشان میدهد حتی شرکتهای پیشرو نیز در برابر سوءاستفادههای خلاقانه آسیبپذیر هستند. به احتمال زیاد شاهد افزایش نظارت و محدودیتهای دسترسی به APIهای هوش مصنوعی برای کاربران جدید و ناشناس خواهیم بود. در آینده نزدیک، استانداردسازی فرآیندهای احراز هویت و نظارت بر فعالیتهای مشکوک در پلتفرمهای هوش مصنوعی به اولویت اصلی توسعهدهندگان تبدیل خواهد شد.
منبع: Ars Technica (مشاهده متن اصلی)
inoit.ir/post/171
کپی شد!