غول فناوری گوگل علیه یک شبکه جرمسازمانیافته چینی که از هوش مصنوعی جمینای برای خودکارسازی کلاهبرداریهای اینترنتی استفاده میکرد، شکایت رسمی تنظیم کرد. بر اساس این شکایت، کلاهبرداران با استفاده از مدلهای هوش مصنوعی گوگل، صدها سایت جعلی و فیشینگ طراحی کرده بودند که دقیقاً شبیه سرویسهای معتبر بودند و کاربران را فریب میدادند. این شبکه بهطور هدفمند صدها هزار نفر را در سراسر جهان هدف قرار داده بود و ظاهراً با کدنویسی مخرب مبتنی بر جمینای، عملیات کلاهبرداری خود را به شکل کاملاً اتوماتیک و در مقیاس بالا اجرا میکرد.
به گفته گوگل، این گروه مجرمانه که در چین مستقر است، از هوش مصنوعی مولد برای ایجاد وبسایتهای کلاهبرداری با ظاهر قانونی استفاده میکرد. این سایتها که با کمک قابلیتهای جمینای ساخته شده بودند، کاربران را ترغیب به ارائه اطلاعات شخصی یا پرداختهای مالی میکردند. گوگل اعلام کرده که این اقدام قانونی را برای حفاظت از کاربران و مبارزه با سوءاستفاده از فناوریهای هوش مصنوعی انجام داده و خواستار توقف فعالیت و جبران خسارت از این شبکه شده است.
تحلیل و بررسی:
این پرونده نشاندهنده یک خطر جدید و جدی در دنیای سایبری است: خودکارسازی جنایتهای اینترنتی با ابزارهای هوش مصنوعی که قبلاً نیازمند تخصص بالای کدنویسی بود، حالا برای مجرمان سادهتر و سریعتر شده است. با توجه به قدرت تکثیر محتوای مخرب توسط مدلهای زبانی، پیشبینی میشود که در آینده نزدیک شاهد افزایش حملات فیشینگ بسیار شخصیسازیشده و غیرقابل تشخیص باشیم. واکنش قانونی گوگل میتواند یک سابقه مهم برای محدود کردن سوءاستفاده از سرویسهای هوش مصنوعی ایجاد کند و شرکتهای دیگر را مجبور به تقویت مکانیسمهای نظارتی خود کند.
منبع: Ars Technica (مشاهده متن اصلی)
n8n.ir/iit198c
کپی شد!