مدلهای زبان بزرگ همچنان با هالوسیناسیونها درگیر هستند، که این مسئله به عنوان یک مانع بزرگ برای کاربردهای واقعی در سازمانها شناخته میشود. کاهش این اشتباهات کار دشواری است، زیرا توسعهدهندگان مدل باید بین حذف اشتباهات فاکتویی و حفظ پاسخهای معتبر تعادل برقرار کنند.
در یک مقاله جدید، پژوهشگران گوگل مفهوم «ناشکستگی وفادار» را معرفی کردند، که یک تکنیک متاکوگنیتیو است که پاسخ مدل را با اطمینان داخلی آن هماهنگ میکند. این هماهنگی به مدل اجازه میدهد تا فرضیههایی با احتیاط مناسب ارائه دهد، مانند «به نظر من...»، در عوض اینکه به یک پاسخ «پاسخ یا خودداری» بیفایده بازگردد.
در کاربردهای هوش مصنوعی خودکار، این آگاهی متاکوگنیتیو به عنوان یک لایه کنترل ضروری عمل میکند. این امکان را برای سیستمهای خودکار فراهم میکند تا دقیقاً زمانی که دانش داخلی کافی است، تشخیص دهند و در صورت نیاز به ابزارهای خارجی یا API جستجو برای حل مشکلات متکی باشند.
تحلیل و بررسی: با معرفی «ناشکستگی وفادار»، گوگل به سمت یک هوش مصنوعی خودآگاهتر و قابل اعتمادتر در سازمانها پیش میرود. این تکنیک میتواند به کاهش هالوسیناسیونها و افزایش دقت پاسخهای مدلها کمک کند. در آینده، انتظار میرود که این روش در توسعه مدلهای زبان بزرگ و کاربردهای هوش مصنوعی خودکار به طور گستردهتر استفاده شود.
منبع: VentureBeat (مشاهده متن اصلی)
inoit.ir/post/204
کپی شد!