مدلهای زبان بزرگ همچنان با مشکل «تخیلات» روبرو هستند، که این مسئله به عنوان یک مانع بزرگ برای کاربردهای واقعی در کسبوکار شناخته میشود. کاهش این اشتباهات کار دشواری است و توسعهدهندگان مدلها باید بین حذف اشتباهات فاکتویی و حفظ پاسخهای معتبر تعادل بگیرند.
پژوهشگران گوگل با معرفی «ناشناختی وفادار»، یک تکنیک متاکognitionی، به این مشکل پاسخ دادهاند. این تکنیک پاسخ مدل را با اطمینان داخلی آن هماهنگ میکند، به طوری که مدل بتواند فرضیههایی را با احتیاط ارائه دهد، مانند «به نظر من...» در عوض پاسخ دادن یا خودداری از پاسخ دادن. این آگاهی متاکognitionی در برنامههای هوش مصنوعی خودکار به عنوان یک لایه کنترل ضروری عمل میکند و به سیستمهای خودکار اجازه میدهد که بدانند کدام اطلاعات کافی است و کدام اطلاعات نیاز به ابزارهای خارجی یا جستجو در API دارد.
پژوهشگران گوگل پیشنهاد میکنند که هر اشتباه فاکتویی را به عنوان یک تخیل در نظر نگیرند. در عوض، آنها تخیلات را به عنوان «اشتباهات با اطمینان» تعریف میکنند: اطلاعات نادرست که بدون احتیاط ارائه میشوند. این تغییر در تعریف، مدل را قادر میسازد تا ناخودآگاهیش را ابراز کند و به این ترتیب، از مفید بودن خود در پاسخ به سوالات حفظ کند.
تحلیل و بررسی: با پیشرفتهای جدید در هوش مصنوعی، «ناشناختی وفادار» میتواند به بهبود قابل توجهی در دقت و قابل اعتماد بودن مدلهای زبان بزرگ منجر شود. این تکنیک به سیستمهای هوش مصنوعی اجازه میدهد تا بهتر از قبل با ناخودآگاهیشان برخورد کنند و به این ترتیب، پاسخهای دقیقتر و مفیدتر ارائه دهند. در آینده، انتظار میرود که این روش در برنامههای هوش مصنوعی خودکار به عنوان یک لایه کنترل مرکزی عمل کند.
منبع: VentureBeat (مشاهده متن اصلی)
inoit.ir/post/187
کپی شد!