مدلهای زبان بزرگ هنوز با مشکل توهینات (hallucinations) روبرو هستند، که این موضوع به عنوان یک مانع بزرگ برای کاربردهای واقعی در سازمانها شناخته میشود. کاهش این اشتباهات کار دشواری است و توسعهدهندگان باید بین حذف اشتباهات فاکتویی و حفظ پاسخهای معتبر تعادل بیاورند.
پژوهشگران گوگل با معرفی مفهوم «ناشناختن مطمئن» (faithful uncertainty) به این مشکل پاسخ دادهاند. این تکنیک متاکوگنیتیک، پاسخ مدل را با اطمینان داخلی آن هماهنگ میکند، به طوری که مدل میتواند حدسهای مناسب ارائه دهد، مانند «به نظر من...» به جای پاسخهای بیفایده «پاسخ یا خودداری». در کاربردهای هوش مصنوعی خودکار، این آگاهی متاکوگنیتیک به عنوان یک لایه کنترل ضروری عمل میکند و به سیستمهای خودکار اجازه میدهد که بدانند کدام اطلاعات کافی است و کدام اطلاعات نیاز به ابزارهای خارجی یا جستجوی API دارند.
پژوهشگران پیشنهاد میکنند که هر اشتباه فاکتویی را به عنوان یک توهین در نظر نگیرند، بلکه آنها را به عنوان «اشتباهات مطمئن» تعریف کنند: اطلاعات نادرست ارائه شده با اطمینان بدون تأکید مناسب. این تغییر در تعریف، مدل را قادر میسازد تا عدم اطمینان خود را بیان کند و به این ترتیب، از مفید بودن خود در پاسخ به سوالات حفظ کند.
تحلیل و بررسی: با پیشرفتهای جدید در هوش مصنوعی، انتظار میرود که مدلهای زبان بزرگ بتوانند بهتر از قبل با عدم اطمینان خود برخورد کنند و به این ترتیب، پاسخهای دقیقتر و قابل اعتماد ارائه دهند. این پیشرفتها میتوانند در آینده نزدیک، کاربردهای هوش مصنوعی خودکار را به شدت بهبود بخشند و به سازمانها کمک کنند تا از این فناوری بهتر استفاده کنند.
منبع: VentureBeat (مشاهده متن اصلی)
n8n.ir/iit212p
کپی شد!