مدلهای زبان بزرگ همچنان با مشکل تخیلات روبرو هستند، که این مسئله برای برنامههای تجاری واقعی یک مانع بزرگ محسوب میشود. کاهش این اشتباهات کار دشواری است و توسعهدهندگان مدلها باید بین حذف اشتباهات فاکتویی و جلوگیری از پاسخهای معتبر، تعادل پیدا کنند.
در یک مقاله جدید، پژوهشگران گوگل مفهوم «ناخداگی مطمئن» را معرفی کردهاند، که یک تکنیک متاکوگنیتیک است که پاسخ مدل را با اطمینان داخلی آن هماهنگ میکند. این هماهنگی به مدل اجازه میدهد تا فرضیههایی با احتیاط ارائه دهد، مانند «به نظر من...»، در عوض اینکه به یک «پاسخ یا خودداری» بیفایده روی آورد.
در برنامههای هوش مصنوعی خودکار، این آگاهی متاکوگنیتیک به عنوان یک لایه کنترل ضروری عمل میکند. این امکان را به سیستمهای خودکار میدهد تا دقیقاً زمانی که دانش داخلی کافی است، تشخیص دهند و در غیر این صورت ابزارهای خارجی یا APIهای جستجو را برای حل مشکلات فعال کنند.
تحلیل و بررسی: این پیشرفت در هوش مصنوعی، به ویژه در مدلهای زبان بزرگ، میتواند به بهبود قابل توجهی در دقت و قابل اعتماد بودن سیستمهای هوش مصنوعی منجر شود. با این حال، آموزش مدلها برای درک و بیان ناخداگی مطمئن، یک چالش بزرگ است که نیاز به تحقیقات بیشتر و تکنیکهای پیشرفتهتر دارد. در آینده، انتظار میرود که این فناوری در برنامههای تجاری گستردهتری به کار رود و به بهبود عملکرد سیستمهای هوش مصنوعی کمک کند.
منبع: VentureBeat (مشاهده متن اصلی)
inoit.ir/post/170
کپی شد!