هوش‌های مصنوعی حالا بیشتر از همیشه توانایی انجام کارهای تجاری به‌صورت مستقل را دارند، اما مدیران فناوری اطلاعات هنوز در اعطای دسترسی به سیستم‌های سازمانی احتیاط می‌کنند. این نگرانی‌ها ناشی از چگونگی اندازه‌گیری قابل‌اعتماد بودن هوش مصنوعی است که معمولاً بر اساس نمرات EVAL انجام می‌شود؛ نمراتی که یک نمای ساکن از عملکرد ارائه می‌دهند و نمی‌توانند توانایی پیش‌بینی را در شرایط مختلف به‌خوبی نمایش دهند. برایان سیلورثور، مدیر آزمایشگاه تحقیقاتی AGI مستقل آمازون، به وب‌سایت VentureBeat گفت: "ما باید فراتر از استانداردهای عادی برویم و روی یک چارچوب ساختاری با تمرکز بر ثبات، استحکام و امنیت کار کنیم."

آمازون در تلاش است تا بر مشکلات اعتماد در رابطه با فناوری‌های هوش مصنوعی غلبه کند و به جای متکی بودن به مدل‌ها، سیستم‌هایی مستقل و جداسازی شده را معرفی کند که در آن‌ها تغییرات پیشنهادی به‌وسیله هوش‌های مصنوعی، توسط انسان‌ها قبل از اجرای نهایی بررسی می‌شود. سیلورثور در مورد نگرانی‌های اخیر اشاره کرد که در نظرسنجی انجام‌گرفته از ۱۰۰ مدیر فناوری‌ اطلاعات فقط ۴٪ به تکمیل اطمینان به تنها مدل‌های محافظتی اشاره کردند، و ۴۰٪ نسبت به دسترسی غیرمجاز و ۲۷٪ به تغییرات ناخواسته نگران بودند.

در کنفرانس VB Transform، سیلورثور جزئیات بیشتری از رویکرد آمازون به هوش مصنوعی قابل اعتماد ارائه خواهد داد و نحوه انتقال شرکت‌ها از استفاده از مدل‌های تکی به معماری‌های چندابزاری که در حین اجرای کار می‌توانند خود را اصلاح کنند را توضیح خواهد داد.

تحلیل و بررسی: آمازون با این رویکرد، به‌وضوح نشان می‌دهد که درک عمیق‌تری از چالش‌های موجود در استفاده از هوش مصنوعی دارد. نیاز به سیستم‌های قابل‌اعتماد و قابل‌بررسی در صنایع حساس، مانند مالی، روزبه‌روز بیشتر احساس می‌شود. این رویکرد می‌تواند به ایجاد سطح جدیدی از اعتماد بین کاربران و تکنولوژی‌های هوش مصنوعی کمک کند.

منبع: VentureBeat (مشاهده متن اصلی)

لینک کوتاه: inoit.ir/post/284 کپی شد!