انتشار Kimi K2.7-Code: کاهش 30 درصدی توکن‌های تفکر، اما آیا واقعاً کارآمد است؟

این هفته، شرکت Moonshot AI از به‌روزرسانی جدیدی به نام Kimi K2.7-Code رونمایی کرد که نسخه‌ای متن‌باز از خانواده مدل‌های کدنویسی K2 است. این مدل جدید مدعی است که می‌تواند توان پردازش را بهینه کرده و دستخوش پیشرفت‌های معناداری شود.

K2.7-Code بر اساس آرشیتکتور «میانگین چند خبره» با یک تریلیون پارامتر مشابه با K2.6 ساخته شده و از طریق یک API سازگار با OpenAI عرضه می‌شود - که برای تیم‌هایی که قبلاً از K2.6 استفاده می‌کنند، اهمیت دارد. Moonshot AI ادعا می‌کند که با کاهش 30 درصدی از توکن‌های تفکر، هزینه‌های استنتاج برای کارهای کارگاهی کاهش می‌یابد، اما سوال اینجاست که آیا این بهبود در معیارهای مستقل نیز قابل مشاهده است؟

این مدل تحت مجوز MIT اصلاح‌شده منتشر شده و وزن‌های آن در HuggingFace در دسترس است. K2.7-Code به صورت انحصاری در حالت تفکر کار می‌کند و تنظیم دما را پشتیبانی نمی‌کند. تغییر اصلی در K2.7-Code، نحوه تولید کدهای پایه است که به طور مستقیم توسط مدل انجام می‌شود، در حالی که K2.6 از کتابخانه‌های موجود استفاده می‌کرد.

تحلیل و بررسی: با توجه به چالش‌های ارائه‌شده در معیارهای بین‌المللی، به نظر می‌رسد K2.7-Code احتیاج به بررسی و آزمون‌های بیشتر دارد تا توانایی‌های واقعی‌اش مشخص شود. همچنین، اگر این مدل بتواند در کارهای واقعی عملکرد قابل قبولی داشته باشد، ممکن است تغییرات مثبتی در هزینه‌های استنتاج به ارمغان بیاورد. این موضوع کار را برای توسعه‌دهندگان این حوزه بسیار جالب خواهد کرد.

منبع: VentureBeat (مشاهده متن اصلی)