Shopify با ساخت یک پروکسی LLM، به مهندسان خود این امکان را میدهد که به چندین ارائهدهنده هوش مصنوعی دسترسی داشته باشند، به گونهای که در صورت بروز خطا یا تغییرات در هر یک از آنها، روند کارشان مختل نشود. بهعنوان مثال، وقتی Claude Fable 5 به طور ناگهانی متوقف شد، مهندسان Shopify بدون هیچگونه اضطراب و وحشتی به صورت خودکار به Claude Opus یا GPT 5.5 منتقل شدند.
فارحان ثاور، رئیس مهندسی Shopify، در پادکست جدید VentureBeat Beyond the Pilot میگوید: "ما از Fable استفاده کردیم و واقعاً فوقالعاده بود؛ اما پروکسی به ما اجازه میدهد تا به راحتی در بین ارائهدهندگان مختلف جابجا شویم."
این شرکت توکنها را به صورت عمده خریداری میکند و تمام کاربران از طریق پروکسی به مدلها متصل میشوند. به این ترتیب، تیم ثاور نه تنها به گزارشدهی دسترسی پیدا میکند بلکه در مواقعی که یک ارائهدهنده مشکلی دارد، کاربران میتوانند به طور خودکار و بدون وقفه به دیگری منتقل شوند.
در حالی که ممکن است برخی از شرکتها از این الگو الهام بگیرند تا برنامههای پشتیبانی قویتری داشته باشند، ثاور به اهمیت استفاده از مدلهای کوچک و خاص تأکید میکند. وی میگوید: "مدلهای کوچک، در برخی موارد تا 30 برابر سریعتر و ارزانتر از مدلهای عمومی عمل میکنند".
او همچنین به حرکت از "واکنشپذیری هوش مصنوعی" به "قدرتگیری هوش مصنوعی" اشاره میکند و بر این نکته تأکید دارد که استفاده هوشمندانه از هوش مصنوعی میتواند به بهبود کارایی شرکتها کمک شایانی کند.
پروکسیهای هوش مصنوعی مانند آنچه Shopify پیادهسازی کرده، میتوانند به عنوان الگوی موفقی برای دیگر کسبوکارها در نظر گرفته شوند. با توجه به افزایش رقابت در ابزارهای هوش مصنوعی، استفاده از مدلهای تخصصی میتواند مزیت رقابتی ایجاد کند. پیشرفت در زیرساختهای هوش مصنوعی نشان میدهد که این فناوری روز به روز در حال بلوغ و توسعه است.
منبع: VentureBeat (مشاهده متن اصلی)
n8n.ir/iit294u
کپی شد!