شرکتها هوش مصنوعی را در انواع برنامهها آزمایش میکنند، اما تعداد بسیار کمی از اثباتهای مفهومی (PoC) آنها به تولید میرسند: فقط ۱۲٪، طبق یک مطالعه IDC.
خدمات وب آمازون نیز در مورد این موضوع نگران است، معاون عامل هوش مصنوعی سوامی سیواسوبرامانیان بخش عمده ای از سخنرانی خود را در هفته گذشته AWS re:Invent به آن اختصاص داد.
او گفت: “بیشتر آزمایش ها و PoC ها به گونه ای طراحی نشده اند که آماده تولید باشند.”
بارهای کاری تولید، از یک سو، به تیم های توسعه نیاز دارد که نه تنها تعداد انگشت شماری از نمونه های عامل، بلکه اغلب صدها یا هزاران مورد را به طور همزمان به کار گیرند – هر کدام وظایف هماهنگ را انجام می دهند، زمینه را به یکدیگر منتقل می کنند و با شبکه پراکنده ای از سیستم های سازمانی تعامل دارند.
این با اکثر PoC ها که می توانند حول یک عامل واحد که گردش کار باریکی را انجام می دهد ساخته شوند، فاصله زیادی دارد.
به گفته سیواسوبرامانیان، یکی دیگر از موانع، پیچیدگیهایی است که عوامل تولید باید با آن مقابله کنند، از جمله «مقدار عظیم داده و موارد لبه».
این برخلاف PoCها است که در محیطهای تمیز مصنوعی کار میکنند و بر روی مجموعه دادههای پاکسازیشده با دستورات دستساز و ورودیهای قابل پیشبینی کار میکنند – که همگی واقعیتهای دادههای زنده، مانند فرمتهای ناسازگار، فیلدهای گمشده، سوابق متناقض، و رفتار غیرمنتظره را پنهان میکنند.
سپس مدیریت هویت و دسترسی وجود دارد. یک نمونه اولیه می تواند یک حساب آزمایشی بیش از حد مجاز را مدیریت کند. تولید نمی تواند.
سیواسوبرامانیان گفت: “در تولید، برای احراز هویت کاربران، مجوز دادن به ابزارهایی که عوامل از طرف آنها می توانند به آنها دسترسی داشته باشند، و آن اعتبارنامه ها را در سراسر AWS و سرویس های شخص ثالث مدیریت کنید، به مدیریت هویت و دسترسی قوی نیاز دارید.”
حتی اگر این موانع برطرف شوند، ادغام عوامل در حجم کاری تولید همچنان یک چالش کلیدی باقی می ماند.
سیواسوبرامانیان گفت: “و البته، وقتی وارد تولید میشوید، عامل شما در انزوا زندگی نمیکند. این بخشی از یک سیستم بزرگتر خواهد بود، سیستمی که در صورت شکسته شدن یکپارچگی نمیتواند از هم بپاشد.”
به طور معمول، در یک PoC، مهندسان می توانند به صورت دستی جریان های داده را متصل کنند، ورودی ها را ارسال کنند و خروجی ها را به یک فایل یا رابط آزمایشی تخلیه کنند. اگر چیزی خراب شود، آن را دوباره راه اندازی می کنند و ادامه می دهند. این گردش کار در شرایط تولید از بین می رود: عامل ها بخشی از یک سیستم بزرگتر و وابسته به هم می شوند که هر بار که یکپارچه سازی با شکست مواجه می شود، نمی تواند خراب شود.
حرکت از PoC به تولید
با این حال، Sivasubramanian استدلال می کند که شکاف بین PoC و تولید می تواند کاهش یابد.
به گفته وی، شرکتها میتوانند با تجهیز تیمها به ابزارهایی که آمادگی تولید را در خود فرآیند توسعه، با تمرکز بر انعطافپذیری و در عین حال دقیق و قابل اعتماد بودن، شکاف را پر کنند.
برای رسیدگی به نگرانیها در مورد انعطافپذیری سیستمهای عامل ساختمان با دقت، AWS یک ویژگی حافظه اپیزودیک را به Bedrock AgentCore اضافه کرد که بار توسعهدهندگان را از ساخت داربستهای حافظه سفارشی برداشته است.
به جای اینکه از تیمها انتظار داشته باشیم که ذخیرههای برداری، منطق تجمع و لایههای استخراج خود را جمعآوری کنند، ماژول مدیریت شده بهطور خودکار ردپای تعامل را ضبط میکند، آنها را در «قسمتهای قابل استفاده مجدد» فشرده میکند و زمانی که عوامل بر روی وظایف جدید کار میکنند، زمینه مناسب را خروجی میدهد.
به طور مشابه، Sivasubramanian همچنین توانایی سفارشیسازی یک مدل بدون سرور در SageMaker AI را برای کمک به توسعهدهندگان برای خودکارسازی دادهها، آموزش، ارزیابی و استقرار اعلام کرد.
به گفته اسکات ویلر، رهبر عمل ابری در هوش مصنوعی و شرکت مشاوره داده Asperitas، این اتوماسیون زیرساختهای سنگین و سربار Mlop را که اغلب تلاشهای تنظیم دقیق را متوقف میکنند، از بین میبرد و استقرار سیستمهای عامل را تسریع میکند.
تلاش برای کاهش Mlops به همین جا ختم نشد. Sivasubramanian گفت AWS در حال اضافه کردن Reinforcement Fine-Tuning (RFT) به Bedrock است که به توسعه دهندگان این امکان را می دهد تا با استفاده از پشته یادگیری تقویتی خودکار (RL) رفتار مدل را شکل دهند.
ویلر از این امر استقبال کرد و گفت که این امر بسیاری از پیچیدگی های ساخت یک پشته RL از جمله زیرساخت ها، ریاضیات و خطوط لوله یادگیری را از بین می برد.
SageMaker HyperPod همچنین آموزش های بدون چکپوینت دریافت کرد که به توسعه دهندگان این امکان را می داد تا روند آموزش مدل را سرعت بخشند.
برای پرداختن به قابلیت اطمینان، سیواسوبرامانیان گفت AWS در حال افزودن قابلیتهای سیاست و ارزیابی به دروازه Bedrock AgentCore است. در حالی که Policy به توسعهدهندگان کمک میکند تا با رهگیری تماسهای ابزار، نردههای محافظ را اجرا کنند، ارزیابیها به توسعهدهندگان کمک میکند تا رفتار عامل در دنیای واقعی را شبیهسازی کنند تا مشکلات را قبل از استقرار پیدا کنند.
چالش ها باقی می ماند
با این حال، تحلیلگران هشدار میدهند که عرضه عوامل مستقل به دور از یکپارچگی است.
دیوید لینتیکوم، مشاور مستقل و مدیر ارشد استراتژی ابری بازنشسته Deloitte، گفت: حافظه اپیزودیک اگرچه از نظر مفهومی یک ویژگی مهم است، اما جادو نیست. “تأثیر آن متناسب با میزان خوبی است که شرکت ها داده های رفتاری را ضبط، برچسب گذاری و مدیریت می کنند. این گلوگاه واقعی است.”
Linthicum گفت: “بدون کار جدی مهندسی داده و تله متری، خطر تبدیل شدن به یک نرم افزار پیچیده خارج از قفسه وجود دارد.”
او همچنین ایراداتی به RFT در Bedrock پیدا کرد و گفت که در حالی که این ویژگی سعی میکند پیچیدگی را از جریانهای کاری RL انتزاعی کند، پیچیدهترین بخشهای فرآیند، مانند تعریف پاداشهایی که ارزش کسبوکار را منعکس میکند، ایجاد یک ارزشگذاری قوی و مدیریت واریانس را حذف نمیکند.
او گفت: «این جایی است که PoC ها معمولاً می میرند.
این یک داستان مشابه با قابلیت شخصی سازی مدل در SageMaker AI است.
در حالی که پیچیدگی MLO ها را از بین می برد، نگرانی های Linthicum و Wheeler را در زمینه های دیگر تقویت می کند.
Linthicum گفت: “اکنون که شما نه تنها استنتاج، بلکه انتخاب های طراحی، ترکیب و ارزیابی داده ها را خودکار کرده اید، تیم های مدیریتی خواستار مشاهده مستقیم آنچه تنظیم شده است، چه داده هایی تولید شده است و چرا یک مدل انتخاب شده است.”
ویلر گفت بخشهای صنعتی با انتظارات نظارتی دقیق احتمالاً با این قابلیت بهعنوان یک ابزار کمکی برخورد میکنند که هنوز به جای تنظیم و فراموش کردن اتوماسیون نیاز به بازبینی انسانی دارد: «به طور خلاصه، ارزش واقعی است، اما اعتماد و تأیید، نه اتوماسیون، سرعت پذیرش را تعیین میکند.»
