این مقاله به بررسی نحوه ساخت راه‌حل‌های پژوهشی عمیق با استفاده از Microsoft Agent Framework (MAF) بر روی Microsoft Foundry Local می‌پردازد. این رویکرد، چالشی که توسعه‌دهندگان در توسعه برنامه‌های هوش مصنوعی سازمانی با آن مواجه هستند را حل می‌کند، جایی که مدل‌های زبانی بزرگ مبتنی بر ابر قدرتمند هستند اما مسائل مربوط به حریم خصوصی داده‌ها، تأخیر شبکه و کنترل هزینه، پیاده‌سازی بسیاری از سناریوها را دشوار می‌کنند. در مقابل، مدل‌های کوچک محلی، اگرچه سبک هستند، فاقد چارچوب‌های توسعه، ارزیابی و سازماندهی کامل هستند.
ترکیب Microsoft Foundry Local و Agent Framework (MAF) یک راه‌حل ظریف برای این چالش ارائه می‌دهد. Foundry Local صرفاً یک موتور اجرای مدل محلی نیست، بلکه یک توسعه از اکوسیستم هوش مصنوعی مایکروسافت به سمت لبه است. این پلتفرم مزایایی از جمله حفظ حریم خصوصی، تأخیر صفر، کنترل هزینه و تکرار سریع را فراهم می‌کند. با استفاده از MAF، توسعه‌دهندگان می‌توانند برنامه‌های عامل پیچیده را به سادگی با استفاده از Azure OpenAI بسازند.
در این مقاله، یک نمونه کد ارائه شده است که نشان‌دهنده نحوه ایجاد یک عامل با استفاده از FoundryLocalClient است. این کد شامل تعریف نام عامل (LocalAgent) و دستورالعمل‌هایی برای آن است که به عنوان یک دستیار عمل کند و به سؤالات پاسخ دهد، مفاهیم را توضیح دهد و پیشنهادات مختلفی ارائه دهد. این نمونه کد از qwen2.5-1.5b-instruct-generic-cpu:4 به عنوان مدل استفاده می‌کند.
ارزیابی یک عامل نیز از اهمیت بالایی برخوردار است. این مقاله به سه روش مکمل ارزیابی اشاره می‌کند: Red Teaming (برای امنیت و استحکام)، Self-Reflection (برای تأیید کیفیت) و سایر روش‌های ارزیابی که در مخزن مربوطه پیاده‌سازی شده‌اند. این روش‌ها به توسعه‌دهندگان کمک می‌کنند تا عملکرد و قابلیت اطمینان عامل‌های خود را در سناریوهای مختلف ارزیابی کنند و اطمینان حاصل کنند که آن‌ها به طور ایمن و مؤثر عمل می‌کنند.
مشاهده مطلب اصلی