معماری فریم ورک چندعاملی گوگل: مهندسی زمینه هوش مصنوعی با مثال

معماری فریم ورک چندعاملی گوگل: مهندسی زمینه هوش مصنوعی با مثال

تیم تحریریه استاد آی تی گزارش می دهد: در حالی که سازمان ها به سرعت در حال حرکت به سمت استقرار عوامل هوش مصنوعی پیچیده و خودمختار برای انجام وظایف طولانی مدت هستند، یک گلوگاه حیاتی در این مسیر خودنمایی می کند: مدیریت زمینه (Context). با طولانی تر شدن وظایف، حجم اطلاعاتی که عامل باید ردیابی کند، شامل تاریخچه گفتگو، خروجی ابزارها، و استدلال های میانی، به صورت تصاعدی افزایش می یابد. این امر منجر به افزایش سرسام آور هزینه، تأخیر و کاهش کیفیت تصمیم گیری مدل ها می شود.

گوگل در یک مقاله فنی جدید، راهکار خود را برای غلبه بر این چالش معرفی کرده است. این راهکار، که در فریم ورک توسعه عامل گوگل (ADK) پیاده سازی شده، بر مفهوم مهندسی زمینه هوش مصنوعی به عنوان یک رشته معماری مستقل تأکید دارد.

معماری نوین: زمینه به مثابه نمای کامپایل شده

رویکرد سنتی در طراحی عوامل هوش مصنوعی، زمینه را صرفاً به عنوان یک رشته متنی قابل تغییر در نظر می گرفت که تمام اطلاعات به انتهای آن اضافه می شد. این الگو، که گوگل آن را “شلوغ کردن یک پرامپت غول پیکر” می نامد، تحت فشار سه عامل اصلی فرو می پاشد: هزینه های بالا، کاهش سیگنال (گم شدن اطلاعات مهم در میان انبوه داده های نامرتبط) و محدودیت های فیزیکی پنجره های زمینه.

فریم ورک ADK بر اساس این تز طراحی شده است: زمینه یک نمای کامپایل شده بر روی یک سیستم حالت مند و غنی تر است. در این دیدگاه، حافظه، جلسات و مصنوعات (فایل ها) منابع اصلی هستند، در حالی که جریان ها و پردازنده ها به عنوان خط لوله “کامپایلر” عمل می کنند تا تنها زمینه کاری مورد نیاز برای یک فراخوانی خاص به مدل زبان بزرگ (LLM) ارسال شود.

ساختار لایه ای زمینه برای مقیاس پذیری

ADK برای جداسازی ذخیره سازی از ارائه، ساختاری لایه ای را معرفی می کند که کارایی مهندسی زمینه هوش مصنوعی را تضمین می کند:

  • زمینه کاری (Working Context): پرامپت فوری برای فراخوانی فعلی مدل. این نما موقتی و قابل تنظیم است و فقط شامل اطلاعات منتخب و ضروری است.
  • جلسه (Session): گزارش ماندگار و ساختاریافته از کل تعامل، شامل پیام های کاربر، پاسخ های عامل، فراخوانی ابزارها و نتایج. این لایه حقیقت مطلق سیستم است.
  • حافظه (Memory): دانش قابل جستجوی طولانی مدت که فراتر از یک جلسه باقی می ماند، مانند ترجیحات کاربر یا مکالمات گذشته.
  • مصنوعات (Artifacts): داده های بزرگ متنی یا باینری (مانند فایل ها و گزارش ها) که به جای چسباندن مستقیم به پرامپت، با نام و نسخه ارجاع داده می شوند.

مدیریت هوشمند زمینه: فشرده سازی و ذخیره سازی

برای مقابله با رشد بی رویه زمینه در وظایف طولانی، ADK دو استراتژی کلیدی را به کار می گیرد:

فشرده سازی زمینه (Context Compaction)

اگر رویدادهای خام به طور نامحدود به جلسه اضافه شوند، تأخیر و مصرف توکن به ناچار افزایش می یابد. قابلیت فشرده سازی زمینه در ADK این مشکل را در لایه جلسه حل می کند. این فرآیند ناهمگام، خلاصه ای از رویدادهای قدیمی تر را با استفاده از یک LLM تولید کرده و آن را به عنوان یک رویداد جدید در جلسه ثبت می کند. این امر به سیستم اجازه می دهد تا رویدادهای خام خلاصه شده را حذف یا اولویت بندی آن ها را کاهش دهد.

کشینگ زمینه (Context Caching)

جداسازی “جلسه” از “زمینه کاری” بستر مناسبی برای بهینه سازی کشینگ زمینه فراهم می کند. این تکنیک به موتور استنتاج اجازه می دهد تا محاسبات توجه را در فراخوانی های مختلف مجدداً استفاده کند. ADK با تفکیک زمینه به دو ناحیه پیشوندهای پایدار (مانوزش های سیستمی و خلاصه های طولانی مدت) و پسوندهای متغیر (آخرین ورودی کاربر)، تضمین می کند که بخش های پرکاربرد زمینه در جلوی پنجره قرار گیرند و کشینگ به حداکثر کارایی برسد.

زمینه (Context) در هوش مصنوعی با مثال پرونده یک وکیل

زمینه (Context) در هوش مصنوعی با مثال پرونده یک وکیل

مفهوم زمینه (Context) در مقاله گوگل، کلید اصلی برای درک معماری جدید عوامل هوش مصنوعی است. برای ساده سازی، می توانیم این مفهوم را با یک مثال ملموس توضیح دهیم:

تصور کنید یک وکیل (که همان عامل هوش مصنوعی ماست) وظیفه دارد یک پرونده بسیار طولانی و پیچیده (وظیفه طولانی مدت) را مدیریت کند.

۱. زمینه چیست؟ (Context Definition)

زمینه به زبان ساده، تمام اطلاعاتی است که وکیل (عامل) در هر لحظه برای تصمیم گیری درست و منطقی نیاز دارد.

این اطلاعات شامل موارد زیر است:

  • تاریخچه گفتگو: تمام صحبت هایی که وکیل با موکل یا همکارانش داشته است.
  • اسناد و مدارک: فایل های پرونده، گزارش های کارشناسی و شواهد.
  • ابزارهای استفاده شده: نتایج جستجوهای حقوقی یا محاسبات مالی که انجام داده است.
  • دانش عمومی: قوانین و سوابق قضایی که در ذهن دارد.

۲. مشکل روش سنتی (دفترچه یادداشت غول‌پیکر)

در معماری‌های قدیمی هوش مصنوعی، هر بار که عامل می خواست یک تصمیم جدید بگیرد، تمام این اطلاعات (از اولین روز تا آخرین لحظه) در یک دفترچه یادداشت غول پیکر کپی می شد و به مدل زبان بزرگ (LLM) داده می شد.

این روش سه مشکل اساسی ایجاد می‌کرد:

  1. هزینه و زمان بالا: کپی کردن و خواندن این دفترچه هر بار بسیار زمان بر و پرهزینه است (هزینه توکن و تأخیر).
  2. گم شدن در میان اطلاعات: وقتی دفترچه خیلی بزرگ می شود، عامل ممکن است نکات مهم (سیگنال) را در میان انبوه اطلاعات قدیمی و نامرتبط (نویز) گم کند. این همان پدیده “گم شدن در میانه” (Lost in the Middle) است.
  3. محدودیت فیزیکی: هیچ دفترچه ای نمی تواند بی نهایت بزرگ باشد.

۳. راهکار گوگل: زمینه به مثابه “نمای کامپایل‌شده”

گوگل در فریم ورک ADK، رویکردی مهندسی را معرفی می کند که به آن مهندسی زمینه هوش مصنوعی می گویند. در این رویکرد، زمینه دیگر یک بافر متنی ساده نیست، بلکه یک “نمای کامپایل شده” (Compiled View) است.

این شبیه به داشتن یک سیستم مدیریت اطلاعات هوشمند است که اطلاعات را در لایه های مختلف ذخیره می کند و فقط ضروری ترین بخش را در لحظه نیاز به وکیل می‌دهد:

لایه اطلاعاتنقش در سیستممثال ساده (وکیل)
جلسه (Session)ذخیره سازی کامل و ساختاریافته تمام رویدادها و تعاملات به ترتیب زمانی.دفتر ثبت وقایع کامل پرونده (حقیقت مطلق).
حافظه (Memory)دانش قابل جستجوی طولانی مدت که فراتر از یک جلسه باقی می ماند.سوابق قضایی، ترجیحات موکل، یا دانش تخصصی وکیل.
مصنوعات (Artifacts)فایل های بزرگ (مانند تصاویر، گزارش ها، یا کدهای طولانی) که فقط ارجاع داده می شوند.پوشه اسناد و مدارک فیزیکی پرونده.
زمینه کاری (Working Context)نمای موقت و ضروری که برای فراخوانی فعلی مدل از لایه های بالا استخراج می شود.خلاصه ای که دستیار وکیل در یک برگه برای جلسه امروز آماده کرده است.

نتیجه این معماری:

  • فشرده‌سازی (Compaction): اگر یک مکالمه خیلی طولانی شد، سیستم به جای نگهداری تمام جزئیات، یک خلاصه چند خطی از آن تهیه می کند و جزئیات قدیمی را دور می ریزد تا “دفتر ثبت وقایع” همیشه سبک و به روز بماند.
  • کارایی: عامل هوش مصنوعی (وکیل) همیشه فقط اطلاعات مورد نیاز، مرتبط و به‌روز را در اختیار دارد، که منجر به تصمیم گیری سریع تر، دقیق تر و با هزینه کمتر می شود.

به طور خلاصه، گوگل با این معماری، مشکل “بزرگ بودن بیش از حد ورودی” را با “هوشمند بودن در انتخاب ورودی” جایگزین کرده است.

تحلیل کارشناسان استاد آی تی

کارشناسان استاد آی تی معتقدند که این رویکرد گوگل یک تغییر پارادایم مهم در توسعه هوش مصنوعی تولیدی است. تا پیش از این، تمرکز بر بزرگ تر کردن مدل ها و پنجره های زمینه بود، اما ADK نشان می دهد که راهکار واقعی در مهندسی سیستم و مدیریت هوشمندانه داده ها نهفته است. این معماری نه تنها کارایی و هزینه را بهبود می بخشد، بلکه قابلیت اطمینان و اشکال زدایی سیستم های چندعاملی را نیز افزایش می دهد. این امر به ویژه برای شرکت هایی که به دنبال پیاده سازی عوامل هوش مصنوعی برای اتوماسیون فرآیندهای پیچیده تجاری هستند، حیاتی است.

ما در استاد آی تی (ostadit.com) همواره بر اهمیت معماری نرم افزاری قوی و بهینه سازی منابع تأکید داشته ایم. این اصول در طراحی سیستم های مبتنی بر هوش مصنوعی نیز کاملاً صادق است و فریم ورک ADK نمونه ای عالی از این تفکر مهندسی است.

نتیجه گیری و خدمات استاد آی تی

فریم ورک ADK گوگل با معرفی مهندسی زمینه هوش مصنوعی به عنوان یک اصل طراحی، مسیر توسعه عوامل هوش مصنوعی در مقیاس تولید را متحول می کند. با تبدیل زمینه از یک بافر متنی به یک نمای کامپایل شده و ساختاریافته، گوگل توانسته است راهکاری کارآمد، مقرون به صرفه و قابل اعتماد برای آینده سیستم های چندعاملی ارائه دهد. این پیشرفت ها نویدبخش نسل جدیدی از عوامل هوش مصنوعی هستند که می توانند وظایف پیچیده را با دقت و سرعت بیشتری به انجام رسانند.


منبع:
Architecting efficient context-aware multi-agent framework for production

۵/۵ - (۱ امتیاز)

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *