راهنمای جامع فشرده‌سازی چت‌ها و معماری خودترمیمی هرمس در سرورهای لینوکس

هنگامی که دستیارهای هوش مصنوعی نظیر هرمس (Hermes Agent) برای اجرای تسک‌های طولانی‌مدت، برنامه‌نویسی و مدیریت زیرساخت سرور به کار گرفته می‌شوند، تاریخچه نشست‌ها به مرور زمان حجیم می‌شود. در سرورهای ابری، عدم مدیریت کانتکست و نبود ناظر خودکار باعث کندی پاسخ‌دهی، مصرف سنگین رم و سواپ و در نهایت قفل شدن سرور می‌گردد. در این مقاله، علاوه بر روش‌های فشرده‌سازی، معماری موتور خودترمیمی هوشمند (Self-Healing Watchdog) را پیاده‌سازی می‌کنیم تا سیستم هر خطایی خورد، خودش بدون نیاز به انسان خودش را تعمیر کند.

ریشه‌یابی خطاهای رایج در سرورهای ایجنت هرمس

1. تله کانتکست‌های میلیونی مدل‌ها: مدل‌هایی مانند Gemini ظرفیت کانتکست ۱ میلیون توکنی دارند. در نتیجه الگوریتم فشرده‌سازی تا صدها هزار توکن فعال نمی‌شود و در هر چرخه تا ۳۵۰,۰۰۰ توکن رد و بدل می‌شود. هرمس به حداقل ۶۴,۰۰۰ توکن پنجره کانتکست برای لود ابزارها نیاز دارد که باید دقیقاً در این سقف مهار شود.
2. حلقه‌های ابزار و باد کردن پیام‌ها: در صورت عدم محدودسازی، ایجنت در یک دور بیش از ۱۵۰ ابزار اجرا کرده و ۳۰۰ پیام سنگین تولید می‌کند.
3. سشن‌های قفل‌شده در استریم (Orphaned Streams): در قطعی‌های شبکه، فلگ active_stream_id در فایل جیسون سشن باقی مانده و چت را در حالت لودینگ ابدی قفل می‌کند.
4. نشت رم در وب‌یوآی: کش پیش‌فرض ۱۰۰ نشست در رم پایتون، در سرورهای ۱ گیگابایتی موجب افت شدید حافظه و هنگ سیستم می‌شود.

معماری سرویس خودترمیمی ۲۴ ساعته (Hermes Self-Healer)

برای حل همیشگی این چالش، یک دیمن ناظر خودترمیم (hermes-self-healer.py) در لایه systemd و کران‌جاب لینوکس پیاده‌سازی شد که هر ۳۰ ثانیه کل سیستم را اسکن کرده و کارهای زیر را به طور خودکار انجام می‌دهد:

• پایش سلامت وب‌یوآی (WebUI Recovery): ارسال درخواست سلامت به پورت ۸۷۸۷؛ در صورت تایم‌اوت یا کدهای ۵۰x، سرویس وب‌یوآی را در چند ثانیه ریستارت و بازیابی می‌کند.
• آزادسازی سشن‌های قفل‌شده: شناسایی استریم‌های معلق بالای ۵ دقیقه و صفر کردن فلگ استریم جهت بازگشت آنی چت به وضعیت آماده.
• فشرده‌سازی بلادرنگ نشست‌های سنگین: اگر سشنی از ۱.۵ مگابایت یا ۴۰ پیام عبور کند، ناظر در کسری از ثانیه آن را به زیر ۳۰ کیلوبایت کامپکت می‌کند.
• ترانکیت خودکار ژورنال دیتابیس (WAL Checkpoint): اگر حجم فایل state.db-wal از ۲۰ مگابایت بیشتر شود، با دستور PRAGMA wal_checkpoint(TRUNCATE) دیتابیس را سبک می‌کند.
• گارد پیکربندی (Config Guard): تضمین می‌کند سقف کانتکست زیر ۶۴,۰۰۰ نیاید و سقف کش رم از ۵ بالاتر نرود.
• تخلیه اضطراری حافظه رم (Memory Drop Caches): اگر رم در دسترس به زیر ۷۵ مگابایت برسد، حافظه پنهان کرنل را آزاد می‌کند.

پیاده‌سازی سرویس لینوکس

سرویس در مسیر /etc/systemd/system/hermes-self-healer.service به عنوان ناظر دائم پیکربندی می‌شود:

[Unit]
Description=Hermes Autonomous Self-Healing Daemon
After=network.target hermes-webui.service 9router.service

[Service]
Type=simple
User=root
ExecStart=/usr/local/bin/hermes-self-healer.py
Restart=always
RestartSec=10
Nice=15
MemoryMax=80M

[Install]
WantedBy=multi-user.target

مشاهده وضعیت و لاگ‌های تعمیرات زنده

تمام اقدامات اصلاحی در مسیر /var/log/hermes-self-heal.log ثبت می‌شوند و با دستور زیر قابل مشاهده هستند:

tail -f /var/log/hermes-self-heal.log

نتیجه‌گیری

با استقرار این دیمن خودترمیمی، سرور هرمس به یک سیستم کاملاً خودمختار و خودنگه‌دار تبدیل می‌شود که بدون نیاز به مانیتورینگ دستی یا مداخله انسانی، پایداری، سرعت پاسخ‌دهی زیر ۱۰ میلی‌ثانیه و مصرف رم بهینه را تضمین می‌کند.