حفظ واسترجاع ذاكرة المحادثات من قاعدة بيانات (SQLite / Redis)

حفظ واسترجاع ذاكرة المحادثات من قاعدة بيانات SQLite / Redis عند بناء تطبيق محادثة يعتمد على نماذج اللغة الكبيرة LLMs، فإن النموذج نفسه لا “يتذكر” شيئاً بين الطلبات إلا إذا قمت أنت بتمرير السياق السابق في كل استدعاء. هذه الفكرة ناقشناها سابقاً في مقال الذاكرة في الذكاء الاصطناعي: لماذا ينسى الـ API المحادثات السابقة وكيف…

برمجة ذاكرة الملخصات (Summary Memory) للتعامل مع المحادثات الطويلة جداً بأقل تكلفة

ما هي Summary Memory ولماذا نحتاجها؟ عند بناء تطبيقات محادثية تعتمد على نماذج اللغة الكبيرة، تظهر مشكلة عملية مع ازدياد طول الحوار: كل رسالة جديدة تتطلب إعادة إرسال جزء كبير من السجل إلى LLM حتى يحافظ على السياق. هذا يرفع التكلفة، يزيد زمن الاستجابة، ويقرّبنا من حدود context window. هنا تأتي فكرة Summary Memory: بدلاً…