Context Window حداکثر مقدار متنی است که مدل در یک درخواست میتواند بهعنوان زمینه پردازش کند و معمولاً با Token سنجیده میشود.
پنجره بزرگتر حافظه دائمی مدل نیست، فقط محتوای درخواست جاری را شامل میشود و هزینه و کیفیت پردازش نیز اهمیت دارد.
اگر مستندات شرکت طولانیتر از Context Window باشند، باید روش انتخاب یا خلاصهسازی زمینه به کار برد. حذف تصادفی بخشها میتواند پاسخ را گمراه کند.
در همین واژهنامه، مدل زبانی بزرگ و ترنسفورمر از مفاهیم مرتبط هستند.