Reranking نتایج بازیابی اولیه را با مدل دقیق‌تر بر اساس ارتباط با پرسش دوباره مرتب می‌کند. در RAG ابتدا اسناد بیشتری بازیابی و سپس مرتبط‌ترین‌ها انتخاب می‌شوند.

این مرحله می‌تواند دقت زمینه را بهتر کند اما هزینه و تاخیر اضافه دارد.

مثالی از مسیر اجرای برنامه

در RAG می‌توان ابتدا ۵۰ قطعه سند را با Vector Search بازیابی کرد و سپس Reranker پنج مورد مناسب‌تر را انتخاب کند.

درک تفاوت این موضوع با تولید تقویت‌شده با بازیابی و بردارسازی معنایی به انتخاب راهکار مناسب‌تر کمک می‌کند.

چرا پس از Retrieval دوباره رتبه‌بندی می‌کنیم؟

Retriever می‌تواند صد نتیجه اولیه با هزینه پایین پیدا کند، سپس Reranker تعداد کمتری را دقیق‌تر بررسی کند. این مرحله معمولا کیفیت نتایج را افزایش می‌دهد اما هزینه محاسبات و تاخیر را بیشتر می‌کند.