Human-in-the-Loop رویکردی است که در آن انسان در بخشی از چرخه پردازش یا تصمیم‌گیری سامانه حضور دارد، برای مثال داده را برچسب‌گذاری می‌کند، خروجی مدل را بازبینی می‌کند یا پیش از اجرای اقدام حساس تایید می‌دهد.
این رویکرد برای تصمیم‌های پرریسک، داده‌های مبهم و ارزیابی مدل اهمیت دارد. باید مشخص باشد انسان در کدام مرحله، با چه اختیاری و بر اساس چه معیارهایی مداخله می‌کند.
در بررسی خروجی مدل برای کاربرد حقوقی، انسان می‌تواند موارد پرریسک را تایید یا اصلاح کند. مسیر تصمیم و دلیل تغییر باید ثبت شود.
درک تفاوت این موضوع با ال‌ال‌ام به‌عنوان داور و ارزیابی مدل به انتخاب راهکار مناسب‌تر کمک می‌کند.
برای مثال‌ها و توضیحات بیشتر، چرخه عمر مدل‌های داور LLM را در وبلاگ باورژن بخوانید.