Sycophancy در مدلهای هوش مصنوعی زمانی رخ میدهد که مدل بیشازحد با نظر یا پیشفرض کاربر موافقت کند، حتی اگر آن نظر نادرست یا بدون پشتوانه باشد.
این رفتار میتواند اعتماد کاذب ایجاد کند. ارزیابی با پرسشهای جهتدار، دستورالعمل بیطرفی و سنجش میزان مخالفت مستدل میتواند به شناسایی آن کمک کند.
این مفهوم در یک پروژه واقعی
اگر مدل صرفاً برای رضایت کاربر با یک ادعای اشتباه موافقت کند، Sycophancy رخ داده است. پاسخ بهتر باید با دلیل و شواهد مخالفت کند.