چت‌بات (Chatbot) نرم‌افزاری است که از طریق متن یا صوت با کاربر گفتگو می‌کند. چت‌بات می‌تواند بر اساس قواعد از پیش تعیین‌شده پاسخ دهد یا با استفاده از مدل زبانی، پاسخ‌های متنوع‌تری تولید کند.
چت‌بات مبتنی بر LLM لزوماً به اطلاعات داخلی سازمان دسترسی ندارد و ممکن است پاسخ نادرست بسازد. اتصال به منابع معتبر، محدودیت دسترسی و ارزیابی پاسخ‌ها برای کاربرد سازمانی ضروری است.
چت‌بات پشتیبانی می‌تواند با قواعد ثابت یا با LLM کار کند. استفاده از LLM بدون اتصال به اطلاعات معتبر، پاسخ دقیق درباره وضعیت واقعی سفارش را تضمین نمی‌کند.