بچ

Batch زیرمجموعه‌ای از داده‌های آموزشی است که در یک مرحله محاسبه گرادیان پردازش می‌شود. در Mini-batch Training مدل پس از هر بچ پارامترها را به‌روزرسانی می‌کند.

بچ بزرگ‌تر حافظه بیشتری مصرف می‌کند و بچ کوچک‌تر گرادیان پرنوسان‌تری دارد، اندازه مناسب به سخت‌افزار و رفتار آموزش وابسته است.

Batch کوچک می‌تواند به‌روزرسانی پرنوسان‌تری ایجاد کند، اما Batch خیلی بزرگ حافظه زیادی مصرف می‌کند. انتخاب باید با اندازه داده و سخت‌افزار هماهنگ باشد.