گذر رو به جلو

Forward Pass مرحله‌ای است که داده ورودی از لایه‌های شبکه عبور می‌کند تا خروجی پیش‌بینی‌شده تولید شود. سپس در آموزش، خروجی با پاسخ مورد انتظار مقایسه و خطا محاسبه می‌شود.

فوروارد پس با Backpropagation متفاوت است: اولی خروجی را محاسبه می‌کند و دومی گرادیان لازم برای اصلاح پارامترها را به دست می‌آورد.

در عمل چه اتفاقی می‌افتد؟

در Forward Pass داده از لایه ورودی تا خروجی حرکت و پیش‌بینی ساخته می‌شود. در آموزش، Loss محاسبه شده و مرحله Backward برای محاسبه گرادیان انجام می‌شود.