Word Embedding نمایش عددی و متراکمی از یک واژه است که مدل آن را در فضای برداری قرار می‌دهد. این نمایش تلاش می‌کند بخشی از روابط معنایی یا کاربردی واژه‌ها را در فاصله و جهت بردارها بازتاب دهد.
در روش‌های کلاسیک، هر واژه معمولاً یک بردار ثابت دارد، اما مدل‌های زبانی جدید می‌توانند نمایش وابسته به جمله و زمینه تولید کنند. Embeddingها در جست‌وجوی معنایی، خوشه‌بندی متن و مقایسه شباهت کاربرد دارند.
یک مثال برای روشن‌تر شدن موضوع
در Word Embedding کلاسیک یک واژه معمولاً یک بردار ثابت دارد. در مدل وابسته به زمینه، بردار همان واژه در دو جمله با معنی متفاوت می‌تواند متفاوت باشد.
برای تکمیل بحث، ارتباط این مفهوم را با پردازش زبان طبیعی و توکن‌سازی بررسی کنید.