Embedding
Embedding adalah teknik dalam machine learning, khususnya NLP, untuk merepresentasikan data kategori (seperti kata atau user ID) sebagai vektor bilangan riil kontinu dalam ruang dimensi rendah. Embedding mampu menangkap hubungan semantik antar data.
Konteks Penggunaan
Word2Vec, GloVe, dan embedding layer di sistem rekomendasi.
Contoh
Dalam ruang embedding, vektor untuk "Raja" dikurangi "Pria" ditambah "Wanita" akan menghasilkan vektor yang sangat dekat dengan "Ratu".
Catatan
Dasar dari semua model bahasa modern (LLM).
