LSTM (Long Short-Term Memory)
LSTM adalah jenis Recurrent Neural Network (RNN) khusus yang mampu mempelajari ketergantungan jangka panjang. LSTM dirancang untuk mengatasi masalah "vanishing gradient" pada RNN tradisional, memungkinkannya mengingat informasi penting dari masa lalu yang jauh.
Konteks Penggunaan
Sebelum ada Transformer, LSTM adalah raja di NLP dan Speech Recognition.
Contoh
Memprediksi harga saham besok berdasarkan tren 30 hari lalu, atau menerjemahkan paragraf panjang.
Catatan
Memiliki struktur gerbang (Input, Output, Forget Gate) yang kompleks.
