GPT (Generative Pre-trained Transformer)
GPT adalah serangkaian model bahasa besar (LLM) yang dikembangkan oleh OpenAI. "Generative" berarti bisa membuat teks baru. "Pre-trained" berarti sudah belajar dari miliaran teks internet sebelumnya. "Transformer" adalah arsitektur neural network yang digunakannya. GPT mampu memahami dan menghasilkan teks seperti manusia dengan kualitas yang sangat tinggi.
Konteks Penggunaan
Otak di balik ChatGPT. Mampu menulis kode, puisi, esai, dan menjawab pertanyaan kompleks.
Contoh
GPT-3 memiliki 175 miliar parameter. GPT-4 jauh lebih besar dan multimodal (bisa melihat gambar).
Catatan
Kunci kemampuannya adalah mekanisme "Attention" yang memungkinkannya memahami konteks panjang.
