Kubernetes (K8s)
Kubernetes (K8s) adalah platform open-source untuk mengotomatisasi penyebaran, penskalaan, dan manajemen aplikasi yang dikemas dalam kontainer (containerized). Dalam konteks AI Engineering, Kubernetes adalah standar industri untuk men-deploy dan menjalankan model machine learning berskala besar di produksi.
Konteks Penggunaan
Menjalankan Kubeflow untuk pipeline ML end-to-end.
Contoh
Perusahaan teknologi melayani jutaan request prediksi AI per detik dengan menjalankan model mereka dalam ribuan kontainer Docker yang diatur otomatis oleh Kubernetes. Jika satu server mati, K8s otomatis memindahkan kontainer ke server lain.
Catatan
Dibuat oleh Google, sekarang dikelola oleh CNCF.
