Anda dapat otomatis menyesuaikan jumlah Pod dalam workload Google Kubernetes Engine (GKE) berdasarkan penggunaan CPU atau memori, metrik kustom, atau metrik eksternal menggunakan penskalaan otomatis Pod horizontal. Menskalakan replika Pod agar sesuai dengan perubahan permintaan membantu mempertahankan performa aplikasi yang konsisten dan merilis resource Pod yang tidak digunakan saat permintaan menurun.
Penskalaan otomatis Pod horizontal tidak mengubah jumlah node dalam cluster GKE. Untuk menskalakan node cluster secara otomatis saat jumlah Pod berubah, lihat Tentang penskalaan otomatis cluster GKE. Untuk menyiapkan penskalaan Pod pada workload Anda, lihat Mengonfigurasi penskalaan otomatis Pod horizontal.
Dokumen ini ditujukan untuk developer dan operator yang mengonfigurasi dan mengelola penskalaan workload. Untuk mengetahui informasi selengkapnya tentang peran umum dan contoh tugas yang kami referensikan dalam kontenGoogle Cloud , lihat Peran dan tugas pengguna GKE umum.
Metrik penskalaan yang didukung
Persyaratan resource workload dapat berubah seiring waktu, bergantung pada pola traffic dan dependensi eksternal. HorizontalPodAutoscaler dapat menskalakan jumlah Pod dalam workload berdasarkan satu atau beberapa jenis metrik berikut:
- Penggunaan resource sebenarnya: autoscaler menskalakan Pod saat penggunaan CPU atau memori melebihi nilai minimum target, yang dinyatakan sebagai nilai mentah atau persentase permintaan resource Pod.
- Metrik kustom: autoscaler menskalakan Pod berdasarkan metrik yang dilaporkan oleh objek Kubernetes dalam cluster, seperti permintaan klien atau penulisan I/O per detik. Metrik kustom berguna saat aplikasi Anda mengalami bottleneck jaringan atau I/O, bukan batasan CPU atau memori.
- Metrik eksternal: autoscaler menskalakan Pod berdasarkan metrik dari aplikasi atau layanan di luar cluster Anda. Misalnya, saat workload menyerap permintaan Pub/Sub, Anda dapat mengonfigurasi HorizontalPodAutoscaler untuk menambahkan Pod di atas batas antrean dan menghapusnya saat antrean menyusut.
Anda juga dapat menggabungkan penskalaan otomatis Pod horizontal dengan penskalaan otomatis Pod vertikal. Untuk mengetahui informasi selengkapnya tentang aturan kompatibilitas, lihat bagian batasan dalam dokumen ini.
Cara kerja penskalaan otomatis Pod horizontal
Setiap Horizontal Pod Autoscaler yang dikonfigurasi beroperasi menggunakan loop kontrol. Horizontal Pod Autoscaler yang terpisah ada untuk setiap workload. Setiap horizontal Pod autoscaler secara berkala memeriksa metrik workload tertentu terhadap batas target yang Anda konfigurasikan, dan mengubah bentuk workload secara otomatis.
Resource Per Pod
Untuk resource yang dialokasikan per Pod, seperti CPU, pengontrol membuat kueri API metrik resource untuk setiap container yang berjalan di Pod.
- Jika Anda menentukan nilai mentah untuk CPU atau memori, nilai tersebut akan digunakan.
- Jika Anda menentukan nilai persentase untuk CPU atau memori, horizontal Pod autoscaler menghitung nilai penggunaan rata-rata sebagai persentase permintaan memori atau CPU Pod tersebut.
- Metrik kustom dan eksternal dinyatakan sebagai nilai mentah atau nilai rata-rata.
Pengontrol menggunakan nilai rata-rata atau mentah untuk metrik pelaporan guna menghasilkan rasio, dan menggunakan rasio tersebut untuk menskalakan beban kerja secara otomatis. Anda dapat membaca deskripsi algoritma Horizontal Pod Autoscaler dalam dokumentasi project Kubernetes.
Merespons beberapa metrik
Jika Anda mengonfigurasi workload untuk menskalakan otomatis berdasarkan beberapa metrik, horizontal Pod autoscaler akan mengevaluasi setiap metrik secara terpisah dan menggunakan algoritma penskalaan untuk menentukan skala workload baru berdasarkan setiap metrik. Skala terbesar dipilih untuk tindakan penskalaan otomatis.
Jika satu atau beberapa metrik tidak tersedia karena alasan tertentu, Horizontal Pod Autoscaler masih meningkatkan skala berdasarkan ukuran terbesar yang dihitung, tetapi tidak memperkecil skala.
Mencegah thrashing
Thrashing mengacu pada situasi saat Horizontal Pod Autoscaler mencoba melakukan tindakan penskalaan otomatis berikutnya sebelum workload selesai merespons tindakan penskalaan otomatis sebelumnya. Untuk mencegah thrashing, autoscaler Pod horizontal memilih rekomendasi terbesar dari periode stabilisasi yang ditentukan.
Perilaku ini dikontrol oleh kolom scaleDown.stabilizationWindowSeconds
dalam spesifikasi behavior HPA, yang secara default ditetapkan ke 300 detik (lima menit) di GKE.
Untuk mencegah fluktuasi kecil yang menyebabkan peristiwa penskalaan yang tidak perlu, Horizontal Pod Autoscaler menggunakan nilai toleransi sebesar 10%. Untuk target tertentu, tidak ada tindakan penskalaan yang diambil jika rasio nilai metrik saat ini terhadap nilai metrik target berada dalam rentang 10% dari 1,0.
Penskalaan ke dan dari nol
Di GKE versi 1.37 atau yang lebih baru, Anda dapat mengonfigurasi Horizontal Pod Autoscaler untuk menurunkan skala workload menjadi 0 replika saat tidak ada permintaan, dan penskalaan otomatis workload saat permintaan dilanjutkan. Penskalaan ke dan dari nol mencakup perilaku berikut:
- Pengabaian toleransi: saat workload berada di replika
0, GKE akan mengabaikan pemeriksaan toleransi metrik standar (rasio 0,9 hingga 1,1). Setiap nilai metrik yang lebih besar dari nol, seperti satu pesan dalam antrean, akan langsung memicu peningkatan skala ke setidaknya1replika tanpa menunggu untuk melewati batas toleransi. - Periode stabilisasi: peningkatan skala ditetapkan secara default ke
0detik (scaleUp.stabilizationWindowSeconds: 0) untuk aktivasi langsung, sedangkan penurunan skala ditetapkan secara default ke300detik (scaleDown.stabilizationWindowSeconds: 300) untuk membantu memastikan lima menit terus-menerus tanpa permintaan sebelum melakukan penskalaan ke0replika. - Status conditions: saat diskalakan ke
0replika oleh HPA, pengontrol akan melaporkan kondisiScaledToZero: Truesambil tetap aktif (ScalingActive: True). Jika workload diskalakan secara manual ke0replika di luar HPA (seperti dengan perintahkubectl scale), penskalaan otomatis akan dijeda (ScalingActive: False) hingga workload diskalakan kembali ke1atau lebih replika.
Untuk mengetahui petunjuk langkah demi langkah, lihat Menskalakan workload GKE ke dan dari nol menggunakan HPA.
Batasan
- Kecuali jika Anda menggunakan penyesuaian ukuran HPA dengan VPA (Pratinjau), jangan gunakan Horizontal Pod Autoscaler bersama dengan Vertical Pod Autoscaler standar pada CPU atau memori. Anda dapat menggunakan Horizontal Pod Autoscaler dengan Vertical Pod Autoscaler untuk metrik lainnya, atau mengonfigurasi penskalaan otomatis Pod multidimensi untuk menskalakan secara horizontal pada CPU dan secara vertikal pada memori secara bersamaan.
- Jika Anda memiliki Deployment, jangan mengonfigurasi penskalaan otomatis Pod horizontal pada ReplicaSet atau Pengontrol Replikasi yang mencadangkannya. Saat Anda melakukan update berkelanjutan pada Pengontrol Deployment atau Replikasi, update tersebut akan diganti dengan Pengontrol Replikasi yang baru. Sebagai gantinya, konfigurasikan penskalaan otomatis Pod horizontal pada Deployment itu sendiri.
- Anda tidak dapat menggunakan penskalaan otomatis Pod horizontal untuk workload yang tidak dapat diskalakan, seperti DaemonSets.
- Penskalaan otomatis Pod horizontal mengekspos metrik sebagai resource Kubernetes, yang
memberlakukan batasan pada nama metrik seperti tidak ada karakter huruf besar atau '/'.
Adaptor metrik Anda mungkin mengizinkan penggantian nama. Misalnya, lihat
operator
asprometheus-adapter. - Horizontal Pod Autoscaler tidak akan memperkecil skala jika salah satu metrik yang dikonfigurasi untuk dipantau tidak tersedia. Untuk memeriksa apakah Anda memiliki metrik yang tidak tersedia, lihat Melihat detail tentang Horizontal Pod Autoscaler.
Skalabilitas
Meskipun Horizontal Pod Autoscaler tidak memiliki batas pasti jumlah objek HPA yang didukung, performanya dapat terpengaruh seiring bertambahnya jumlah ini. Secara khusus, periode di antara penghitungan ulang HPA mungkin menjadi lebih lama dari 15 detik standar.
- Di GKE versi minor 1.31 atau 1.32, jika profil HPA Performa dikonfigurasi, periode penghitungan ulang harus berlangsung dalam rentang 15 detik dengan maksimal 1.000 objek HPA. Pelajari cara mengonfigurasi profil HPA Performa.
- Di GKE versi minor 1.33 atau yang lebih baru, jika profil HPA Performa dikonfigurasi, periode penghitungan ulang harus berlangsung dalam rentang 15 detik dengan maksimal 5.000 objek HPA. Profil HPA Performa diaktifkan secara default di semua cluster yang memenuhi persyaratan.
- Jika Profil HPA performa tidak dikonfigurasi, periode penghitungan ulang harus berlangsung dalam rentang 15 detik dengan maksimal 300 objek HPA.
Faktor berikut juga dapat memengaruhi performa:
- Penskalaan pada beberapa metrik: setiap metrik menambahkan panggilan pengambilan untuk penghitungan rekomendasi, yang memengaruhi periode penghitungan ulang.
- Latensi stack metrik kustom: waktu respons di atas sekitar 50 milidetik akan lebih banyak dari yang biasanya diamati dengan metrik Kubernetes standar, yang memengaruhi periode penghitungan ulang.
Berinteraksi dengan objek HorizontalPodAutoscaler
Anda dapat mengonfigurasi Horizontal Pod Autoscaler untuk workload dan mendapatkan informasi tentang peristiwa penskalaan otomatis dan hal yang menyebabkannya, dengan mengunjungi halaman Workload di konsol Google Cloud .
Setiap horizontal Pod autoscaler ada di cluster sebagai objek HorizontalPodAutoscaler. Anda dapat menggunakan perintah seperti kubectl get hpa atau kubectl describe hpa HPA_NAME untuk berinteraksi dengan objek ini.
Anda juga dapat membuat objek HorizontalPodAutoscaler menggunakan
perintah kubectl autoscale.
Langkah berikutnya
- Pelajari cara mengonfigurasi penskalaan otomatis Pod horizontal.
- Pelajari cara menyesuaikan ukuran workload HPA dengan VPA.
- Pelajari cara menskalakan ke dan dari nol menggunakan HPA.
- Pelajari cara menskalakan Aplikasi secara manual.
- Pelajari lebih lanjut vertical Pod autoscaler.
- Pelajari autoscaler cluster lebih lanjut.