אתם יכולים להשתמש בהתאמה אופקית של קבוצות Pod לעומס כדי לשנות באופן אוטומטי את מספר קבוצות ה-Pod בעומסי העבודה של Google Kubernetes Engine (GKE), על סמך השימוש ב-CPU או בזיכרון, מדדים בהתאמה אישית או מדדים חיצוניים. התאמת קנה המידה של הרפליקות של Pods לביקוש המשתנה עוזרת לשמור על ביצועים עקביים של האפליקציה ולשחרר משאבי Pods שלא בשימוש כשהביקוש יורד.
התאמה אופקית של קבוצות Pod לעומס לא משנה את מספר הצמתים באשכול GKE. כדי לשנות את קנה המידה של צומתי האשכול באופן אוטומטי כשמספר ה-Pods משתנה, קראו את המאמר מידע על התאמה אוטומטית לעומס (autoscaling) של אשכולות GKE. כדי להגדיר התאמה לעומס של Pod בעומסי העבודה, קראו את המאמר הגדרת התאמה אופקית של קבוצות Pod לעומס.
המסמך הזה מיועד למפתחים ולמפעילים שמגדירים ומנהלים את ההתאמה לעומס (scaling) של עומסי העבודה. במאמר תפקידים ומשימות נפוצים של משתמשי GKE תוכלו לקרוא מידע נוסף על תפקידים נפוצים ודוגמאות למשימות שאנחנו מתייחסים אליהן בתוכן שלGoogle Cloud .
מדדי התאמה נתמכים
הדרישות של עומס עבודה למשאבים יכולות להשתנות עם הזמן, בהתאם לדפוסי התנועה ולתלויות חיצוניות. HorizontalPodAutoscaler יכול לשנות את מספר הפודים בעומס העבודה על סמך אחד או יותר מסוגי המדדים הבאים:
- שימוש בפועל במשאבים: המידרוג האוטומטי משנה את מספר ה-Pods כשהשימוש במעבד (CPU) או שימוש בזיכרון חורג מסף היעד, שמבוטא כערך גולמי או כאחוז מהקצאת המשאבים של ה-Pod.
- מדדים בהתאמה אישית: המידרוג האוטומטי משנה את מספר ה-Pods בהתאם לכל מדד שמדווח על ידי אובייקט Kubernetes באשכול, כמו בקשות לקוח או כתיבות קלט/פלט לשנייה. מדדים בהתאמה אישית שימושיים כשהאפליקציה נתקלת בצווארי בקבוק ברשת או בקלט/פלט, ולא במגבלות של מעבד או זיכרון.
- מדדים חיצוניים: המידרוג האוטומטי משנה את קנה המידה של Pods על סמך מדד מאפליקציה או משירות מחוץ לאשכול. לדוגמה, כשעומס עבודה מטמיע בקשות Pub/Sub, אפשר להגדיר HorizontalPodAutoscaler כדי להוסיף פודים מעל סף תור ולהסיר אותם כשהתור מצטמצם.
אפשר גם לשלב התאמה אופקית של קבוצות Pod לעומס עם התאמה אנכית של קבוצות Pod לעומס. למידע נוסף על כללי התאימות, קראו את הקטע מגבלות במסמך הזה.
איך פועלת התאמה אופקית של קבוצות Pod לעומס
כל Horizontal Pod Autoscaler (HPA) מוגדר פועל באמצעות לולאת בקרה. לכל עומס עבודה יש Horizontal Pod Autoscaler נפרד. כל Horizontal Pod Autoscaler בודק מדי פעם את המדדים של עומס עבודה נתון בהשוואה לספי היעד שהגדרתם, ומשנה את צורת עומס העבודה באופן אוטומטי.
משאבים לכל Pod
למשאבים שמוקצים לכל Pod, כמו מעבד (CPU), הבקר שולח שאילתה ל-API של מדדי המשאבים לכל קונטיינר שפועל ב-Pod.
- אם מציינים ערך גולמי למעבד (CPU) או לזיכרון, המערכת משתמשת בערך הזה.
- אם מציינים ערך באחוזים למעבד (CPU) או לזיכרון, ה-HPA מחשב את ערך הניצול הממוצע כאחוז מהבקשות של ה-Pod למעבד (CPU) או לזיכרון.
- מדדים מותאמים אישית ומדדים חיצוניים מבוטאים כערכים גולמיים או כערכים ממוצעים.
הבקר משתמש בערך הממוצע או בערך הגולמי של מדד שדווח כדי ליצור יחס, ומשתמש ביחס הזה כדי להתאים אוטומטית לעומס את עומס העבודה. במסמכי התיעוד של פרויקט Kubernetes תוכלו לקרוא תיאור של האלגוריתם של Horizontal Pod Autoscaler.
תגובה למספר מדדים
אם מגדירים לעומס עבודה התאמה אוטומטית לעומס על סמך כמה מדדים, הכלי Horizontal Pod Autoscaler מעריך כל מדד בנפרד ומשתמש באלגוריתם ההתאמה לעומס כדי לקבוע את קנה המידה החדש של עומס העבודה על סמך כל אחד מהם. הסקאלה הגדולה ביותר נבחרת לפעולת ההתאמה האוטומטית לעומס.
אם אחד או יותר מהמדדים לא זמינים מסיבה כלשהי, ההתאמה האופקית של קבוצות Pod לעומס עדיין תגדיל את קבוצת ה-Pod בהתאם לעומס על סמך הגודל המקסימלי שחושב, אבל לא תצמצם אותה בהתאם לעומס.
מניעת תנודות חדות
Thrashing (התרוצצות) מתייחס למצב שבו ה-Horizontal Pod Autoscaler מנסה לבצע פעולות התאמה לעומס לפני שעומס העבודה מסיים להגיב לפעולות התאמה קודמות. כדי למנוע תנודות חדות, ה-Horizontal Pod Autoscaler בוחר את ההמלצה הגדולה ביותר מחלון ייצוב מסוים.
ההתנהגות הזו נשלטת על ידי השדה scaleDown.stabilizationWindowSeconds במפרט behavior של ה-HPA, שמוגדר כברירת מחדל ל-300 שניות (חמש דקות) ב-GKE.
כדי למנוע משינויים קלים לגרום לאירועי התאמה לעומס מיותרים, ההתאמה האופקית של קבוצות Pod לעומס משתמשת בערך סבילות של 10%. אם היחס בין הערך הנוכחי של המדד לבין ערך היעד של המדד הוא בטווח של 10% מ-1.0, לא תתבצע פעולת התאמה לעומס (scaling) של יעד נתון.
התאמה לאפס ומאפס
ב-GKE בגרסה 1.37 ואילך, אתם יכולים להגדיר את Horizontal Pod Autoscaler (HPA) כך שיקטין את עומס העבודה ל-0 רפליקות כשאין ביקוש, ויגדיל אותו באופן אוטומטי כשהביקוש מתחדש. התאמת קנה המידה לאפס ומאפס כוללת את ההתנהגויות הבאות:
- מעקף של טולרנס: כשעומס העבודה הוא
0רפליקות, GKE עוקף את בדיקת הטולרנס הרגילה של המדד (יחס של 0.9 עד 1.1). כל ערך של מדד שגדול מאפס, כמו הודעה אחת בתור, מפעיל מיד הרחבה לרפליקה אחת לפחות של1בלי לחכות לחציית סף הסבילות. - חלונות ייצוב: ברירת המחדל להגדלת קנה המידה היא
0שניות (scaleUp.stabilizationWindowSeconds: 0) להפעלה מיידית, וברירת המחדל להקטנת קנה המידה היא300שניות (scaleDown.stabilizationWindowSeconds: 300) כדי להבטיח חמש דקות רצופות של אפס ביקוש לפני הקטנת קנה המידה ל-0רפליקות. - תנאי סטטוס: כשמבצעים התאמה לעומס (scaling) ל-
0רפליקות באמצעות ה-HPA, הבקר מדווח על התנאיScaledToZero: Trueבזמן שהוא נשאר פעיל (ScalingActive: True). אם מבצעים התאמה לעומס של עומס עבודה באופן ידני ל-0רפליקות מחוץ ל-HPA (למשל באמצעות הפקודהkubectl scale), ההתאמה האוטומטית לעומס מושהית (ScalingActive: False) עד שעומס העבודה מותאם לעומס בחזרה ל-1רפליקות או יותר.
להוראות מפורטות, קראו את המאמר התאמה לעומס (scaling) של עומסי עבודה ב-GKE לאפס ומאפס באמצעות HPA.
מגבלות
- אם אתם לא משתמשים בהתאמה של HPA באמצעות VPA (גרסת טרום-השקה), אל תשתמשו ב-Horizontal Pod Autoscaler יחד עם Vertical Pod Autoscaler רגיל ב-CPU או בזיכרון. אתם יכולים להשתמש ב-Horizontal Pod Autoscaler עם Vertical Pod Autoscaler למדדים אחרים, או להגדיר התאמה רב-ממדית של קבוצות Pod לעומס כדי לבצע התאמה אופקית של המעבד (CPU) והתאמה אנכית של הזיכרון בו-זמנית.
- אם יש לכם פריסה, אל תגדירו התאמה אופקית של קבוצות Pod לעומס ב-ReplicaSet או ב-Replication Controller שמגבים אותה. כשמבצעים עדכון בהדרגה (rolling) ב-Deployment או ב-Replication Controller, הוא מוחלף ב-Replication Controller חדש. במקום זאת, מגדירים התאמה אופקית של קבוצות Pod לעומס בפריסה עצמה.
- אי אפשר להשתמש בהתאמה אופקית של קבוצות Pod לעומס בעומסי עבודה שלא ניתן לשנות את קנה המידה שלהם, כמו DaemonSets.
- התאמה אופקית של קבוצות Pod לעומס חושפת מדדים כמשאבים ב-Kubernetes, מה שמטיל מגבלות על שמות המדדים, כמו איסור על שימוש באותיות רישיות או בתו "/".
יכול להיות שמתאם המדדים מאפשר לשנות את השם. לדוגמה, ראו את האופרטור
prometheus-adapteras. - ה-HPA לא מצמצם את מספר ה-Pods אם אחד מהמדדים שהוא מוגדר לעקוב אחריהם לא זמין. כדי לבדוק אם יש מדדים לא זמינים, קראו את המאמר הצגת פרטים על Horizontal Pod Autoscaler (HPA).
מדרגיות
למרות שאין מגבלה קשיחה על מספר אובייקטי ה-HPA שנתמכים ב-Horizontal Pod Autoscaler, הביצועים שלו יכולים להיות מושפעים ככל שהמספר הזה גדל. באופן ספציפי, יכול להיות שפרק הזמן בין החישובים מחדש של HPA יהיה ארוך יותר מ-15 השניות הרגילות.
- בגרסה משנית 1.31 או 1.32 של GKE, אם מוגדר פרופיל Performance HPA, תקופת החישוב מחדש צריכה להיות בטווח של 15 שניות עם עד 1,000 אובייקטים של HPA. איך מגדירים את פרופיל ה-HPA לביצועים
- בגרסה משנית 1.33 של GKE ואילך, אם מוגדר פרופיל Performance HPA, תקופת החישוב מחדש צריכה להיות בטווח של 15 שניות עם עד 5,000 אובייקטים של HPA. פרופיל ה-HPA לביצועים מופעל כברירת מחדל בכל האשכולות שעומדים בדרישות.
- אם פרופיל ה-HPA לביצועים לא מוגדר, תקופת החישוב מחדש צריכה להישאר בטווח של 15 שניות עם עד 300 אובייקטים של HPA.
הגורמים הבאים יכולים גם להשפיע על הביצועים:
- התאמה לעומס (scaling) בכמה מדדים: כל מדד מוסיף קריאת אחזור לחישובי ההמלצות, וזה משפיע על תקופת החישוב מחדש.
- זמן האחזור של מחסנית המדדים המותאמים אישית: זמני תגובה של יותר מ-50 אלפיות השנייה בערך יהיו ארוכים יותר מאלה שבדרך כלל נצפים במדדים הרגילים של Kubernetes, וישפיעו על תקופת החישוב מחדש.
אינטראקציה עם אובייקטים של HorizontalPodAutoscaler
בדף Workloads במסוף Google Cloud אפשר להגדיר התאמה אופקית של קבוצות Pod לעומס (HPA) לעומס עבודה, ולקבל מידע על אירועי התאמה אוטומטית לעומס ועל הגורמים להם.
כל Horizontal Pod Autoscaler קיים באשכול כאובייקט HorizontalPodAutoscaler. אפשר להשתמש בפקודות כמו kubectl get hpa או kubectl describe hpa HPA_NAME כדי לבצע פעולות באובייקטים האלה.
אפשר גם ליצור אובייקטים של HorizontalPodAutoscaler באמצעות הפקודה kubectl autoscale.
המאמרים הבאים
- איך מגדירים התאמה אופקית של קבוצות Pod לעומס
- איך מתאימים את הגודל של עומסי עבודה של HPA באמצעות VPA
- איך משנים את קנה המידה לאפס ומאפס באמצעות HPA
- איך משנים את קנה המידה של אפליקציה באופן ידני
- מידע נוסף על Vertical Pod Autoscaler
- מידע נוסף על מידרוג אוטומטי של אשכול