תזמון צינורות עיבוד נתונים

תזמון צינורות עיבוד נתונים ב-BigQuery מאפשר להפוך תהליכי עבודה מרובי שלבים של SQL ו-Notebook, שמופעלים על ידי Dataform, לאוטומטיים במרווחי זמן קבועים או בתגובה לעדכונים בטבלה. אתם יכולים לאמת הפעלות מתוזמנות באמצעות פרטי הכניסה של משתמש בחשבון Google או חשבון שירות בהתאמה אישית, ואז לבדוק את היסטוריית ההרצה כדי לעקוב אחרי תקינות תהליך העבודה.

‫BigQuery שומר אוטומטית את השינויים בצינור עיבוד הנתונים, והשינויים האלה זמינים לכם ולמשתמשים עם התפקיד "אדמין ב-Dataform" בפרויקט. כדי לעדכן את התזמון עם גרסה חדשה של צינור עיבוד הנתונים, צריך לפרוס את צינור עיבוד הנתונים. התזמונים תמיד מפעילים את הגרסה האחרונה שנפרסה.

בתהליכי עבודה שכוללים קובצי Notebook, ההפעלות המתוזמנות משתמשות במפרט ברירת המחדל של סביבת זמן הריצה וכותבות את הפלט בקטגוריה של Cloud Storage שבחרתם במהלך ההגדרה.

לפני שמתחילים

לפני שמתחילים, יוצרים צינור עיבוד נתונים.

הפעלת תזמון צינור עיבוד נתונים

כדי לתזמן צינורות עיבוד נתונים, צריך להקצות את התפקיד הבא לחשבונות השירות בהתאמה אישית שבהם אתם מתכוונים להשתמש לתזמון צינורות עיבוד נתונים:

משתמש בחשבון שירות (roles/iam.serviceAccountUser)
כדי להוסיף את חשבון השירות כחשבון משתמש לעצמו, פועלים לפי ההוראות במאמר הקצאת תפקיד יחיד בחשבון שירות. במילים אחרות, מוסיפים את חשבון השירות כחשבון משתמש לאותו חשבון שירות. לאחר מכן, מקצים לחשבון המשתמש הזה את התפקיד "משתמש בחשבון שירות".

אם צינור עיבוד הנתונים מכיל שאילתות SQL, צריך להקצות את התפקידים הבאים לחשבונות השירות בהתאמה אישית או לחשבונות Google שבהם רוצים להשתמש לתזמונים של צינור עיבוד הנתונים:

BigQuery Job User (roles/bigquery.jobUser)
כך מקצים תפקיד יחיד בפרויקט כדי להקצות את התפקיד "משתמש במשימות BigQuery" לחשבונות השירות בהתאמה אישית או לחשבונות Google בפרויקטים שמהם צינורות עיבוד הנתונים קוראים נתונים.
BigQuery Data Viewer (roles/bigquery.dataViewer)
כדי להקצות את התפקיד "צפייה בנתונים ב-BigQuery" לחשבונות השירות בהתאמה אישית או לחשבונות Google בפרויקטים שמהם צינורות עיבוד הנתונים קוראים נתונים, מקצים תפקיד יחיד בפרויקט.
עריכה של נתוני BigQuery ‏(roles/bigquery.dataEditor)
כדי להקצות את התפקיד "עריכת נתונים ב-BigQuery" לחשבונות השירות בהתאמה אישית או לחשבונות Google בפרויקטים שצינורות עיבוד הנתונים כותבים אליהם נתונים, מקצים תפקיד יחיד בפרויקט.

אם צינור עיבוד הנתונים מכיל קובצי Notebook, צריך להקצות את התפקידים הבאים לחשבונות השירות בהתאמה אישית או לחשבונות Google שבהם אתם מתכוונים להשתמש לתזמונים של צינור עיבוד הנתונים:

משתמש שמריץ Notebook ‏(roles/aiplatform.notebookExecutorUser)
כדי להקצות את התפקיד "משתמש עם הרשאת הפעלה של Notebook" לחשבונות השירות בהתאמה אישית או לחשבונות Google בפרויקט שנבחר, פועלים לפי ההוראות במאמר הקצאת תפקיד יחיד בפרויקט.
אדמין באחסון (roles/storage.admin)
פועלים לפי ההוראות במאמר הוספת חשבון משתמש למדיניות ברמת הקטגוריה כדי להוסיף את חשבונות השירות בהתאמה אישית או את חשבונות Google כחשבונות משתמשים לקטגוריה של Cloud Storage שבה רוצים לאחסן את הפלט של ה-notebooks שהופעלו בהרצות מתוזמנות של צינורות עיבוד נתונים, ואז נותנים את התפקיד 'אדמין של Storage' לחשבונות המשתמשים האלה.

בנוסף, צריך להקצות את התפקידים הבאים לסוכן השירות של Dataform שמוגדר כברירת מחדל:

יצירת אסימונים בחשבון שירות (roles/iam.serviceAccountTokenCreator)
כדי להוסיף את סוכן השירות של Dataform כחשבון משתמש לחשבון השירות, ולתת לו את התפקיד "יצירת אסימונים בחשבון שירות", פועלים לפי ההוראות במאמר מתן גישה ליצירת אסימונים לחשבון שירות.
משתמש בחשבון שירות (roles/iam.serviceAccountUser)
כדי להקצות את התפקיד "משתמש בחשבון שירות" לסוכן השירות שמוגדר כברירת מחדל ב-Dataform בחשבון השירות בהתאמה אישית, פועלים לפי ההוראות במאמר הקצאה או ביטול של כמה תפקידים ב-IAM באמצעות Google Cloud מסוף Google Cloud.

כדי להפעיל את העשרת המטא-נתונים ב-Knowledge Catalog, צריך להפעיל את Dataplex API. בנוסף, צריך להקצות את התפקיד הבא בפרויקט או בקבוצת הרשומות של @bigquery לחשבונות השירות בהתאמה אישית או לחשבונות Google שבהם אתם מתכוונים להשתמש לתזמוני צינורות עיבוד הנתונים:

תפקיד עריכה בקטלוג Dataplex ‏(roles/dataplex.catalogEditor)
כדי להקצות את התפקיד "עריכה ב-Dataplex Catalog" לחשבונות השירות בהתאמה אישית או לחשבונות Google בפרויקט או בקבוצת הרשומות @bigquery, פועלים לפי ההוראות במאמר הקצאת תפקיד יחיד בפרויקט.

מידע נוסף על חשבונות שירות ב-Dataform

דרישות של VPC Service Controls

אם אתם משתמשים ב-VPC Service Controls כדי להגן על צינורות עיבוד הנתונים, חשוב לדעת שהפעלות מתוזמנות מופעלות על ידי Dataform. כשמגדירים את VPC Service Controls להרצות מתוזמנות, צריך לוודא שהדרישות הבאות מתקיימות:

במאמר הגדרת VPC Service Controls ל-Dataform מפורטים שלבי ההגדרה ושיקולי האבטחה.

התפקידים הנדרשים

כדי לקבל את ההרשאות שדרושות לניהול צינורות עיבוד נתונים, בקשו מהאדמין לתת לכם את התפקידים הבאים ב-IAM:

להסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.

כדי לשפר את האבטחה של התזמון, קראו את המאמר הטמעת הרשאות תזמון משופרות.

למידע נוסף על IAM ב-Dataform, קראו את המאמר בקרת גישה באמצעות IAM.

למידע נוסף על תפקידים בתיקיות, קראו את המאמר יצירה וניהול של תיקיות.

מידע נוסף על תפקידים במאגרי Git זמין במאמר ניהול קוד באמצעות מאגרי Git ב-BigQuery Studio.

כדי להשתמש בתבניות של זמני ריצה של נוטבוק של Colab כשמתזמנים פייפליינים, צריך את התפקיד "משתמש בזמן ריצה של Notebook" (roles/aiplatform.notebookRuntimeUser).

יצירת לוח זמנים לפייפליין

אתם יכולים גם להשתמש בדף Pipelines & Connections כדי לתזמן צינור עיבוד נתונים של Dataform באמצעות תהליך עבודה יעיל וספציפי ל-BigQuery. התכונה הזאת נמצאת בגרסת טרום-השקה (Preview).

כדי ליצור לוח זמנים לצינור עיבוד נתונים:

החלונית Files

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית השמאלית, לוחצים על Files כדי לפתוח את דפדפן הקבצים.

    אם החלונית הימנית לא מוצגת, לוחצים על הרחבת החלונית הימנית כדי לפתוח אותה.

  3. בחלונית Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.

  4. בסרגל הכלים של Pipeline Viewer, לוחצים על Schedule או על Trigger.

  5. בחלונית Schedule pipeline, בשדה Schedule name, נותנים שם לתזמון.

  6. בקטע Authentication, מאשרים את צינור עיבוד הנתונים באמצעות פרטי הכניסה של המשתמש בחשבון Google או באמצעות חשבון שירות.

    • כדי להשתמש בפרטי הכניסה של המשתמש בחשבון Google (גרסת טרום-השקה (Preview)), בוחרים באפשרות Execute with my user credentials.

      אופציונלי: בקטע Extended access options, בוחרים את השירותים הנוספים שנדרשים לצינור עיבוד הנתונים:

      • ‫Knowledge Catalog: מאפשר עדכוני מטא-נתונים של Google Cloud Knowledge Catalog.
      • ‫Google Drive: מאפשר גישה לקריאה בלבד לקבצים ב-Google Drive.
      • ‫Bigtable: הרשאת קריאה בלבד לנתונים ב-Google Bigtable.
    • כדי להשתמש בחשבון שירות, בוחרים באפשרות Execute with selected service account ואז בוחרים חשבון שירות.

  7. אם הצינור מכיל notebook, בקטע Notebook options, בשדה Runtime template, בוחרים תבנית של סביבת זמן ריצה של Colaboratory notebook או את המפרטים של סביבת זמן הריצה שמוגדרים כברירת מחדל. פרטים נוספים על יצירת תבנית של נוטבוק של Colab זמינים במאמר יצירת תבנית של סביבת זמן ריצה.

  8. אם הצינור כולל קובץ Notebook, בקטע Notebook options, בשדה Cloud Storage bucket, לוחצים על Browse ובוחרים או יוצרים קטגוריה של Cloud Storage לאחסון הפלט של קובצי Notebook בצינור.

    לחשבון השירות שבחרתם צריך להיות תפקיד האדמין של Storage ב-IAM בקטגוריה שבחרתם. מידע נוסף זמין במאמר הפעלת תזמון צינור עיבוד נתונים.

  9. בקטע Configuration Type, בוחרים באפשרות Schedule (time-based recurrence).

  10. בקטע תדירות הפעולה המתוזמנת, מבצעים את הפעולות הבאות:

    1. בתפריט Repeats, בוחרים את התדירות של הרצות הצינור המתוזמנות.
    2. בשדה At time, מזינים את השעה שבה רוצים להפעיל את הצינורות.
    3. בתפריט Timezone, בוחרים את אזור הזמן של התזמון.
  11. מגדירים את העדיפות של משימת השאילתה ב-BigQuery באמצעות האפשרות Execute as interactive job with high priority (default). כברירת מחדל, BigQuery מריץ שאילתות כמשימות של שאילתות אינטראקטיביות, שנועדו להתחיל לפעול במהירות האפשרית. אם לא בוחרים באפשרות הזו, השאילתות מופעלות כמשימות של שאילתות באצווה, שהעדיפות שלהן נמוכה יותר.

  12. אופציונלי: כדי להגביל את מספר המשימות שיכולות לפעול בו-זמנית במהלך הרצות מתוזמנות של צינור עיבוד נתונים, בוחרים באפשרות Limit concurrent actions, ובשדה Maximum concurrent actions מזינים מספר שלם בין 1 ל-5000.

    אם מספר המשימות שמופעלות חורג מהמגבלה, המערכת של BigQuery מכניסה את המשימות שנותרו לתור עד שמתפנה משבצת בו-זמניות.

  13. לוחצים על יצירת לוח זמנים. אם בחרתם באפשרות Execute with my user credentials כשיטת האימות, אתם צריכים לאשר את חשבון Google (תצוגה מקדימה).

כשיוצרים את התזמון, הגרסה הנוכחית של צינור עיבוד הנתונים נפרסת באופן אוטומטי. כדי לעדכן את התזמון עם גרסה חדשה של צינור עיבוד הנתונים, פורסים את צינור עיבוד הנתונים.

הגרסה האחרונה שנפרסה של צינור עיבוד הנתונים פועלת בזמן ובתדירות שנבחרו.

החלונית Explorer

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על Explorer:

    כפתור מודגש לחלונית Explorer.

    אם החלונית הימנית לא מוצגת, לוחצים על הרחבת החלונית הימנית כדי לפתוח אותה.

  3. בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.

  4. לוחצים על תזמון.

  5. בחלונית Schedule pipeline, בשדה Schedule name, נותנים שם לתזמון.

  6. בקטע Authentication, מאשרים את צינור עיבוד הנתונים באמצעות פרטי הכניסה של המשתמש בחשבון Google או באמצעות חשבון שירות.

    • כדי להשתמש בפרטי הכניסה של המשתמש בחשבון Google, בוחרים באפשרות Execute with my user credentials.

      אופציונלי: בקטע Extended access options, בוחרים את השירותים הנוספים שנדרשים לצינור עיבוד הנתונים:

      • ‫Knowledge Catalog: מאפשר עדכוני מטא-נתונים של Google Cloud Knowledge Catalog.
      • ‫Google Drive: מאפשר גישה לקריאה בלבד לקבצים ב-Google Drive.
      • ‫Bigtable: הרשאת קריאה בלבד לנתונים ב-Google Bigtable.
    • כדי להשתמש בחשבון שירות, בוחרים באפשרות Execute with selected service account ואז בוחרים חשבון שירות.

  7. אם הצינור מכיל notebook, בקטע Notebook options, בשדה Runtime template, בוחרים תבנית של סביבת זמן ריצה של Colaboratory notebook או את המפרטים של סביבת זמן הריצה שמוגדרים כברירת מחדל. פרטים נוספים על יצירת תבנית של נוטבוק של Colab זמינים במאמר יצירת תבנית של סביבת זמן ריצה.

  8. אם הצינור כולל קובץ Notebook, בקטע Notebook options, בשדה Cloud Storage bucket, לוחצים על Browse ובוחרים או יוצרים קטגוריה של Cloud Storage לאחסון הפלט של קובצי Notebook בצינור.

    לחשבון השירות שבחרתם צריך להיות תפקיד האדמין של Storage ב-IAM בקטגוריה שבחרתם. מידע נוסף זמין במאמר הפעלת תזמון צינור עיבוד נתונים.

  9. בקטע Configuration Type, בוחרים באפשרות Schedule (time-based recurrence).

  10. בקטע תדירות הפעולה המתוזמנת, מבצעים את הפעולות הבאות:

    1. בתפריט Repeats, בוחרים את התדירות של הרצות הצינור המתוזמנות.
    2. בשדה At time, מזינים את השעה שבה רוצים להפעיל את הצינורות.
    3. בתפריט Timezone, בוחרים את אזור הזמן של התזמון.
  11. מגדירים את העדיפות של משימת השאילתה ב-BigQuery באמצעות האפשרות Execute as interactive job with high priority (default). כברירת מחדל, BigQuery מריץ שאילתות כמשימות של שאילתות אינטראקטיביות, שנועדו להתחיל לפעול במהירות האפשרית. אם לא בוחרים באפשרות הזו, השאילתות מופעלות כמשימות של שאילתות באצווה, שהעדיפות שלהן נמוכה יותר.

  12. אופציונלי: כדי להגביל את מספר המשימות שיכולות לפעול בו-זמנית במהלך הרצות מתוזמנות של צינור עיבוד נתונים, בוחרים באפשרות Limit concurrent actions, ובשדה Maximum concurrent actions מזינים מספר שלם בין 1 ל-5000.

    אם מספר המשימות שמופעלות חורג מהמגבלה, המערכת של BigQuery מכניסה את המשימות שנותרו לתור עד שמתפנה משבצת בו-זמניות.

  13. לוחצים על יצירת לוח זמנים. אם בחרתם באפשרות Execute with my user credentials בתור שיטת האימות, אתם צריכים לאשר את חשבון Google.

כשיוצרים את התזמון, הגרסה הנוכחית של צינור עיבוד הנתונים נפרסת באופן אוטומטי. כדי לעדכן את התזמון עם גרסה חדשה של צינור עיבוד הנתונים, פורסים את צינור עיבוד הנתונים.

הגרסה האחרונה שנפרסה של צינור עיבוד הנתונים פועלת בזמן ובתדירות שנבחרו.

הדף תזמון

  1. נכנסים לדף Scheduling במסוף Google Cloud .

    לדף "תזמון"

  2. לוחצים על Create ובוחרים באפשרות Pipeline schedule בתפריט.

  3. בחלונית Schedule pipeline, בוחרים צינור עיבוד נתונים לתזמון.

  4. בשדה שם לוח הזמנים, נותנים שם ללוח הזמנים.

  5. בקטע Authentication, מאשרים את צינור עיבוד הנתונים באמצעות פרטי הכניסה של המשתמש בחשבון Google או באמצעות חשבון שירות.

    • כדי להשתמש בפרטי הכניסה של המשתמש בחשבון Google, בוחרים באפשרות Execute with my user credentials.

      אופציונלי: בקטע Extended access options, בוחרים את השירותים הנוספים שנדרשים לצינור עיבוד הנתונים:

      • ‫Knowledge Catalog: מאפשר עדכוני מטא-נתונים של Google Cloud Knowledge Catalog.
      • ‫Google Drive: מאפשר גישה לקריאה בלבד לקבצים ב-Google Drive.
      • ‫Bigtable: הרשאת קריאה בלבד לנתונים ב-Google Bigtable.
    • כדי להשתמש בחשבון שירות, בוחרים באפשרות Execute with selected service account ואז בוחרים חשבון שירות.

  6. אם הצינור כולל קובץ Notebook, בקטע Notebook options, בשדה Runtime template, בוחרים תבנית של סביבת זמן ריצה של נוטבוק של Colab או את המפרטים של סביבת זמן הריצה שמוגדרים כברירת מחדל. למידע נוסף על יצירת תבנית של סביבת זמן ריצה בנוטבוק של Colab, קראו את המאמר יצירת תבנית של סביבת זמן ריצה.

  7. אם צינור עיבוד הנתונים מכיל קובץ Notebook, בשדה Cloud Storage bucket לוחצים על Browse ובוחרים או יוצרים קטגוריה של Cloud Storage לאחסון הפלט של קובצי Notebook בצינור עיבוד הנתונים.

    לחשבון השירות שבחרתם צריך להיות תפקיד האדמין של Storage ב-IAM בקטגוריה שבחרתם. מידע נוסף זמין במאמר הפעלת תזמון צינור עיבוד נתונים.

  8. בקטע Configuration Type, בוחרים באפשרות Schedule (time-based recurrence).

  9. בקטע תדירות הפעולה המתוזמנת, מבצעים את הפעולות הבאות:

    1. בתפריט Repeats, בוחרים את התדירות של הרצות הצינור המתוזמנות.
    2. בשדה At time, מזינים את השעה שבה רוצים להפעיל את הצינורות.
    3. בתפריט Timezone, בוחרים את אזור הזמן של התזמון.
  10. מגדירים את העדיפות של משימת השאילתה ב-BigQuery באמצעות האפשרות Execute as interactive job with high priority (default). כברירת מחדל, BigQuery מריץ שאילתות כמשימות של שאילתות אינטראקטיביות, שנועדו להתחיל לפעול במהירות האפשרית. אם לא בוחרים באפשרות הזו, השאילתות מופעלות כמשימות של שאילתות באצווה, שהעדיפות שלהן נמוכה יותר.

  11. אופציונלי: כדי להגביל את מספר המשימות שיכולות לפעול בו-זמנית במהלך הרצות מתוזמנות של צינור עיבוד נתונים, בוחרים באפשרות Limit concurrent actions, ובשדה Maximum concurrent actions מזינים מספר שלם בין 1 ל-5000.

    אם מספר המשימות שמופעלות חורג מהמגבלה, המערכת של BigQuery מכניסה את המשימות שנותרו לתור עד שמתפנה משבצת בו-זמניות.

  12. לוחצים על יצירת לוח זמנים. אם בחרתם באפשרות Execute with my user credentials בתור שיטת האימות, אתם צריכים לאשר את חשבון Google.

אישור של חשבון Google

כדי לאמת את המשאב באמצעות פרטי הכניסה של חשבון Google, צריך לתת באופן ידני הרשאה לצינורות עיבוד הנתונים של BigQuery לקבל את אסימון הגישה לחשבון Google ולגשת לנתוני המקור בשמכם. אתם יכולים לאשר ידנית באמצעות ממשק תיבת הדו-שיח של OAuth. אם בוחרים באחת מאפשרויות הגישה המורחבת, צריך לתת גישה לשירותים האלה, למשל Google Drive או Knowledge Catalog.

צריך לתת הרשאה לצינורות עיבוד הנתונים של BigQuery רק פעם אחת.

כדי לבטל את ההרשאה שנתתם, פועלים לפי השלבים הבאים:

  1. עוברים אל הדף של החשבון ב-Google.
  2. לוחצים על BigQuery Pipelines.
  3. לוחצים על הסרת הגישה.

כדי לשנות את הבעלים של תזמון צינור עיבוד הנתונים באמצעות עדכון פרטי הכניסה, נדרש גם אישור ידני אם הבעלים החדש של חשבון Google מעולם לא יצר תזמון בעבר.

אם צינור עיבוד הנתונים מכיל קובץ Notebook, צריך גם לתת באופן ידני הרשאה ל-Colab Enterprise לקבל את אסימון הגישה לחשבון Google שלכם ולגשת לנתוני המקור בשמכם. צריך לתת הרשאה רק פעם אחת. אתם יכולים לבטל את ההרשאה הזו בדף של חשבון Google.

תזמון מבוסס-טריגרים

אפשר להגדיר פייפליינים ב-BigQuery כך שיפעילו באופן אוטומטי הרצות על סמך עדכונים בטבלאות ב-BigQuery. אתם יכולים ליצור לוחות זמנים שמבוססים על טריגרים כדי להפעיל צינורות עיבוד נתונים באופן אוטומטי בתגובה לשינויים בנתונים ב-BigQuery, במקום לפי לוח זמנים קבוע.

כשהצינור מזהה שינויים בטבלה או בטבלאות שצוינו, הוא מפעיל הרצה חדשה של תהליך העבודה המשויך. אפשר להגדיר תנאים שמבוססים על עדכונים בטבלה אחת, בכל הטבלאות בקבוצה או בכל אחת מהטבלאות בקבוצה.

אתם יכולים גם לשנות את ההגדרות האופציונליות של התזמונים שמבוססים על טריגרים, כדי לקבוע את המרווח המינימלי בין הטריגרים של הצינור. לדוגמה, אפשר לשנות את הערך של Min Execution Duration כדי לוודא שתזמונים שמבוססים על טריגרים לא מופעלים בתדירות גבוהה יותר מהרצוי. אפשר גם לשנות את הערך של Max Wait Duration כדי לוודא שהתזמון שמבוסס על טריגר יופעל פעם אחת במהלך משך הזמן הזה, גם אם לא זוהו עדכונים בטבלה.

מגבלות

לוחות זמנים שמבוססים על טריגרים כפופים למגבלות הבאות:

  • לוחות זמנים שמבוססים על טריגרים לא פועלים באופן מיידי. כשמגדירים תזמון מבוסס-טריגר, הצינור בודק את הסטטוס של הטבלה ב-BigQuery בערך פעם ב-3 דקות. פרק הזמן הזה נקרא מרווח הסקר, והוא יכול לגרום לעיכוב בין שינוי הטבלה לבין הפעלת הטריגר.
  • כל טבלה במעקב גורמת לקריאות ל-API ב-BigQuery בכל מרווח דגימה. מעקב אחרי מספר גדול מאוד של טבלאות יכול להגדיל את צריכת המכסה של BigQuery API.

יצירת טריגר

כדי ליצור טריגר, פועלים לפי השלבים הבאים:

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. פותחים את צינור עיבוד הנתונים ב-Pipeline Viewer באחת מהדרכים הבאות:

    • בחלונית הימנית, לוחצים על Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.
    • בחלונית הימנית, לוחצים על Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.
  3. בסרגל הכלים של Pipeline Viewer, לוחצים על Trigger.

  4. בשדה Trigger, מזינים שם לטריגר.

  5. בקטע Authentication, מאשרים את צינור עיבוד הנתונים באמצעות פרטי הכניסה של המשתמש בחשבון Google או באמצעות חשבון שירות.

    • כדי להשתמש בפרטי הכניסה של המשתמש בחשבון Google, בוחרים באפשרות Execute with my user credentials.

      אופציונלי: בקטע Extended access options, בוחרים את השירותים הנוספים שנדרשים לצינור עיבוד הנתונים:

      • ‫Knowledge Catalog: מאפשר עדכוני מטא-נתונים של Google Cloud Knowledge Catalog.
      • ‫Google Drive: מאפשר גישה לקריאה בלבד לקבצים ב-Google Drive.
      • ‫Bigtable: הרשאת קריאה בלבד לנתונים ב-Google Bigtable.
    • כדי להשתמש בחשבון שירות, בוחרים באפשרות Execute with selected service account ואז בוחרים חשבון שירות.

  6. אם הצינור מכיל notebook, בקטע Notebook options, בשדה Runtime template, בוחרים תבנית של סביבת זמן ריצה של Colaboratory notebook או את המפרטים של סביבת זמן הריצה שמוגדרים כברירת מחדל. פרטים נוספים על יצירת תבנית של נוטבוק של Colab זמינים במאמר יצירת תבנית של סביבת זמן ריצה.

  7. אם הצינור כולל קובץ Notebook, בקטע Notebook options, בשדה Cloud Storage bucket, לוחצים על Browse ובוחרים או יוצרים קטגוריה של Cloud Storage לאחסון הפלט של קובצי Notebook בצינור.

    לחשבון השירות שבחרתם צריך להיות תפקיד האדמין של Storage ב-IAM בקטגוריה שבחרתם. מידע נוסף זמין במאמר הפעלת תזמון צינור עיבוד נתונים.

  8. בקטע Configuration Type, בוחרים באפשרות Trigger (event-based execution).

  9. בשדה חיפוש טבלאות, מוסיפים טבלה או טבלאות שרוצים לעקוב אחריהן כדי להפעיל את הטריגר.

  10. בקטע תנאי להפעלה, בוחרים באחת מהאפשרויות הבאות:

    • ‫Wait for ALL tables to update: הפעלת תהליך העבודה רק כשכל הטבלאות ברשימה עודכנו מאז הבדיקה האחרונה.
    • ‫Trigger if ANY table updates: הפעלת תהליך העבודה אם אחת מהטבלאות ברשימה עודכנה מאז הבדיקה האחרונה.
  11. (אופציונלי) בשדה Max Wait Duration, מזינים משך זמן כדי לאלץ הפעלה של טריגר אם לא מזוהים עדכונים בטבלה במהלך פרק הזמן הזה. אפשר להזין ערכים נתמכים בין שנייה אחת ל-7 ימים. אם לא מציינים ערך, תהליך העבודה יפעל רק אם הטבלה שבמעקב תעודכן, ומשך הביצוע המינימלי יתקיים.

  12. (אופציונלי) בשדה Min Execution Duration, בוחרים משך זמן כדי למנוע הפעלה של טריגרים בתדירות גבוהה יותר ממשך הזמן המינימלי הזה. אפשר להזין ערכים בין 3 דקות ל-24 שעות. אם לא מציינים ערך, ברירת המחדל היא 3 דקות.

  13. אופציונלי: כדי להגביל את מספר הפעולות שיכולות לפעול בו-זמנית במהלך הפעלות שמבוססות על טריגרים, בוחרים באפשרות Limit concurrent actions, ובשדה Maximum concurrent actions מזינים מספר שלם בין 1 ל-5000.

    אם מספר הפעולות שמוכנות לביצוע חורג מהמגבלה, המערכת של BigQuery מעבירה את הפעולות שנותרו לתור עד שמתפנה משבצת פנויה.

  14. לוחצים על יצירת לוח זמנים. אם בחרתם באפשרות Execute with my user credentials בתור שיטת האימות, אתם צריכים לאשר את חשבון Google.

פתרון בעיות בתזמונים שמבוססים על טריגרים

בקטע הזה מתוארות בעיות נפוצות בתזמונים שמבוססים על טריגרים, ואיך לפתור אותן.

הבעיה: הטריגר לא מופעל
פתרון: נסו את אחת מהאפשרויות הבאות:
  • מוודאים שלפרטי הכניסה של המשתמש או לחשבון השירות יש את כל ההרשאות הנדרשות.
  • מוודאים שהטבלה שצוינה ב-BigQuery משתנה.
  • מוודאים שהטריגר לא מושפע ממרווח הזמן בין דגימות.
  • בודקים אם משך ההפעלה המינימלי, או הערך של Min Execution Duration, מונע הפעלות בתדירות גבוהה יותר. אפשר להקטין את הערך הזה כדי להגדיל את תדירות ההפעלה של הטריגר.
  • בודקים אם אפשרות התנאי להפעלה (הכול או כלשהו) משפיעה על הפעלת הטריגר.
  • בודקים ביומני הביקורת אם יש שגיאות כש-Dataform מנסה לשלוח קריאה ל-BigQuery API כדי לבדוק את הסטטוס של הטבלה במעקב.
הבעיה: הטריגר מופעל לעיתים קרובות מדי
פתרון: משנים את משך הביצוע המינימלי או את הערך של Min Execution Duration. אפשר להגדיל את הערך הזה כדי להקטין את תדירות ההפעלה של הטריגר.

פריסת צינור עיבוד נתונים

כשפורסים צינור עיבוד נתונים, התזמון או הגדרת התזמור שלו מתעדכנים בגרסה הנוכחית של צינור עיבוד הנתונים. הרצות מתוזמנות תמיד מפעילות את הגרסה האחרונה של צינור עיבוד הנתונים שנפרסה.

פריסת צינורות עיבוד נתונים שמאוחסנים בתיקיות

כדי לפרוס צינורות עיבוד נתונים עצמאיים וצינורות עיבוד נתונים שמאוחסנים בתיקיות:

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. פותחים את צינור עיבוד הנתונים ב-Pipeline Viewer באחת מהדרכים הבאות:

    • בחלונית הימנית, לוחצים על Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.
    • בחלונית הימנית, לוחצים על Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.
  3. בסרגל הכלים של Pipeline Viewer, לוחצים על Deploy.

התזמון התואם מתעדכן בגרסה הנוכחית של צינור עיבוד הנתונים. הגרסה האחרונה שנפרסה של צינור עיבוד הנתונים פועלת בזמן המתוזמן.

פריסת צינורות עיבוד נתונים שמאוחסנים במאגרי Git

תהליכים שמאוחסנים בתיקיות Git משתמשים בפריסות של Dataform לתזמור ולתזמון. פריסות מאפשרות לכם להגדיר גרסאות, תהליכי עבודה, שינויים בהגדרות של הידור ותזמור של כמה סביבות.

כדי לפרוס צינור עיבוד נתונים שמאוחסן במאגר Git:

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על קבצים.

  3. בעץ הקבצים, מרחיבים את התיקייה של מאגר Git המקושר ובוחרים צינור עיבוד נתונים, או לוחצים על התיקייה של מאגר Git אם מדובר בצינור עיבוד נתונים ברמת הבסיס.

  4. בסרגל הכלים של Pipeline Viewer, לוחצים על Deploy.

  5. בתיבת הדו-שיח של הפריסה, קובעים את הגדרות המוצר, הגדרות תהליך העבודה והגדרות ההפעלה.

  6. לוחצים על Deploy.

מידע נוסף על הגדרת פריסות, הגדרות של גרסאות והגדרות של תהליכי עבודה זמין במאמר פריסות של Dataform.

השבתת לוח זמנים

כדי להשהות את ההרצות המתוזמנות של צינור עיבוד נתונים נבחר בלי למחוק את התזמון, אתם יכולים להשבית את התזמון.

כדי להשבית את התזמון של צינור עיבוד נתונים מסוים:

החלונית Files

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על קבצים.

  3. בחלונית Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.

  4. בסרגל הכלים של Pipeline Viewer, לוחצים על View trigger.

  5. בטבלה Schedule details, בשורה Schedule state, לוחצים על המתג Schedule is enabled.

החלונית Explorer

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על Explorer:

    כפתור מודגש לחלונית Explorer.

  3. בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.

  4. לוחצים על הצגת הטריגר.

  5. בטבלה Schedule details, בשורה Schedule state, לוחצים על המתג Schedule is enabled.

הדף תזמון

  1. נכנסים לדף Scheduling במסוף Google Cloud .

    לדף "תזמון"

  2. לוחצים על השם של צינור עיבוד הנתונים שנבחר.

  3. בדף Schedule details, לוחצים על Disable.

הפעלת לוח זמנים

כדי להפעיל מחדש את ההרצות המתוזמנות של צינור עיבוד נתונים מושבת, פועלים לפי השלבים הבאים:

החלונית Files

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על קבצים.

  3. בחלונית Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.

  4. בסרגל הכלים של Pipeline Viewer, לוחצים על View trigger.

  5. בטבלה Schedule details, בשורה Schedule state, לוחצים על המתג Schedule is disabled.

החלונית Explorer

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על Explorer:

    כפתור מודגש לחלונית Explorer.

  3. בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.

  4. לוחצים על הצגת הטריגר.

  5. בטבלה Schedule details, בשורה Schedule state, לוחצים על המתג Schedule is disabled.

הדף תזמון

  1. נכנסים לדף Scheduling במסוף Google Cloud .

    לדף "תזמון"

  2. לוחצים על השם של צינור עיבוד הנתונים שנבחר.

  3. בדף פרטי לוח הזמנים, לוחצים על הפעלה.

הפעלה ידנית של צינור עיבוד נתונים שנפרס

כשמריצים באופן ידני צינור עיבוד נתונים שנפרס בתזמון שנבחר, BigQuery מריץ את צינור עיבוד הנתונים שנפרס פעם אחת, בלי קשר לתזמון.

כדי להריץ באופן ידני צינור עיבוד נתונים שנפרס, מבצעים את השלבים הבאים:

  1. נכנסים לדף Scheduling במסוף Google Cloud .

    לדף "תזמון"

  2. לוחצים על השם של תזמון צינור עיבוד הנתונים שנבחר.

  3. בדף Schedule details, לוחצים על Run.

הצגת כל לוחות הזמנים של צינורות עיבוד הנתונים

כדי לראות את כל התזמונים של צינורות עיבוד הנתונים בפרויקט ב- Google Cloud , מבצעים את הפעולות הבאות:

  1. נכנסים לדף Scheduling במסוף Google Cloud .

    לדף "תזמון"

  2. אופציונלי: כדי להציג עמודות נוספות עם פרטים על תזמון צינורות עיבוד הנתונים, לוחצים על Column display options, בוחרים עמודות ולוחצים על OK.

הצגת פרטי התזמון של צינור עיבוד הנתונים

כדי לראות את הפרטים של תזמון צינור עיבוד נתונים שנבחר, פועלים לפי השלבים הבאים:

החלונית Files

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על קבצים.

  3. בחלונית Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.

  4. בסרגל הכלים של Pipeline Viewer, לוחצים על View trigger (או View trigger).

החלונית Explorer

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על Explorer:

    כפתור מודגש לחלונית Explorer.

  3. בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.

  4. לוחצים על הצגת הטריגר.

הדף תזמון

  1. נכנסים לדף Scheduling במסוף Google Cloud .

    לדף "תזמון"

  2. לוחצים על השם של תזמון צינור עיבוד הנתונים שנבחר.

צפייה בהפעלות מתוזמנות קודמות

כדי לראות את ההפעלות הקודמות של תזמון צינור עיבוד נתונים מסוים:

החלונית Files

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על קבצים.

  3. בחלונית Files, מרחיבים את התיקייה User, את התיקייה Team folder או מאגר Git, ובוחרים צינור עיבוד נתונים.

  4. בסרגל הכלים של Pipeline Viewer, לוחצים על Executions.

  5. אופציונלי: כדי לרענן את רשימת ההפעלות הקודמות, לוחצים על Refresh.

החלונית Explorer

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על Explorer:

    כפתור מודגש לחלונית Explorer.

  3. בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.

  4. לוחצים על Executions.

  5. אופציונלי: כדי לרענן את רשימת ההפעלות הקודמות, לוחצים על Refresh.

הדף תזמון

  1. נכנסים לדף Scheduling במסוף Google Cloud .

    לדף "תזמון"

  2. לוחצים על השם של צינור עיבוד הנתונים שנבחר.

  3. בדף Schedule details, בקטע Past executions, בודקים את ההפעלות הקודמות.

  4. אופציונלי: כדי לרענן את רשימת ההפעלות הקודמות, לוחצים על Refresh.

עריכת לוח זמנים של צינור עיבוד נתונים

כדי לערוך את לוח הזמנים של צינור עיבוד הנתונים:

החלונית Files

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על קבצים.

  3. בחלונית Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.

  4. בסרגל הכלים של Pipeline Viewer, לוחצים על View trigger ואז על Edit.

  5. בתיבת הדו-שיח Schedule pipeline, עורכים את התזמון ולוחצים על Update schedule.

החלונית Explorer

  1. נכנסים לדף BigQuery במסוף Google Cloud .

    כניסה ל-BigQuery

  2. בחלונית הימנית, לוחצים על Explorer:

    כפתור מודגש לחלונית Explorer.

  3. בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.

  4. לוחצים על הצגת הטריגר ואז על עריכה.

  5. בתיבת הדו-שיח Schedule pipeline, עורכים את התזמון ולוחצים על Update schedule.

הדף תזמון

  1. נכנסים לדף Scheduling במסוף Google Cloud .

    לדף "תזמון"

  2. לוחצים על השם של צינור עיבוד הנתונים שנבחר.

  3. בדף Schedule details, לוחצים על Edit.

  4. לוחצים על הצגת הטריגר ואז על עריכה.

  5. בתיבת הדו-שיח Schedule pipeline, עורכים את התזמון ולוחצים על Update schedule.

מחיקת לוח זמנים של צינור עיבוד נתונים

כדי למחוק לתמיד תזמון של צינור עיבוד נתונים:

  1. נכנסים לדף Scheduling במסוף Google Cloud .

    לדף "תזמון"

  2. בצע אחת מהפעולות הבאות:

    • לוחצים על השם של התזמון שנבחר, ובדף Schedule details לוחצים על Delete.

    • בשורה של לוח הזמנים שנבחר, לוחצים על הסמל View actions בעמודה Actions ואז על Delete.

  3. בתיבת הדו-שיח שמופיעה, לוחצים על מחיקה.

המאמרים הבאים