Memuat data HubSpot ke BigQuery

Anda dapat memuat data dari HubSpot ke BigQuery menggunakan konektor BigQuery Data Transfer Service untuk HubSpot. Dengan BigQuery Data Transfer Service, Anda dapat menjadwalkan tugas transfer berulang yang menambahkan data terbaru dari HubSpot ke BigQuery.

Batasan

  • Konektor HubSpot memerlukan token akses aplikasi pribadi untuk autentikasi. Anda harus memiliki aplikasi pribadi HubSpot untuk memiliki token akses aplikasi pribadi sebelum dapat menyiapkan transfer data HubSpot. Untuk mengetahui informasi selengkapnya, lihat Prasyarat HubSpot.
  • Jika lampiran jaringan Anda dibuat di project Google Cloud yang berbeda dengan project Google Cloud transfer data, Anda harus memberikan izin compute.networkAttachments.get dan compute.networkAttachments.update kepada agen layanan yang termasuk dalam project Google Cloud tempat transfer data dibuat.

Sebelum memulai

Bagian berikut menjelaskan prasyarat yang perlu Anda lakukan sebelum membuat transfer data HubSpot.

Prasyarat HubSpot

Anda harus membuat aplikasi pribadi HubSpot dan mengambil token akses aplikasi pribadi Anda. Untuk informasi selengkapnya, lihat referensi berikut:

Cakupan yang diperlukan

Cakupan HubSpot memungkinkan layanan lain mengakses endpoint API tertentu untuk mengakses data di akun HubSpot. Agar konektor HubSpot dapat mentransfer data dari akun HubSpot, Anda harus mengaktifkan cakupan berikut untuk aplikasi pribadi Anda:

Cakupan yang diperlukan

  • automation
  • business-intelligence
  • collector_graphql_query_execute
  • collector_graphql_query_read
  • content
  • conversations.read
  • conversations.visitor_identification.tokens.create
  • crm.import
  • crm.lists.read
  • crm.objects.companies.read
  • crm.objects.contacts.read
  • crm.objects.deals.read
  • crm.objects.owners.read
  • crm.schemas.companies.read
  • crm.schemas.contacts.read
  • crm.schemas.deals.read
  • e-commerce
  • files
  • forms
  • forms-uploaded-files
  • hubdb
  • integration-sync
  • oauth
  • sales-email-read
  • settings.users.read
  • settings.users.teams.read
  • social
  • tickets
  • timeline
  • transactional-email

Untuk mengetahui informasi tentang cara mengonfigurasi cakupan untuk aplikasi pribadi, lihat Aplikasi pribadi lama.

Cakupan opsional

Untuk mentransfer objek data HubSpot tertentu, seperti data sensitif atau sangat sensitif, Anda juga harus mengaktifkan cakupan berikut:

Cakupan untuk data sensitif

Untuk mentransfer data sensitif, aktifkan cakupan berikut:

  • crm.objects.contacts.sensitive.read
  • crm.objects.companies.sensitive.read
  • crm.objects.deals.sensitive.read
  • crm.objects.appointments.sensitive.read
  • crm.objects.custom.sensitive.read
  • crm.objects.projects.sensitive.read
  • tickets.sensitive

Cakupan untuk data yang sangat sensitif

Untuk mentransfer data yang sangat sensitif, aktifkan cakupan berikut:

  • crm.objects.contacts.highly_sensitive.read
  • crm.objects.companies.highly_sensitive.read
  • crm.objects.deals.highly_sensitive.read
  • crm.objects.custom.highly_sensitive.read
  • crm.objects.projects.highly_sensitive.read
  • tickets.highly_sensitive

Cakupan untuk data lainnya

Beberapa objek data memerlukan cakupan tertentu untuk disertakan dalam transfer data. Misalnya, untuk mentransfer objects.courses, Anda harus memiliki cakupan crm.objects.courses.read. Daftar berikut mencakup daftar cakupan yang diperlukan untuk mentransfer objek data yang sesuai:

  • crm.objects.appointments.read
  • crm.objects.courses.read
  • crm.objects.custom.read
  • crm.objects.goals.read
  • crm.objects.leads.read
  • crm.objects.line_items.read
  • crm.objects.listings.read
  • crm.objects.orders.read
  • crm.objects.owners.read
  • crm.objects.products.read
  • crm.objects.services.read
  • crm.objects.users.read
  • crm.pipelines.orders.read
  • crm.schemas.appointments.read
  • crm.schemas.courses.read
  • crm.schemas.custom.read
  • crm.schemas.deals.read
  • crm.schemas.line_items.read
  • crm.schemas.listings.read
  • crm.schemas.orders.read
  • crm.schemas.quotes.read
  • crm.schemas.services.read
  • marketing.campaigns.read
  • marketing.campaigns.revenue.read
  • settings.users.read
  • settings.users.teams.read
  • crm.dealsplits.read_write
  • crm.export
  • crm.extensions_calling_transcripts.read
  • crm.schemas.carts.read
  • crm.objects.carts.read
  • crm.objects.subscriptions.read
  • crm.objects.commercepayments.read
  • crm.objects.projects.read
  • crm.objects.quotes.read
  • crm.objects.partner-clients.read
  • crm.objects.partner-services.read
  • crm.objects.marketing_events.read
  • crm.objects.invoices.read
  • crm.objects.feedback_submissions.read
  • crm.objects.forecasts.read
  • crm.schemas.commercepayments.read
  • crm.schemas.forecasts.read
  • crm.schemas.invoices.read
  • crm.schemas.projects.read
  • crm.schemas.subscriptions.read

Prasyarat BigQuery

Peran BigQuery yang diperlukan

Untuk mendapatkan izin yang diperlukan untuk membuat transfer data BigQuery Data Transfer Service, minta administrator untuk memberi Anda peran IAM BigQuery Admin (roles/bigquery.admin) di project Anda. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat transfer data BigQuery Data Transfer Service. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat transfer data BigQuery Data Transfer Service:

  • Izin BigQuery Data Transfer Service:
    • bigquery.transfers.update
    • bigquery.transfers.get
  • Izin BigQuery:
    • bigquery.datasets.get
    • bigquery.datasets.getIamPolicy
    • bigquery.datasets.update
    • bigquery.datasets.setIamPolicy
    • bigquery.jobs.create

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Untuk mengetahui informasi selengkapnya, lihat Memberikan akses bigquery.admin.

Jika ingin menyiapkan notifikasi operasi transfer untuk Pub/Sub, pastikan Anda memiliki izin IAM pubsub.topics.setIamPolicy. Izin Pub/Sub tidak diperlukan jika Anda hanya menyiapkan notifikasi email. Untuk informasi selengkapnya, lihat Notifikasi operasi BigQuery Data Transfer Service.

Menyiapkan transfer data HubSpot

Tambahkan data HubSpot ke BigQuery dengan menyiapkan konfigurasi transfer menggunakan salah satu opsi berikut:

Konsol

  1. Buka halaman Data transfers di konsol Google Cloud .

    Buka Transfer data

  2. Klik Create transfer.

  3. Di bagian Source type, untuk Source, pilih HubSpot - Preview.

  4. Di bagian Detail sumber data, lakukan hal berikut:

    • Untuk Access token, masukkan kunci token akses pribadi Anda. Untuk mengetahui informasi selengkapnya, lihat Prasyarat HubSpot.
    • Untuk HubSpot objects to transfer, klik Browse untuk memilih objek yang akan ditransfer ke set data tujuan BigQuery. Anda juga dapat memasukkan objek apa pun secara manual untuk disertakan dalam transfer data di kolom ini.
      • Anda dapat memilih objek HubSpot kustom, yang muncul di menu Browse dalam format CUSTOM_OBJECT_NAME__c.
  5. Di bagian Destination settings, untuk Dataset, pilih set data yang Anda buat untuk menyimpan data Anda.

  6. Di bagian Transfer config name, untuk Display name, masukkan nama tampilan untuk transfer data.

  7. Di bagian Schedule options:

    • Dalam daftar Repeat frequency, pilih opsi untuk menentukan seberapa sering transfer data ini dijalankan. Untuk menentukan frekuensi pengulangan kustom, pilih Custom. Jika Anda memilih On-demand, transfer ini akan berjalan saat Anda memicu transfer secara manual.
    • Jika perlu, pilih Start now atau Start at set time, lalu masukkan tanggal mulai dan waktu proses.
  8. Opsional: Di bagian Opsi notifikasi, lakukan hal berikut:

    • Untuk mengaktifkan notifikasi email, klik tombol Notifikasi email. Saat Anda mengaktifkan opsi ini, administrator transfer akan menerima notifikasi email saat proses transfer gagal.
    • Untuk mengaktifkan notifikasi operasi transfer Pub/Sub untuk transfer ini, klik tombol Notifikasi Pub/Sub. Anda dapat memilih nama topik, atau mengklik Buat topik untuk membuatnya.
  9. Klik Simpan.

bq

Masukkan perintah bq mk dan berikan flag pembuatan transfer --transfer_config:

bq mk
    --transfer_config
    --project_id=PROJECT_ID
    --data_source=DATA_SOURCE
    --display_name=NAME
    --target_dataset=DATASET
    --params='PARAMETERS'

Ganti kode berikut:

  • PROJECT_ID (opsional): project ID Google Cloud Anda. Jika --project_id tidak diberikan untuk menentukan project tertentu, project default akan digunakan.
  • DATA_SOURCE: sumber data — hubspot.
  • NAME: nama tampilan untuk konfigurasi transfer data. Nama transfer dapat berupa nilai apa pun yang memungkinkan Anda mengidentifikasi transfer jika perlu mengubahnya nanti.
  • DATASET: set data target untuk konfigurasi transfer.
  • PARAMETERS: parameter untuk konfigurasi transfer yang dibuat dalam format JSON. Contoh: --params='{"param":"param_value"}'. Berikut adalah parameter untuk transfer data HubSpot:

    • assets: jalur ke objek HubSpot yang akan ditransfer ke BigQuery.
      • Anda dapat menentukan objek HubSpot kustom menggunakan format CUSTOM_OBJECT_NAME__c.
    • connector.authentication.oauth.accessToken: kunci token akses pribadi HubSpot.

Perintah berikut akan membuat transfer data HubSpot di project default.

    bq mk \
        --transfer_config \
        --target_dataset=mydataset \
        --data_source=hubspot \
        --display_name='My Transfer' \
        --params= ' {
            "assets": ["Contacts", "Deals"],
            "connector.authentication.oauth.accessToken": "pat_123456789123"}'
Saat Anda menyimpan konfigurasi transfer, konektor HubSpot akan otomatis memicu proses transfer sesuai dengan opsi jadwal Anda. Dengan setiap operasi transfer, konektor HubSpot mentransfer semua data yang tersedia dari HubSpot ke BigQuery.

Untuk menjalankan transfer data secara manual di luar jadwal reguler, Anda dapat memulai operasi pengisian ulang.

Pemetaan jenis data

Tabel berikut memetakan jenis data HubSpot ke jenis data BigQuery yang sesuai:

Jenis data HubSpot Jenis data BigQuery
String STRING
Text STRING
Integer INTEGER
Boolean BOOLEAN
Date TIMESTAMP
Datetime TIMESTAMP
Long BIGNUMERIC

Harga

Tidak ada biaya untuk mentransfer data HubSpot ke BigQuery selama fitur ini dalam status Pratinjau.

Memecahkan masalah penyiapan transfer

Jika Anda mengalami masalah saat menyiapkan transfer data, lihat Masalah transfer HubSpot.

Langkah berikutnya