Visão geral da capacidade

O Hipercomputador de IA oferece várias opções de consumo para ajudar você a receber e usar recursos de computação. Neste documento, apresentamos uma visão geral de como conseguir capacidade para cada opção de consumo.

Como conseguir capacidade

Se você quiser que a assistência com tecnologia de IA avalie as opções de aquisição de capacidade e os requisitos de cota, execute o seguinte comando no Compute Advisor:

Compute Advisor O Compute Advisor é um assistente com tecnologia de IA que você pode usar para receber recomendações personalizadas para sua infraestrutura com base em informações como limites de cota, reservas existentes e restrições de localização de recursos.

Esse comando avalia as cotas e as reservas atuais do projeto, compara as etapas de aquisição de capacidade entre as opções de consumo e gera uma tabela Markdown com as ações recomendadas de cota e reserva.

Atue como arquiteto de infraestrutura de IA. Me ajude a conseguir capacidade de computação no Hipercomputador de IA com base nas cotas do meu projeto, nas reservas ativas e nas regiões disponíveis.

Forneça o seguinte:

1. Auditoria de cotas e reservas do projeto: inspecione as cotas de GPU padrão e preemptivas do meu projeto e as reservas ativas em todas as regiões e identifique quais séries de máquinas de GPU têm cotas disponíveis ou reservas ativas em comparação com aquelas que exigem um aumento de cota ou reserva.

2. Comparação de aquisição de capacidade: compare as opções de consumo atuais e disponíveis no Hipercomputador de IA e as características específicas delas, incluindo níveis de GPU compatíveis (GPUs em cluster e GPUs gerais), tipos de cota necessários, tempos de lead e modelos de faturamento, com base no meu projeto e na série de máquinas das minhas VMs.

3. Caminho de aquisição recomendado: recomende o melhor caminho de aquisição de capacidade para cargas de trabalho de GPU em cluster de longa duração, jobs reservados de médio prazo, jobs densos de curta duração e implantações gerais de GPU.

Formate a comparação como uma tabela Markdown (com colunas para opção de consumo, GPUs compatíveis, cota necessária e modelo de faturamento), forneça um comando da CLI gcloud pronto para uso para reservar capacidade ou criar instâncias e termine com 2 a 3 perguntas sobre minha série de GPU de destino, contagem de nós e duração para refinar o plano de ação.
Editar e executar comandos no Compute Advisor

A tabela a seguir descreve como conseguir capacidade para cada opção de consumo.

Opção de consumo Processo para obter capacidade Implicações nos preços
Reservas adiantadas por mais de 90 dias (para blocos de capacidade)

Para receber recursos de reserva adiantada, o processo é o seguinte:

  1. Entre em contato com sua equipe de conta para reservar capacidade. É possível solicitar apenas instâncias de computação. Se as cargas de trabalho exigirem armazenamento, também será possível solicitar um pool de hiperdisco com as instâncias de computação.
  2. O Google aumenta sua cota e provisiona os recursos solicitados na data e hora especificadas.
  3. Ao criar uma instância ou um cluster do Compute Engine, especifique o modelo de provisionamento vinculado à reserva e as propriedades que correspondem aos recursos reservados. O Compute Engine provisiona instâncias e clusters de computação usando sua capacidade reservada.
 Você paga por todo o período da reserva, use ou não os recursos reservados. Para mais informações, consulte os preços de reservas e pools de armazenamento.
Reservas adiantadas por até 90 dias (no modo calendário)

Para receber recursos de reserva adiantada, o processo é o seguinte:

  1. Pesquise a capacidade disponível e reserve recursos.
  2. Nenhuma cota é cobrada e você não precisa fazer nada.
  3. Ao criar uma instância ou um cluster de computação, é preciso especificar o modelo de provisionamento vinculado à reserva. As instâncias de computação e os clusters são provisionados com base na sua capacidade reservada.
 A cobrança é feita por todo o período da reserva, mesmo que você não use os recursos reservados durante todo o período. Para mais informações, consulte Preços do Dynamic Workload Scheduler.
Início flexível

Para essa opção de consumo, não é necessário fazer reserva. Para receber recursos de início flexível, o processo é o seguinte:

  1. Solicite uma cota preemptiva para o tipo de máquina de GPU que você quer usar.
  2. Ao criar instâncias ou clusters de computação usando uma das opções a seguir, especifique o modelo de provisionamento de início flexível:

    Quando os recursos solicitados estiverem disponíveis, o Compute Engine provisionará as VMs. As VMs são executadas por até sete dias.

 Você recebe cobranças quando os recursos estão em uso. Os recursos provisionados usando o início flexível recebem descontos automaticamente por meio dos preços do Dynamic Workload Scheduler.
Sob demanda

Para essa opção de consumo, a reserva de capacidade é opcional. Os recursos sob demanda estão disponíveis apenas para GPUs gerais (como N1, G2, G4, A2 ou A3 Edge). Para acessar esses recursos sob demanda, o processo é o seguinte:

  1. Solicite uma cota de GPU padrão para o tipo de máquina que você quer usar. Para mais informações, consulte Solicitar um aumento de cota.
  2. Verifique a disponibilidade conferindo as regiões preferidas para seu hardware na lista de disponibilidade de GPU por região e zona do Compute Engine.
  3. Crie uma instância ou um cluster de computação e especifique o modelo de provisionamento padrão. Os recursos são provisionados imediatamente com base na capacidade disponível.
 As taxas padrão sob demanda são aplicadas enquanto os recursos estão em uso.
Reservas imediatas

As reservas imediatas (às vezes chamadas de reservas) estão disponíveis apenas para GPUs gerais, como G2, G4, A2 ou A3 Edge. Para reservar capacidade, o processo é o seguinte:

  1. Solicite uma cota de GPU padrão para seu tipo de máquina. Para mais detalhes, consulte Solicitar um aumento de cota.
  2. Crie uma reserva imediata para seu tipo específico de VM e GPU usando o Google Cloud console, a CLI gcloud ou outros métodos. Para detalhes sobre todos os métodos de criação de reservas, consulte Criar uma reserva para um único projeto.
  3. Provisione seus recursos criando uma instância ou um cluster e segmentando sua reserva específica.
 As taxas padrão se aplicam a todo o período da reserva. Aplique CUDs para economizar bastante.
Reservas adiantadas padrão

Nessa opção de consumo, você reserva capacidade para uma data futura. As reservas adiantadas padrão usam o modelo de provisionamento padrão e estão disponíveis apenas para GPUs gerais.

  1. Solicite uma cota de GPU padrão para seu tipo de máquina. Para mais detalhes, consulte Solicitar um aumento de cota.
  2. Crie uma solicitação de reserva adiantada para seu tipo específico de VM e GPU.
  3. Quando a reserva atingir o horário de início, crie instâncias de computação usando a capacidade reservada.
 As taxas padrão se aplicam a todo o período da reserva. Aplique CUDs para economizar bastante.
Spot

Para essa opção de consumo, não é necessário fazer reserva. Para receber recursos do Spot, o processo é o seguinte:

  1. Solicite uma cota preemptiva para o tipo de máquina de GPU que você quer usar.
  2. Confira a disponibilidade de recursos na região ou zona em que você quer criar instâncias de computação.
  3. Ao criar uma instância ou um cluster de computação, especifique o modelo de provisionamento spot. Os recursos são provisionados para você conforme a capacidade fica disponível, mas podem ser interrompidos a qualquer momento.
 Você recebe cobranças quando os recursos estão em uso. As VMs spot recebem descontos automaticamente por meio dos preços de VMs spot.

A seguir