Descripción general de la capacidad

AI Hypercomputer admite varias opciones de consumo para ayudarte a obtener y usar recursos de procesamiento. En este documento, se proporciona una descripción general de cómo puedes obtener capacidad para cada opción de consumo.

Cómo obtener capacidad

Si quieres obtener asistencia potenciada por IA para evaluar las opciones de adquisición de capacidad y los requisitos de cuota, ejecuta la siguiente instrucción en Compute Advisor:

Compute Advisor Compute Advisor es un asistente potenciado por IA al que puedes pedirle que te brinde recomendaciones personalizadas para tu infraestructura en función de información como tus límites de cuota, las reservas existentes y las restricciones de ubicación de los recursos.

Este mensaje evalúa las cuotas y las reservas existentes de tu proyecto, compara los pasos de adquisición de capacidad en las opciones de consumo y genera una tabla de Markdown con las acciones de cuota y reserva recomendadas.

Actúa como arquitecto de infraestructura de IA. Ayúdame a obtener capacidad de procesamiento en AI Hypercomputer según las cuotas de mi proyecto, las reservas activas y las regiones disponibles.

Proporciona lo siguiente:

1. Auditoría de cuotas y reservas del proyecto: Inspecciona las cuotas de GPU estándar y interrumpibles de mi proyecto, y las reservas activas en todas las regiones, y, luego, identifica qué series de máquinas de GPU tienen cuotas disponibles o reservas activas en comparación con las que requieren un aumento de cuota o una reserva.

2. Comparación de adquisición de capacidad: Compara las opciones de consumo actuales y disponibles en AI Hypercomputer y sus características específicas, incluidos los niveles de GPU compatibles (GPU agrupadas y GPU generales), los tipos de cuota requeridos, los plazos de entrega y los modelos de facturación, según mi proyecto y la serie de máquinas de mis VMs.

3. Ruta de adquisición recomendada: Recomienda la mejor ruta de adquisición de capacidad para cargas de trabajo de GPU agrupadas de larga duración, trabajos reservados a mediano plazo, trabajos densos de corta duración y, en general, implementaciones de GPU.

Dale formato de tabla de Markdown a la comparación (con columnas para la opción de consumo, las GPU compatibles, la cuota requerida y el modelo de facturación), proporciona un comando de gcloud CLI listo para usar para reservar capacidad o crear instancias, y finaliza con 2 o 3 preguntas sobre mi serie de GPU de destino, el recuento de nodos y la duración para definir mejor el plan de acción.
Editar y ejecutar instrucciones en Compute Advisor

En la siguiente tabla, se describe cómo puedes obtener capacidad para cada opción de consumo.

Opción de consumo Proceso para obtener capacidad Implicaciones de precios
Reservas futuras de más de 90 días (para bloques de capacidad)

Para obtener recursos de reservas futuras, el proceso es el siguiente:

  1. Comunícate con tu equipo de cuentas para reservar capacidad. Puedes solicitar solo instancias de procesamiento. Si tus cargas de trabajo requieren almacenamiento, también puedes solicitar un grupo de Hyperdisk con tus instancias de procesamiento.
  2. Google aumenta tu cuota y, luego, aprovisiona los recursos solicitados en la fecha y hora que especificaste.
  3. Cuando creas una instancia o un clúster de Compute Engine, especifica el modelo de aprovisionamiento vinculado a la reserva y las propiedades que coincidan con tus recursos reservados. Compute Engine aprovisiona instancias y clústeres de procesamiento con tu capacidad reservada.
 Pagas por todo el período de reserva, sin importar si usas los recursos reservados o no. Para obtener más información, consulta los precios de las reservas y los grupos de almacenamiento.
Reservas futuras de hasta 90 días (en modo de calendario)

Para obtener recursos de reservas futuras, el proceso es el siguiente:

  1. Buscar capacidad disponible y reservar recursos.
  2. No se cobra ninguna cuota y no es necesario que realices ninguna acción.
  3. Cuando creas una instancia de procesamiento o un clúster, debes especificar el modelo de aprovisionamiento vinculado a la reserva. Las instancias y los clústeres de procesamiento se aprovisionan desde tu capacidad reservada.
 Se te cobrará por todo el período de reserva, independientemente de si usas los recursos reservados durante todo el período. Para obtener más información, consulta Precios de Dynamic Workload Scheduler.
Inicio flexible

Para esta opción de consumo, no se requiere reserva. Para obtener recursos de inicio flexible, el proceso es el siguiente:

  1. Debes solicitar cuota interrumpible para el tipo de máquina de GPU que deseas usar.
  2. Cuando crees instancias o clústeres de procesamiento con una de las siguientes opciones, especifica el modelo de aprovisionamiento de inicio flexible:

    Cuando los recursos solicitados estén disponibles, Compute Engine aprovisionará tus VMs. Tus VMs se ejecutan durante un máximo de siete días.

 Se te cobra cuando los recursos están en uso. Los recursos aprovisionados con el inicio flexible obtienen descuentos automáticamente a través de los precios del programador dinámico de cargas de trabajo.
A pedido

Para esta opción de consumo, la reserva de capacidad es opcional. Los recursos a pedido solo están disponibles para las GPU generales (como N1, G2, G4, A2 o A3 Edge). Para obtener estos recursos on-demand, el proceso es el siguiente:

  1. Solicita una cuota de GPU estándar para el tipo de máquina que deseas usar. Para obtener más información, consulta Solicita un aumento de la cuota.
  2. Verifica la disponibilidad consultando las regiones preferidas para tu hardware en la lista de disponibilidad de GPU por región y zona de Compute Engine.
  3. Crea una instancia de procesamiento o un clúster y especifica el modelo de aprovisionamiento estándar. Los recursos se aprovisionan de inmediato según la capacidad disponible.
 Se aplican las tarifas estándar a pedido mientras los recursos están en uso.
Reservas según demanda

Las reservas según demanda (a veces denominadas reservas) solo están disponibles para las GPU generales (como G2, G4, A2 o A3 Edge). Para reservar capacidad, el proceso es el siguiente:

  1. Solicita una cuota de GPU estándar para tu tipo de máquina. Para obtener más detalles, consulta Solicita un aumento de la cuota.
  2. Crea una reserva según demanda para tu tipo de VM y GPU específico con la consola de Google Cloud , gcloud CLI o algún otro método. Para obtener detalles sobre todos los métodos para crear reservas, consulta Crea una reserva para un solo proyecto.
  3. Aprovisiona tus recursos creando una instancia o un clúster y orientándolos a tu reserva específica.
 Se aplican las tarifas estándar durante todo el período de reserva. Aplica CUD para obtener ahorros significativos.
Reservas futuras estándar

En esta opción de consumo, reservas capacidad para una fecha futura. Las reservas futuras estándar usan el modelo de aprovisionamiento estándar y solo están disponibles para las GPU generales.

  1. Solicita una cuota de GPU estándar para tu tipo de máquina. Para obtener más información, consulta Solicita un aumento de la cuota.
  2. Crea una solicitud de reserva futura para tu tipo de VM y GPU específico.
  3. Cuando la reserva alcance su hora de inicio, crea instancias de procesamiento con tu capacidad reservada.
 Se aplican las tarifas estándar durante todo el período de reserva. Aplica CUD para obtener ahorros significativos.
Spot

Para esta opción de consumo, no se requiere reserva. Para obtener recursos Spot, el proceso es el siguiente:

  1. Debes solicitar cuota interrumpible para el tipo de máquina de GPU que deseas usar.
  2. Consulta la disponibilidad de recursos en la región o zona en la que deseas crear instancias de procesamiento.
  3. Cuando creas una instancia o un clúster de procesamiento, especifica el modelo de aprovisionamiento Spot. Los recursos se aprovisionan a medida que la capacidad está disponible, pero se pueden interrumpir en cualquier momento.
 Se te cobra cuando los recursos están en uso. Las VMs Spot obtienen descuentos automáticamente a través de los precios de las VMs Spot.

¿Qué sigue?