Elige una función de generación de texto

En este documento, se proporciona una comparación de las funciones de generación de texto AI.GENERATE_TEXT y AI.GENERATE de BigQuery ML. Puedes usar la información de este documento para decidir qué función usar en los casos en que las funciones tengan capacidades superpuestas.

Similitudes de las funciones

Las funciones AI.GENERATE_TEXT y AI.GENERATE son similares de las siguientes maneras:

  • Propósito: Generar texto pasando una instrucción a un modelo de lenguaje grande (LLM).
  • Facturación: Se generan cargos de BigQuery ML por el tratamiento de datos. Para obtener más información, consulta los precios de BigQuery ML. Incurrir en cargos de Gemini Enterprise Agent Platform por las llamadas al LLM Si usas un modelo de Gemini 2.0 o posterior, la llamada se factura con la tarifa de la API por lotes. Para obtener más información, consulta Costo de crear y, luego, implementar modelos de IA en Agent Platform.
  • Escalabilidad: Procesa entre 1 millón y 10 millones de filas para cada trabajo de consulta de 6 horas. La capacidad de procesamiento real depende de factores como la longitud promedio de los tokens en las filas de entrada. Para obtener más información, consulta Funciones de IA generativa.
  • Datos de entrada: Admite datos de texto y no estructurados de tablas estándar y de objetos de BigQuery.

Diferencias de funciones

Usa la siguiente tabla para evaluar las diferencias entre las funciones AI.GENERATE_TEXT y AI.GENERATE:

AI.GENERATE_TEXT AI.GENERATE
Firma de la función Es una función con valores de tabla que toma una tabla como entrada y devuelve una tabla como resultado. Es una función escalar que toma un solo valor como entrada y devuelve un solo valor como salida.
LLM compatibles
  • Modelos de Gemini
  • Modelos de socios, como Claude de Anthropic, Llama y Mistral AI
  • modelos abiertos
Modelos de Gemini
Contenido de salida de la función

Contenido de salida de la función para los modelos de Gemini:

  • Texto generado
  • Resultados de la IA responsable (RAI)
  • Resultados de la fundamentación con la Búsqueda de Google, si está habilitada
  • Estado de la llamada al LLM

Contenido de salida de la función para otros tipos de modelos:

  • Texto generado
  • Estado de la llamada al LLM
  • Texto generado
  • Respuesta completa del modelo en formato JSON
  • Estado de la llamada al LLM
Formato de salida de la función Los valores generados se devuelven en una sola columna JSON o en columnas de tabla separadas, según el valor del argumento flatten_json_output. Los valores generados se devuelven como campos en un objeto STRUCT.
Recorrido del usuario Debes crear un modelo remoto antes de usar la función. Puedes usar la función directamente, sin necesidad de crear un modelo remoto.
Configuración de permisos Debes crear una conexión de BigQuery de forma manual y otorgar el permiso del rol de usuario de Agent Platform a la cuenta de servicio de la conexión. Puedes omitir este paso si usas la conexión predeterminada de BigQuery. Puedes llamar a esta función con tus credenciales de usuario de la Cuenta de Google.
Ventajas Permite formatos de entrada y salida más flexibles. Es más fácil de integrar en las consultas en SQL.
Funciones extendidas Puedes usar la función AI.GENERATE_TABLE para generar un resultado estructurado según un esquema de salida de SQL que especifiques. Puedes usar las funciones AI.GENERATE_BOOL, AI.GENERATE_INT y AI.GENERATE_DOUBLE para generar diferentes tipos de valores escalares.