Elige una función de generación de texto
En este documento, se proporciona una comparación de las funciones de generación de texto
AI.GENERATE_TEXT
y
AI.GENERATE
de BigQuery ML. Puedes usar la información de este documento para
decidir qué función usar en los casos en que las funciones tengan
capacidades superpuestas.
Similitudes de las funciones
Las funciones AI.GENERATE_TEXT y AI.GENERATE son similares de las siguientes maneras:
- Propósito: Generar texto pasando una instrucción a un modelo de lenguaje grande (LLM).
- Facturación: Se generan cargos de BigQuery ML por el tratamiento de datos. Para obtener más información, consulta los precios de BigQuery ML. Incurrir en cargos de Gemini Enterprise Agent Platform por las llamadas al LLM Si usas un modelo de Gemini 2.0 o posterior, la llamada se factura con la tarifa de la API por lotes. Para obtener más información, consulta Costo de crear y, luego, implementar modelos de IA en Agent Platform.
- Escalabilidad: Procesa entre 1 millón y 10 millones de filas para cada trabajo de consulta de 6 horas. La capacidad de procesamiento real depende de factores como la longitud promedio de los tokens en las filas de entrada. Para obtener más información, consulta Funciones de IA generativa.
- Datos de entrada: Admite datos de texto y no estructurados de tablas estándar y de objetos de BigQuery.
Diferencias de funciones
Usa la siguiente tabla para evaluar las diferencias entre las funciones
AI.GENERATE_TEXT y AI.GENERATE:
AI.GENERATE_TEXT |
AI.GENERATE |
|
|---|---|---|
| Firma de la función | Es una función con valores de tabla que toma una tabla como entrada y devuelve una tabla como resultado. | Es una función escalar que toma un solo valor como entrada y devuelve un solo valor como salida. |
| LLM compatibles |
|
Modelos de Gemini |
| Contenido de salida de la función |
Contenido de salida de la función para los modelos de Gemini:
Contenido de salida de la función para otros tipos de modelos:
|
|
| Formato de salida de la función | Los valores generados se devuelven en una sola columna JSON o en columnas de tabla separadas, según
el valor del argumento flatten_json_output. |
Los valores generados se devuelven como campos en un objeto STRUCT. |
| Recorrido del usuario | Debes crear un modelo remoto antes de usar la función. | Puedes usar la función directamente, sin necesidad de crear un modelo remoto. |
| Configuración de permisos | Debes crear una conexión de BigQuery de forma manual y otorgar el permiso del rol de usuario de Agent Platform a la cuenta de servicio de la conexión. Puedes omitir este paso si usas la conexión predeterminada de BigQuery. | Puedes llamar a esta función con tus credenciales de usuario de la Cuenta de Google. |
| Ventajas | Permite formatos de entrada y salida más flexibles. | Es más fácil de integrar en las consultas en SQL. |
| Funciones extendidas | Puedes usar la
función AI.GENERATE_TABLE
para generar un resultado estructurado según un esquema de salida de SQL que especifiques. |
Puedes usar las funciones AI.GENERATE_BOOL,
AI.GENERATE_INT y
AI.GENERATE_DOUBLE
para generar diferentes tipos de valores escalares. |