Scegli una funzione di generazione del testo
Questo documento fornisce un confronto tra le funzioni di generazione di testo di BigQuery ML
AI.GENERATE_TEXT
e
AI.GENERATE. Puoi utilizzare le informazioni contenute in questo documento per decidere quale funzione utilizzare nei casi in cui le funzioni hanno funzionalità sovrapposte.
Analogie tra le funzioni
Le funzioni AI.GENERATE_TEXT e AI.GENERATE sono simili nei seguenti modi:
- Scopo: genera testo generato passando un prompt a un modello linguistico di grandi dimensioni (LLM).
- Fatturazione: vengono addebitati i costi di BigQuery ML per il trattamento dei dati. Per saperne di più, consulta la pagina relativa ai prezzi di BigQuery ML. Sostenere i costi di Gemini Enterprise Agent Platform per le chiamate all'LLM. Se utilizzi un modello Gemini 2.0 o versioni successive, la chiamata viene fatturata alla tariffa dell'API batch. Per saperne di più, consulta Costo della creazione e del deployment dei modelli di AI in Agent Platform.
- Scalabilità: elabora da 1 milione a 10 milioni di righe per ogni job di query di 6 ore. La velocità effettiva dipende da fattori come la lunghezza media dei token nelle righe di input. Per saperne di più, consulta Funzioni AI generative.
- Dati di input: supportano sia i dati di testo che quelli non strutturati provenienti da tabelle standard e tabelle di oggetti BigQuery.
Differenze tra le funzioni
Utilizza la tabella seguente per valutare le differenze tra le funzioni AI.GENERATE_TEXT e AI.GENERATE:
AI.GENERATE_TEXT |
AI.GENERATE |
|
|---|---|---|
| Firma della funzione | Una funzione con valore di tabella che accetta una tabella come input e restituisce una tabella come output. | Una funzione scalare che accetta un singolo valore come input e restituisce un singolo valore come output. |
| LLM supportati |
|
Modelli Gemini |
| Contenuto dell'output della funzione |
Contenuti di output della funzione per i modelli Gemini:
Contenuti dell'output della funzione per altri tipi di modelli:
|
|
| Formato di output della funzione | I valori generati vengono restituiti in una singola colonna JSON o in colonne di tabella separate, a seconda del valore dell'argomento flatten_json_output. |
I valori generati vengono restituiti come campi in un oggetto STRUCT. |
| User journey | Devi creare un modello remoto prima di utilizzare la funzione. | Puoi utilizzare la funzione direttamente, senza dover creare un modello remoto. |
| Configurazione delle autorizzazioni | Devi creare manualmente una connessione BigQuery e concedere l'autorizzazione del ruolo Utente della piattaforma agente all'account di servizio della connessione. Puoi saltare questo passaggio se utilizzi la connessione predefinita di BigQuery. | Puoi chiamare questa funzione utilizzando le tue credenziali utente dell'Account Google. |
| Vantaggi | Consente formati di input e output più flessibili. | Più facile da integrare nelle query SQL. |
| Funzioni estese | Puoi utilizzare la funzione AI.GENERATE_TABLE per generare un output strutturato in base a uno schema di output SQL specificato. |
Puoi utilizzare le funzioni AI.GENERATE_BOOL, AI.GENERATE_INT e AI.GENERATE_DOUBLE per generare diversi tipi di valori scalari. |