Funktion zur Textgenerierung auswählen

In diesem Dokument werden die BigQuery ML-Textgenerierungsfunktionen AI.GENERATE_TEXT und AI.GENERATE verglichen. Anhand der Informationen in diesem Dokument können Sie entscheiden, welche Funktion Sie verwenden sollten, wenn sich die Funktionen in ihren Capabilities überschneiden.

Ähnlichkeiten zwischen Funktionen

Die Funktionen AI.GENERATE_TEXT und AI.GENERATE ähneln sich in folgenden Punkten:

  • Zweck: Text generieren, indem ein Prompt an ein Large Language Model (LLM) übergeben wird.
  • Abrechnung: Für die Datenverarbeitung fallen BigQuery ML-Gebühren an. Weitere Informationen finden Sie unter BigQuery ML-Preise. Für Aufrufe des LLM fallen Gebühren für die Gemini Enterprise Agent Platform an. Wenn Sie ein Gemini 2.0- oder höheres Modell verwenden, wird der Aufruf zum Batch API-Tarif abgerechnet. Weitere Informationen finden Sie unter Kosten für das Erstellen und Bereitstellen von KI-Modellen in der Agent Platform.
  • Skalierbarkeit: Verarbeiten Sie zwischen 1 Million und 10 Millionen Zeilen pro 6-stündigem Abfragejob. Der tatsächliche Durchsatz hängt von Faktoren wie der durchschnittlichen Tokenlänge in den Eingabezeilen ab. Weitere Informationen finden Sie unter Funktionen für generative KI.
  • Eingabedaten: Unterstützt sowohl Text als auch unstrukturierte Daten aus BigQuery-Standardtabellen und -Objekttabellen.

Funktionsunterschiede

In der folgenden Tabelle werden die Unterschiede zwischen den Funktionen AI.GENERATE_TEXT und AI.GENERATE beschrieben:

AI.GENERATE_TEXT AI.GENERATE
Funktionssignatur Eine Tabellenwertfunktion, die eine Tabelle als Eingabe verwendet und eine Tabelle als Ausgabe zurückgibt. Eine Skalarfunktion, die einen einzelnen Wert als Eingabe verwendet und einen einzelnen Wert als Ausgabe zurückgibt.
Unterstützte LLMs
  • Gemini-Modelle
  • Partnermodelle wie Anthropic Claude, Llama und Mistral AI
  • offene Modelle
Gemini-Modelle
Inhalt der Funktionsausgabe

Inhalt der Funktionsausgabe für Gemini-Modelle:

  • Generierter Text
  • Ergebnisse der verantwortungsbewussten Anwendung von KI (RAI)
  • Ergebnisse der Fundierung mit der Google Suche, falls aktiviert
  • LLM-Aufrufstatus

Inhalt der Funktionsausgabe für andere Modelltypen:

  • Generierter Text
  • LLM-Aufrufstatus
  • Generierter Text
  • Vollständige Modellantwort im JSON-Format
  • LLM-Aufrufstatus
Ausgabeformat der Funktion Die generierten Werte werden je nach Wert des Arguments flatten_json_output in einer einzelnen JSON-Spalte oder in separaten Tabellenspalten zurückgegeben. Generierte Werte werden als Felder in einem STRUCT-Objekt zurückgegeben.
User Journey Sie müssen ein Remote-Modell erstellen, bevor Sie die Funktion verwenden können. Sie können die Funktion direkt verwenden, ohne ein Remote-Modell erstellen zu müssen.
Berechtigungen einrichten Sie müssen manuell eine BigQuery-Verbindung erstellen und dem Dienstkonto der Verbindung die Berechtigung für die Rolle „Agent Platform User“ gewähren. Sie können diesen Schritt überspringen, wenn Sie die BigQuery-Standardverbindung verwenden. Sie können diese Funktion mit den Anmeldedaten Ihres Google-Kontos aufrufen.
Vorteile Ermöglicht flexiblere Eingabe- und Ausgabeformate. Einfacher in SQL-Abfragen einzubinden.
Erweiterte Funktionen Mit der Funktion AI.GENERATE_TABLE können Sie eine Ausgabe generieren, die gemäß einem von Ihnen angegebenen SQL-Ausgabeschema strukturiert ist. Mit den Funktionen AI.GENERATE_BOOL, AI.GENERATE_INT und AI.GENERATE_DOUBLE können Sie verschiedene Arten von Skalarwerten generieren.