Crea applicazioni basate su LLM utilizzando LangChain

Questa pagina spiega come creare applicazioni basate su LLM utilizzando LangChain. Le panoramiche in questa pagina rimandano alle guide alle procedure su GitHub.

Che cos'è LangChain?

LangChain è un framework di orchestrazione LLM che aiuta gli sviluppatori a creare applicazioni di AI generativa o workflow di Retrieval-Augmented Generation (RAG). Fornisce la struttura, gli strumenti e i componenti per semplificare workflow LLM complessi.

Per ulteriori informazioni su LangChain, consulta la pagina Google LangChain. Per ulteriori informazioni sul framework LangChain, consulta la documentazione del prodotto LangChain.

Componenti LangChain per Cloud SQL per PostgreSQL

Cloud SQL per PostgreSQL offre le seguenti interfacce LangChain:

Scopri come utilizzare LangChain con la guida rapida di LangChain per Cloud SQL per PostgreSQL.

Vector store per Cloud SQL per PostgreSQL

Il vector store recupera e archivia documenti e metadati da un database vettoriale. Il vector store offre a un'applicazione la possibilità di eseguire ricerche semantiche che interpretano il significato di una query utente. Questo tipo di ricerca è chiamata Vector Search e può trovare argomenti che corrispondono concettualmente alla query. Al momento della query, il vector store recupera i vector embedding più simili all'embedding della richiesta di ricerca. In LangChain, un archivio vettoriale si occupa di archiviare i dati incorporati ed eseguire la Vector Search per te.

Per lavorare con il vector store in Cloud SQL per PostgreSQL, utilizza la classe PostgresVectorStore.

Per ulteriori informazioni, consulta la documentazione del prodotto LangChain Vector Stores.

Guida alle procedure del datastore vettoriale

La guida di Cloud SQL per PostgreSQL per il vector store mostra come:

  • Installa il pacchetto di integrazione e LangChain
  • Crea un oggetto PostgresEngine e configura un pool di connessioni al tuo database Cloud SQL per PostgreSQL
  • Inizializza una tabella
  • Crea un oggetto di embedding utilizzando VertexAIEmbeddings
  • Inizializza un PostgresVectorStore predefinito
  • Aggiungi testi
  • Elimina gli SMS
  • Cerca documenti
  • Cerca documenti per vettore
  • Aggiungi un indice per accelerare le query di ricerca vettoriale
  • Reindicizza
  • Rimuovi un indice
  • Crea un archivio di vettori personalizzato
  • Cerca documenti con un filtro dei metadati

Caricatore di documenti per Cloud SQL per PostgreSQL

Il caricatore di documenti salva, carica ed elimina gli oggetti LangChain Document. Ad esempio, puoi caricare i dati per l'elaborazione in embedding e archiviarli in un archivio vettoriale o utilizzarli come strumento per fornire un contesto specifico alle catene.

Per caricare i documenti dal caricatore di documenti in Cloud SQL per PostgreSQL, utilizza la classe PostgresLoader. PostgresLoader restituisce un elenco di documenti da una tabella utilizzando la prima colonna per i contenuti della pagina e tutte le altre colonne per i metadati. La tabella predefinita ha la prima colonna con i contenuti della pagina e la seconda colonna con i metadati JSON. Ogni riga diventa un documento. Utilizza la classe PostgresDocumentSaver per salvare ed eliminare i documenti.

Per saperne di più, consulta l'argomento Caricatori di documenti LangChain.

Guida alla procedura del caricatore di documenti

La guida di Cloud SQL per PostgreSQL per il caricatore di documenti mostra come:

  • Installa il pacchetto di integrazione e LangChain
  • Carica i documenti da una tabella
  • Aggiungi un filtro al caricatore
  • Personalizza la connessione e l'autenticazione
  • Personalizza la creazione dei documenti specificando i contenuti e i metadati dei clienti
  • Come utilizzare e personalizzare un PostgresDocumentSaver per archiviare ed eliminare documenti

Cronologia dei messaggi chat per Cloud SQL per PostgreSQL

Le applicazioni di domande e risposte richiedono una cronologia delle cose dette nella conversazione per fornire all'applicazione il contesto per rispondere a ulteriori domande dell'utente. La classe ChatMessageHistory di LangChain consente all'applicazione di salvare i messaggi in un database e di recuperarli quando necessario per formulare ulteriori risposte. Un messaggio può essere una domanda, una risposta, un'affermazione, un saluto o qualsiasi altro testo fornito dall'utente o dall'applicazione durante la conversazione. ChatMessageHistory archivia ogni messaggio e li concatena per ogni conversazione.

Cloud SQL per PostgreSQL estende questa classe con PostgresChatMessageHistory.

Guida alla procedura per la cronologia dei messaggi chat

La guida di Cloud SQL per PostgreSQL per la cronologia dei messaggi chat mostra come:

  • Installa LangChain ed esegui l'autenticazione su Google Cloud
  • Crea un oggetto PostgresEngine e configura un pool di connessioni al tuo database Cloud SQL per PostgreSQL
  • Inizializza una tabella
  • Inizializza la classe PostgresChatMessageHistory per aggiungere ed eliminare i messaggi
  • Crea una catena per la cronologia dei messaggi utilizzando il LangChain Expression Language (LCEL) e i modelli di chat di Vertex AI di Google

Passaggi successivi