Beispiel: Verwendung von Funktionen mit strukturierten RAG-Anwendungen

RAG (Retrieval-Augmented Generation) ist eines der am häufigsten verwendeten Verfahren zum Erstellen von generativen KI-Anwendungen. Feature Engineering in Unity Catalog unterstützt strukturierte RAG-Anwendungen mithilfe von Onlinetabellen. Sie erstellen eine Online-Tabelle für die strukturierten Daten, die die RAG-Anwendung benötigt, und stellen sie auf einem Endpunkt für die Feature-Bereitstellung bereit. Die RAG-Anwendung verwendet den Featurebereitstellungendpunkt, um relevante Daten aus der Onlinetabelle nachzuschlagen.

Folgende typische Schritte werden ausgeführt:

  1. Erstellen Sie einen Endpunkt für die Feature-Bereitstellung.
  2. Erstellen Sie ein LangChain-Tool, das den Endpunkt zum Nachschlagen relevanter Daten verwendet.
  3. Verwenden Sie das Tool im LangChain-Agent, um relevante Daten abzurufen.
  4. Erstellen Sie einen Modellbereitstellungsendpunkt zum Hosten der LangChain-Anwendung.

Das folgende Notebook veranschaulicht die Verwendung von Databricks-Onlinetabellen und Featurebereitstellungsendpunkten für RAG-Anwendungen (Retrieval Augmented Generation).

Demo-Notebook für Onlinetabellen mit RAG-Anwendungen

Notebook abrufen