Selbstverwalteter Agentenspeicher (Lakebase)

Der selbstverwaltete Agentenspeicher verwendet Databricks Lakebase, eine vollständig verwaltete Postgres-OLTP-Datenbank, als dauerhaften Speicher für Ihre Agenten. Verwenden Sie diesen Ansatz, wenn Sie direkten SQL-Zugriff auf Speicher benötigen (z. B. zum Integrieren von Speicher in vorhandene Datenpipelinen oder zum Verwenden eines benutzerdefinierten Schemas), oder wenn Sie kurzfristigen Speicher von Lakebase unterstützt benötigen. Bei diesem Ansatz müssen Sie das Datenbankschema, die Verbindungseinrichtung und zugriffssteuerungen verwalten.

Wenn Sie keinen direkten SQL-Zugriff oder ein benutzerdefiniertes Schema benötigen, verwenden Sie stattdessen verwalteten Agent-Speicher , den Databricks über den Unity-Katalog steuert. Einen Vergleich der beiden Ansätze finden Sie unter Agent-Speicher.

Anforderungen

Kurzfristiger und langfristiger Speicher

Selbstverwalteter Speicher unterstützt sowohl Kurzzeit- als auch Langzeitspeicher, und Sie können Ihren Agenten mit einem von beiden oder mit beiden erstellen:

  • Kurzzeitgedächtnis erfasst den Kontext in einer einzelnen Konversationssitzung mithilfe von Thread-IDs und Checkpointing. Er behält den Kontext für Nachverfolgungsfragen innerhalb einer Sitzung bei.
  • Langzeitspeicher extrahiert und speichert wichtige Informationen in mehreren Unterhaltungen. Sie personalisiert Interaktionen basierend auf früheren Einstellungen und erstellt eine Wissensbasis zu Benutzern, die die Antworten im Laufe der Zeit verbessern.

Weitere Informationen zur Funktionsweise von Speichertypen finden Sie unter Agent-Speicher.

Agenten mit kurzfristigem und langfristigem Speicher

Get started

Um einen Agent mit Speicher auf Databricks-Apps zu erstellen, klonen Sie eine vordefinierte App-Vorlage, und folgen Sie dem entwicklungsworkflow, der in Author an AI Agent beschrieben ist, und stellen Sie sie in Apps bereit. Die folgenden Vorlagen zeigen, wie mithilfe gängiger Frameworks Agenten kurzzeitiger und langfristiger Speicher hinzugefügt werden kann.

LangGraph

Klonen Sie die agent-langgraph-advanced-Vorlage , um einen LangGraph-Agent mit kurzfristigem und langfristigem Speicher zu erstellen. Die Vorlage verwendet den integrierten Checkpoint von LangGraph mit Lakebase für die dauerhafte Zustandsverwaltung, einschließlich threadbasierter Gesprächskontexte und beständiger Benutzereinblicke über Sitzungen hinweg.

git clone https://github.com/databricks/app-templates.git
cd app-templates/agent-langgraph-advanced

OpenAI Agents SDK

Klonen Sie die vorlage "agent-openai-advanced ", um einen Agent mit dem OpenAI Agents SDK mit kurzfristigem Speicher zu erstellen. Die Vorlage verwendet Lakebase für die dauerhafte Zustandsverwaltung, wodurch mehrteilige Gespräche mit automatischem Verlauf der Gesprächshistorie ermöglicht werden.

git clone https://github.com/databricks/app-templates.git
cd app-templates/agent-openai-advanced

Hintergrundausführung für lang laufende Agenten

Die erweiterten Vorlagen agent-langgraph-advanced und agent-openai-advanced erweitern die Basisvorlagen um Kurzzeitgedächtnis und langlaufende Hintergrundausführung über LongRunningAgentServer von databricks-ai-bridge. Es werden Hintergrund- und Streamingmodi hinzugefügt, mit denen Agentaufgaben auch nach der HTTP-Zeitüberschreitung der Verbindung von Databricks Apps weiterlaufen können; außerdem werden das Polling und die Wiederaufnahme einer Streamingverbindung zum Abrufen von Ergebnissen unterstützt. Den vollständigen Clientvertrag finden Sie in der erweiterten Vorlage README.

Bereitstellen und Abfragen Ihres Agents

Nachdem Sie Ihren Agent mit Arbeitsspeicher konfiguriert haben, führen Sie die Schritte unter "Erstellen eines KI-Agents" aus, und stellen Sie ihn in Apps bereit , um Ihren Agent lokal auszuführen, zu bewerten und in Databricks-Apps bereitzustellen.

Nächste Schritte

  • Last updated on