Bereiten Sie Ihren Databricks Apps-Agenten für den Produktionseinsatz vor

Nachdem Sie einen Agent erstellt und auf Databricks-Apps bereitgestellt haben, können Sie ihn in dieser Reihenfolge in die Produktion übernehmen:

Seite Description
1. Einrichten von CI/CD für Ihren Databricks Apps-Agent Automatisieren Sie die Bereitstellung von Databricks-Apps mit GitHub Actions. Verwendet den Arbeitsauslastungsidentitätsverbund (keine langlebigen geheimen Schlüssel) und einen Startworkflow, der in den Agentvorlagen bereitgestellt wurde.
2. Führen Sie einen Lasttest für Ihren Databricks Apps-Agenten durch Finden Sie die maximalen QPS, die Ihr Agent erhalten kann. Führen Sie einen Lasttest mit schrittweise steigender Last bis zur Sättigung mit einer Mock-LLM-Version Ihres Agenten durch, um den Infrastrukturdurchsatz von Databricks Apps von der Modelllatenz zu trennen.
3. LLM-Nutzung mit Unity AI Gateway steuern Leiten Sie LLM-Anrufe über unity AI Gateway weiter. Berechtigungen zentralisieren, Kosten pro App zuordnen, Modelle austauschen und Datenverkehr prüfen oder erneut abspielen, ohne den Code des Agenten zu ändern.

Allgemeine Databricks Apps CI/CD, die nicht agentspezifisch sind, finden Sie unter CI/CD für Databricks Apps mit GitHub Actions.