Coloque o seu agente do Databricks Apps em produção

Depois de criar um agente e o implementar nas aplicações Databricks, leve-o para produção por esta ordem:

Página Description
1. Configure o CI/CD para o seu agente Databricks Apps Automatize implementações do Databricks Apps a partir do GitHub Actions. Utiliza federação de identidade de carga de trabalho (sem segredos duradouros) e um fluxo de trabalho inicial incluído nos modelos de agentes.
2. Faça testes de carga ao seu agente Databricks Apps Encontra o QPS máximo que o teu agente consegue manter. Execute um teste de carga de rampa até saturação contra uma build mock-LLM do seu agente para isolar o rendimento da infraestrutura Databricks Apps da latência do modelo.
3. Governar o uso de LLMs com o Unity AI Gateway Encaminhe chamadas LLM através do Unity AI Gateway. Centralizar permissões, atribuir o custo por aplicação, trocar modelos e inspecionar ou reproduzir o tráfego sem modificar o código do agente.

Para CI/CD genérico de aplicações Databricks que não seja específico do agente, veja CI/CD para aplicações Databricks com GitHub Actions.

  • Last updated on