Política de manutenção de modelos de IA generativa

Esta página descreve a política de manutenção do modelo para as ofertas de pagamento por token das APIs do Modelo Fundação, débito provisionado das APIs do Modelo Fundação, Inferência em Batch com ai_query, e ofertas de ajuste fino do Modelo Fundação .

Para continuar a suportar os modelos mais avançados, a Databricks gere modelos ao longo de um ciclo de vida que vai da atualização à descontinuação e à eventual reforma.

• Atualização: O Databricks aplica atualizações incrementais a um modelo para garantir otimizações. Ver atualizações de modelos.
• Obsoleto: Um modelo obsoleto já não é recomendado para novas cargas de trabalho, mas continua disponível em espaços de trabalho com utilização existente do modelo. Os espaços de trabalho que não estão a usar o modelo no momento da descontinuação já não têm acesso a ele.
• Retirada: Um modelo retirado já não está acessível e o suporte para o modelo está totalmente descontinuado. Qualquer carga de trabalho que use o modelo deixa de funcionar.

Política de despreciação de modelos

Quando a Databricks desvaloriza um modelo, esse modelo deixa de ser recomendado e está planeado para a sua reforma. A Databricks anuncia as datas de aposentação para modelos obsoletos, com os prazos de notificação resumidos nas secções seguintes. As datas de reforma podem ser anunciadas no momento da depreciação ou numa data posterior. Após a data de reforma, o modelo deixa de estar acessível e qualquer carga de trabalho que o utilize deixa de funcionar.

Para modelos obsoletos e retirados e as datas anunciadas de retirada, veja Modelos descontinuados e retirados. Para modelos de parceiros, veja Política de reforma de modelo de sócios.

APIs do modelo de base

A tabela seguinte resume a política de descontinuação para as APIs do Modelo Foundation pay-per-token, o débito provisionado das APIs do Modelo Foundation e a Inferência em Batch com ai_query ofertas.

Modelo de apólice de reforma para parceiros

Os modelos parceiros são modelos que parceiros terceiros — especificamente OpenAI, Anthropic e Google — fornecem através das APIs do Modelo Fundação. Para estes modelos parceiros, os Databricks geralmente seguem os mesmos prazos de descontinuação e políticas descritos acima.

No entanto, os parceiros podem fornecer datas de reforma mais curtas do que o período de transição de três meses que a Databricks publica. Nestes casos, o Databricks tenta colmatar a lacuna redirecionando temporariamente modelos para uma versão semelhante, para que os clientes recebam o tempo completo de transição.

Por exemplo, se a reforma de um modelo parceiro for anunciada com um prazo de espera de um mês em vez de três, o Databricks redireciona o modelo por mais dois meses para evitar falhas imediatas e permitir tempo para migração. As consultas falham no final do período completo de três meses.

Afinação de modelo base

A tabela seguinte resume a política de depreciação para o ajuste fino do Modelo de Fundação.

Atualizações de modelo

Os Databricks podem enviar atualizações incrementais do modelo para garantir otimizações. Quando o Databricks atualiza um modelo, a URL do endpoint mantém-se a mesma, mas o ID do modelo no objeto resposta muda para refletir a data da atualização. Por exemplo, se o Databricks enviar uma atualização para meta-llama/Meta-Llama-3.3-70B a data de 04/03/2024, o nome do modelo no objeto resposta atualiza-se para meta-llama/Meta-Llama-3.3-70B-030424. O Databricks mantém um histórico de versões das atualizações. Contacte a sua equipa de contas Databricks para mais detalhes.

Modelos obsoletos e retirados

As secções seguintes listam modelos que estão obsoletos (já não recomendados para novas cargas de trabalho) ou retirados (no fim da vida útil e já não disponíveis). As datas de retirada dos modelos obsoletos são anunciadas pelo menos três meses antes.

Aposentamentos das APIs do Foundation Model

A tabela seguinte mostra as desativações dos modelos, as suas datas de aposentação e modelos de substituição recomendados para usar nas APIs do Foundation Model, pay-per-token e throughput provisionado, servindo cargas de trabalho. A Databricks recomenda que você migre seus aplicativos para usar modelos de substituição antes da data de aposentadoria indicada.

Se precisar de suporte de longo prazo para uma versão específica do modelo, a Databricks recomenda utilizar APIs de Modelo Fundamental com taxa de transferência provisionada para os seus workloads de serviço.

Modelo de Fundação Ajuste fino de aposentadorias

A tabela a seguir mostra famílias modelo aposentadas, suas datas de aposentadoria e famílias de modelos de substituição recomendadas para uso em cargas de trabalho de ajuste fino do Modelo de Base. A Databricks recomenda que você migre seus aplicativos para usar modelos de substituição antes da data de aposentadoria indicada.

Encontre cargas de trabalho que utilizem modelos retirados

Utilize a seguinte consulta para encontrar cargas de trabalho que utilizam modelos obsoletos e identifique os seus proprietários.

SELECT
   eu.requester,
   se.endpoint_name,
   se.entity_name,
   COUNT(*) AS request_count,
   SUM(eu.input_token_count) AS total_input_tokens,
   SUM(eu.output_token_count) AS total_output_tokens,
   MIN(eu.request_time) AS first_request,
   MAX(eu.request_time) AS last_request
 FROM system.serving.endpoint_usage eu
 JOIN system.serving.served_entities se
   ON eu.served_entity_id = se.served_entity_id
 WHERE LOWER(se.entity_name) LIKE '%<retired-model-name>%'
 GROUP BY eu.requester, se.endpoint_name, se.entity_name
 ORDER BY request_count DESC