DistributedCachingChatClient Clase
Definición
Importante
Parte de la información hace referencia a la versión preliminar del producto, que puede haberse modificado sustancialmente antes de lanzar la versión definitiva. Microsoft no otorga ninguna garantía, explícita o implícita, con respecto a la información proporcionada aquí.
Un cliente de chat de delegación que almacena en caché los resultados de las llamadas de respuesta, almacenándolos como JSON en un IDistributedCache.
public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClientpublic class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClienttype DistributedCachingChatClient = class
inherit CachingChatClientPublic Class DistributedCachingChatClient
Inherits CachingChatClient- Herencia
Comentarios
DistributedCachingChatClient emplea la serialización JSON como parte del almacenamiento de datos almacenados en caché. No se garantiza que los modelos de objetos usados por ChatMessage, , ChatOptions, ChatResponse, ChatResponseUpdateo ninguno de los demás objetos de la canalización de cliente de chat recorrerán de ida y vuelta a través de la serialización JSON con plena fidelidad. Por ejemplo, RawRepresentation se omitirá y Object los valores de deserializarán AdditionalProperties como JsonElement en lugar del tipo original. En general, el uso DistributedCachingChatClient de código solo debe basarse en el acceso a los datos que se pueden conservar lo suficientemente bien a través de la serialización y deserialización json.
La implementación proporcionada de IChatClient es segura para subprocesos para uso simultáneo siempre que el empleado IDistributedCache sea similar seguro para subprocesos para uso simultáneo.
Constructores
| Nombre | Description |
|---|---|
| DistributedCachingChatClient(IChatClient, IDistributedCache) |
Inicializa una nueva instancia de la clase DistributedCachingChatClient. |
Propiedades
| Nombre | Description |
|---|---|
| CacheKeyAdditionalValues |
Obtiene o establece valores adicionales usados para informar a la clave de caché empleada para almacenar el estado. |
| CoalesceStreamingUpdates |
Obtiene o establece un valor que indica si las actualizaciones de streaming se unen. (Heredado de CachingChatClient) |
| InnerClient |
Obtiene el objeto interno IChatClient. (Heredado de DelegatingChatClient) |
| JsonSerializerOptions |
Obtiene o establece las opciones de serialización JSON que se usarán al serializar los datos de caché. |
Métodos
| Nombre | Description |
|---|---|
| Dispose() |
Realiza tareas definidas por la aplicación asociadas a la liberación, liberación o restablecimiento de recursos no administrados. (Heredado de DelegatingChatClient) |
| Dispose(Boolean) |
Proporciona un mecanismo para liberar recursos no administrados. (Heredado de DelegatingChatClient) |
| EnableCaching(IEnumerable<ChatMessage>, ChatOptions) |
Determina si se debe usar el almacenamiento en caché con la solicitud especificada. (Heredado de CachingChatClient) |
| GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>) |
Calcula una clave de caché para los valores especificados. |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Un cliente de chat de delegación que almacena en caché los resultados de las llamadas de respuesta, almacenándolos como JSON en un IDistributedCache. (Heredado de CachingChatClient) |
| GetService(Type, Object) |
Solicita un IChatClient objeto del tipo |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Un cliente de chat de delegación que almacena en caché los resultados de las llamadas de respuesta, almacenándolos como JSON en un IDistributedCache. (Heredado de CachingChatClient) |
| ReadCacheAsync(String, CancellationToken) |
Devuelve un objeto previamente almacenado en ChatResponsecaché, si está disponible. Esto se usa cuando hay una llamada a GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| ReadCacheStreamingAsync(String, CancellationToken) |
Devuelve una lista previamente almacenada en caché de ChatResponseUpdate valores, si está disponible. Esto se usa cuando hay una llamada a GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheAsync(String, ChatResponse, CancellationToken) |
Almacena un ChatResponse objeto en la memoria caché subyacente. Esto se usa cuando hay una llamada a GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken) |
Almacena una lista de ChatResponseUpdate valores en la memoria caché subyacente. Esto se usa cuando hay una llamada a GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
