CachingChatClient Clase
Definición
Importante
Parte de la información hace referencia a la versión preliminar del producto, que puede haberse modificado sustancialmente antes de lanzar la versión definitiva. Microsoft no otorga ninguna garantía, explícita o implícita, con respecto a la información proporcionada aquí.
Representa un cliente de chat de delegación que almacena en caché los resultados de las llamadas de chat.
public ref class CachingChatClient abstract : Microsoft::Extensions::AI::DelegatingChatClient
public abstract class CachingChatClient : Microsoft.Extensions.AI.DelegatingChatClient
type CachingChatClient = class
inherit DelegatingChatClient
Public MustInherit Class CachingChatClient
Inherits DelegatingChatClient
- Herencia
- Derivado
Constructores
| Nombre | Description |
|---|---|
| CachingChatClient(IChatClient) |
Inicializa una nueva instancia de la clase CachingChatClient. |
Propiedades
| Nombre | Description |
|---|---|
| CoalesceStreamingUpdates |
Obtiene o establece un valor que indica si las actualizaciones de streaming se unen. |
| InnerClient |
Obtiene el objeto interno IChatClient. (Heredado de DelegatingChatClient) |
Métodos
| Nombre | Description |
|---|---|
| Dispose() |
Realiza tareas definidas por la aplicación asociadas a la liberación, liberación o restablecimiento de recursos no administrados. (Heredado de DelegatingChatClient) |
| Dispose(Boolean) |
Proporciona un mecanismo para liberar recursos no administrados. (Heredado de DelegatingChatClient) |
| EnableCaching(IEnumerable<ChatMessage>, ChatOptions) |
Determina si se debe usar el almacenamiento en caché con la solicitud especificada. |
| GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>) |
Calcula una clave de caché para los valores especificados. |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Representa un cliente de chat de delegación que almacena en caché los resultados de las llamadas de chat. |
| GetService(Type, Object) |
Solicita un IChatClient objeto del tipo |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Representa un cliente de chat de delegación que almacena en caché los resultados de las llamadas de chat. |
| ReadCacheAsync(String, CancellationToken) |
Devuelve un objeto previamente almacenado en ChatResponsecaché, si está disponible. Esto se usa cuando hay una llamada a GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| ReadCacheStreamingAsync(String, CancellationToken) |
Devuelve una lista previamente almacenada en caché de ChatResponseUpdate valores, si está disponible. Esto se usa cuando hay una llamada a GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheAsync(String, ChatResponse, CancellationToken) |
Almacena un ChatResponse objeto en la memoria caché subyacente. Esto se usa cuando hay una llamada a GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken) |
Almacena una lista de ChatResponseUpdate valores en la memoria caché subyacente. Esto se usa cuando hay una llamada a GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |