CachingChatClient Clase

Definición

Representa un cliente de chat de delegación que almacena en caché los resultados de las llamadas de chat.

public ref class CachingChatClient abstract : Microsoft::Extensions::AI::DelegatingChatClient
public abstract class CachingChatClient : Microsoft.Extensions.AI.DelegatingChatClient
type CachingChatClient = class
    inherit DelegatingChatClient
Public MustInherit Class CachingChatClient
Inherits DelegatingChatClient
Herencia
CachingChatClient
Derivado

Constructores

Nombre Description
CachingChatClient(IChatClient)

Inicializa una nueva instancia de la clase CachingChatClient.

Propiedades

Nombre Description
CoalesceStreamingUpdates

Obtiene o establece un valor que indica si las actualizaciones de streaming se unen.

InnerClient

Obtiene el objeto interno IChatClient.

(Heredado de DelegatingChatClient)

Métodos

Nombre Description
Dispose()

Realiza tareas definidas por la aplicación asociadas a la liberación, liberación o restablecimiento de recursos no administrados.

(Heredado de DelegatingChatClient)
Dispose(Boolean)

Proporciona un mecanismo para liberar recursos no administrados.

(Heredado de DelegatingChatClient)
EnableCaching(IEnumerable<ChatMessage>, ChatOptions)

Determina si se debe usar el almacenamiento en caché con la solicitud especificada.

GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>)

Calcula una clave de caché para los valores especificados.

GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Representa un cliente de chat de delegación que almacena en caché los resultados de las llamadas de chat.

GetService(Type, Object)

Solicita un IChatClient objeto del tipo serviceTypeespecificado.

(Heredado de DelegatingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Representa un cliente de chat de delegación que almacena en caché los resultados de las llamadas de chat.

ReadCacheAsync(String, CancellationToken)

Devuelve un objeto previamente almacenado en ChatResponsecaché, si está disponible. Esto se usa cuando hay una llamada a GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

ReadCacheStreamingAsync(String, CancellationToken)

Devuelve una lista previamente almacenada en caché de ChatResponseUpdate valores, si está disponible. Esto se usa cuando hay una llamada a GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

WriteCacheAsync(String, ChatResponse, CancellationToken)

Almacena un ChatResponse objeto en la memoria caché subyacente. Esto se usa cuando hay una llamada a GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken)

Almacena una lista de ChatResponseUpdate valores en la memoria caché subyacente. Esto se usa cuando hay una llamada a GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

Métodos de extensión

Nombre Description
AsBuilder(IChatClient)

Crea un nuevo ChatClientBuilder uso mediante innerClient como su cliente interno.

GetRequiredService(IChatClient, Type, Object)

Solicita un IChatClient objeto del tipo serviceType especificado y produce una excepción si no está disponible.

GetRequiredService<TService>(IChatClient, Object)

Pide al IChatClient objeto de tipo TService y produce una excepción si no está disponible.

GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Envía un mensaje de chat y devuelve los mensajes de respuesta.

GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Envía un mensaje de texto de chat de usuario y devuelve los mensajes de respuesta.

GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)

Envía un mensaje de chat y solicita una respuesta que coincida con el tipo T.

GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Envía un mensaje de chat y solicita una respuesta que coincida con el tipo T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)

Envía mensajes de chat, solicitando una respuesta que coincida con el tipo T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Envía mensajes de chat, solicitando una respuesta que coincida con el tipo T.

GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)

Envía un mensaje de texto de chat de usuario, solicitando una respuesta que coincida con el tipo T.

GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Envía un mensaje de texto de chat de usuario, solicitando una respuesta que coincida con el tipo T.

GetService<TService>(IChatClient, Object)

Pide al IChatClient objeto de tipo TService.

GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Envía un mensaje de chat y transmite los mensajes de respuesta.

GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Envía un mensaje de texto de chat de usuario y transmite los mensajes de respuesta.

Se aplica a