Nota:
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
Estas preguntas frecuentes (FAQ) describen el impacto de la inteligencia artificial de la función de respuestas generativas en Copilot Studio.
¿Qué son respuestas generativas?
Las respuestas generativas hacen que su agente sea valioso desde el primer momento y aumentan la cantidad de temas sobre los que su agente puede conversar, sin necesidad de crear manualmente árboles de diálogo.
¿Cuáles son las capacidades de respuestas generativas?
Cuando un usuario hace una pregunta al agente que no desencadena un tema configurado, el agente puede buscar contenido relevante, si lo desea, de una fuente de su elección. Esta búsqueda incluye sitios web públicos, SharePoint o sus propios orígenes de datos personalizados, incluidos los elementos que no son de texto en los archivos cargados, como imágenes, datos tabulares y diagramas. El agente usa IA generativa para resumir esa información en una respuesta devuelta al usuario del agente.
¿Cuál es el uso previsto para respuestas generativas?
Los agentes pueden usar respuestas generativas como fuentes principales de información o como alternativa cuando los temas redactados no pueden dar respuesta a la consulta de un usuario.
¿Cómo se evaluaron las respuestas generativas y qué métricas se utilizan para medir su rendimiento?
La capacidad se evalúa continuamente en una colección de conjuntos de datos de preguntas y respuestas seleccionados manualmente, que cubren múltiples industrias. El proceso de evaluación también incluye conjuntos de datos personalizados para solicitudes y respuestas ofensivas y malintencionadas. Las sesiones manuales automatizadas y dedicadas se usan para expandir el conjunto de pruebas.
¿Cuáles son las limitaciones de las respuestas generativas?
Debe habilitar la opción de respuestas generativas para cada agente.
Consulte Idiomas admitidos para obtener la lista de idiomas admitidos por esta función y su respectiva etapa. Es posible que pueda usar otros idiomas, pero las respuestas generadas podrían ser incoherentes y es posible que el agente no responda correctamente o como espera.
Esta capacidad puede estar sujeta a límites de uso o limitación de capacidad.
Las respuestas generadas por la capacidad de respuestas generativas no siempre son perfectas y pueden contener errores.
El sistema está diseñado para consultar el conocimiento del sitio web de su elección y empaquetar los hallazgos relevantes en una respuesta fácilmente consumible. Sin embargo, es importante tener en cuenta algunas características de la IA que podrían generar respuestas inesperadas:
Las respuestas de los modelos de lenguaje no son deterministas. Repetir preguntas semánticamente (cercanas) idénticas podría producir respuestas variables, incluso en nuevos chats. El proceso de respuesta a preguntas incluye contexto de chat anterior, por lo que repetir una consulta dentro de una sesión de chat casi garantiza respuestas diferentes. Este comportamiento significa que es probable que la repetición de consultas fijas en pruebas de regresión o comprobaciones de estado automatizadas produzca respuestas variables e informes de errores falsos positivos.
Copilot Studio le permite seleccionar diferentes modelos como modelo de respuesta principal para respuestas generativas. Tenga en cuenta la fecha límite de los datos incluidos en el modelo que seleccione.
Existen mitigaciones para evitar que el modelo use su corpus de entrenamiento como origen de las respuestas, sin embargo es posible que las respuestas incluyan contenidos de páginas web distintas a la seleccionada.El sistema no realiza una comprobación de precisión, por lo que si el origen de datos seleccionado contiene información inexacta, podría mostrarse a los usuarios de su agente. Implementamos mitigaciones para filtrar las respuestas irrelevantes y ofensivas, y la función está diseñada para no responder cuando se detecta lenguaje ofensivo. Estos filtros y mitigaciones no son infalibles.
Nota:
Siempre debe probar y revisar sus agentes antes de publicarlos, y considerar la posibilidad de recopilar comentarios de los usuarios de su agente. Su administrador puede usar el centro de administración de Power Platform para desactivar la capacidad de publicar agentes que usen características de IA generativa para su inquilino.
¿Qué datos recopila la capacidad? ¿Cómo se usan los datos?
Si un cliente da su consentimiento explícito para que se registre su conversación con su agente, la función recopila las indicaciones del usuario, las respuestas devueltas por el sistema y cualquier comentario que usted proporcione.
Usaremos estos datos para evaluar y mejorar la calidad de la capacidad.
¿Qué factores operativos y configuraciones permiten un uso eficaz y responsable de respuestas generativas?
Las respuestas generativas funcionan mejor cuando se designa un origen de confianza y válido desde el que se va a consultar el contenido. Este origen puede ser el sitio web de su empresa, por ejemplo, www.microsoft.com. Todas las páginas web que pertenecen a este dominio se analizan en busca de una coincidencia con la pregunta del usuario.
Utilizamos los comentarios que nos proporciona sobre su satisfacción con las respuestas generadas para mejorar la calidad del sistema. Puede proporcionar comentarios seleccionando los iconos de Me gusta o No me gusta para las respuestas generadas. También puedes incluir más comentarios en texto libre.
¿Qué protecciones existen en Copilot Studio para la IA responsable?
Las respuestas generativas incluyen varias protecciones para garantizar que los administradores, creadores y usuarios disfruten de una experiencia segura y conforme a las normas. Los administradores tienen control total sobre las características de su inquilino y siempre pueden desactivar la capacidad de publicar agentes con respuestas generativas en su organización. Los creadores pueden agregar instrucciones personalizadas para influir en los tipos de respuestas que devuelven sus agentes. Para obtener más información acerca de los procedimientos recomendados para escribir instrucciones personalizadas, consulte Usar modificación de indicaciones para proporcionar instrucciones personalizadas a su agente.
Los creadores también pueden limitar las fuentes de conocimiento que los agentes pueden utilizar para responder preguntas. Para permitir que los agentes respondan a preguntas fuera del ámbito de sus orígenes de conocimiento configurados, los creadores pueden activar la característica Permitir respuestas no fundamentadas. Para limitar los agentes a responder solo a preguntas dentro del ámbito de sus orígenes de conocimiento configurados, los creadores deben desactivar esta característica.
Copilot Studio también aplica políticas de moderación de contenido en todas las solicitudes de IA generativa para proteger a los administradores, creadores y usuarios contra contenido ofensivo o dañino. Estas directivas de moderación de contenido también se extienden a los intentos maliciosos de liberación, inyección de avisos, exfiltración de avisos e infracción de derechos de autor. Todo el contenido se comprueba dos veces: primero durante la entrada del usuario y de nuevo cuando el agente está a punto de responder. Si el sistema encuentra contenido dañino, ofensivo o malintencionado, impide que el agente responda.
Por último, es un procedimiento recomendado comunicar a los usuarios que el agente usa inteligencia artificial, por lo que el siguiente mensaje predeterminado informa a los usuarios: "Solo para que tenga en cuenta, a veces uso la inteligencia artificial para responder a sus preguntas".