AI-Red-Teaming-Agent in der Cloud ausführen (Vorschau) (Klassische Methode)

Zurzeit wird folgendes angezeigt:Foundry (klassische) Portalversion - Wechseln zur Version für das neue Foundry-Portal

Wichtig

In diesem Artikel markierte Elemente (Vorschau) befinden sich derzeit in der öffentlichen Vorschau. Diese Vorschau wird ohne Vereinbarung auf Serviceebene bereitgestellt und wird für Produktionsworkloads nicht empfohlen. Bestimmte Features werden möglicherweise nicht unterstützt oder weisen eingeschränkte Funktionen auf. Weitere Informationen finden Sie unter Supplementale Nutzungsbedingungen für Microsoft Azure Previews.

Obwohl der AI Red Teaming Agent (Vorschau) während der Prototyperstellung und -entwicklung lokal ausgeführt werden kann, um Sicherheitsrisiken zu identifizieren, ermöglicht die Ausführung in der Cloud umfangreichere AI-Red-Teaming-Läufe vor der Bereitstellung, um eine umfassendere Analyse durchzuführen, indem größere Kombinationen von Angriffsstrategien und Risikokategorien untersucht werden.

Voraussetzungen

Hinweis

Sie müssen ein Foundry-Projekt für dieses Feature verwenden. Ein hubbasiertes Projekt wird nicht unterstützt. Erfahren Sie , welche Art von Projekt ich habe? und erstellen Sie ein Foundry-Projekt. Informationen zum Migrieren Ihres hubbasierten Projekts zu einem Foundry-Projekt finden Sie unter Migrieren von hubbasierten zu Foundry-Projekten.

Optional können Sie Ihr eigenes Speicherkonto verwenden , um Auswertungen auszuführen.

Erste Schritte

Installieren Sie zunächst Microsoft Projektclient des Foundry SDK, der den AI Red Teaming Agent in der Cloud ausführt.

pip install azure-ai-projects==1.1.0b3 azure-identity

Legen Sie dann Die Umgebungsvariablen für Ihre Microsoft Foundry-Ressourcen fest.

import os

endpoint = os.environ["PROJECT_ENDPOINT"] # Sample : https://<account_name>.services.ai.azure.com/api/projects/<project_name>

Unterstützte Ziele

Das Ausführen von AI Red Teaming Agent in der Cloud unterstützt derzeit nur Azure OpenAI-Modellbereitstellungen in Ihrem Foundry-Projekt als Ziel.

Konfigurieren Des Zielmodells

Sie können ihre Zielmodellbereitstellung auf zwei Arten konfigurieren:

Option 1: Bereitstellungen von Foundry-Projekten

Wenn Sie Modellbereitstellungen verwenden, die Teil Ihres Foundry-Projekts sind, richten Sie die folgenden Umgebungsvariablen ein:

import os

model_endpoint = os.environ["MODEL_ENDPOINT"] # Sample : https://<account_name>.openai.azure.com
model_api_key = os.environ["MODEL_API_KEY"]
model_deployment_name = os.environ["MODEL_DEPLOYMENT_NAME"] # Sample : gpt-4o-mini

Option 2: Azure OpenAI/Foundry Tools-Bereitstellungen

Wenn Sie Bereitstellungen aus Ihren Azure OpenAI- oder Foundry Tools-Konten verwenden möchten, müssen Sie diese Ressourcen zunächst über Verbindungen mit Ihrem Foundry-Projekt verbinden.

Create a connection: Befolgen Sie die Anweisungen in Configure-Projektverbindungen, um Ihre Azure OpenAI- oder AI Services-Ressource mit Ihrem Foundry-Projekt zu verbinden.
Erhalten Sie den Namen der Verbindung: Nachdem Sie das Konto verbunden haben, sehen Sie die erstellte Verbindung mit einem generierten Namen in Ihrem Foundry-Projekt.
Konfigurieren Sie das Ziel: Verwenden Sie das Format "connectionName/deploymentName" für die Modellbereitstellungskonfiguration:

# Format: "connectionName/deploymentName"
model_deployment_name = "my-openai-connection/gpt-4o-mini"

Erstellen einer AI Red Teaming-Ausführung

Python
cURL

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from azure.ai.projects.models import (
    RedTeam,
    AzureOpenAIModelConfiguration,
    AttackStrategy,
    RiskCategory,
)

with AIProjectClient(
  endpoint=endpoint,
  credential=DefaultAzureCredential(exclude_interactive_browser_credential=False),
) as project_client:

  # Create target configuration for testing an Azure OpenAI model
  target_config = AzureOpenAIModelConfiguration(model_deployment_name=model_deployment_name)

  # Instantiate the AI Red Teaming Agent
  red_team_agent = RedTeam(
      attack_strategies=[AttackStrategy.BASE64],
      risk_categories=[RiskCategory.VIOLENCE],
      display_name="red-team-cloud-run", 
      target=target_config,
  )

  # Create and run the red teaming scan
  # If you configured target using Option 1, use:
  # headers = {"model-endpoint": model_endpoint, "api-key": model_api_key}
  # If you configured target using Option 2, use:
  # headers = {}

  # Choose one of the following based on your configuration option:
  headers = {"model-endpoint": model_endpoint, "api-key": model_api_key}  # For Option 1
  # headers = {}  # For Option 2

  red_team_response = project_client.red_teams.create(red_team=red_team_agent, headers=headers)

curl --request POST \  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs:run \  --header 'content-type: application/json' \  --header 'authorization: Bearer {{ai_token}}'  --data '{  "displayName": "Red Team Scan #1",  "riskCategories": [ "Violence" ],  "attackStrategy": [ "Flip" ],  "numTurns": 1,  "target": {    "type": "AzureOpenAIModel",    "modelDeploymentName": "{{connectionName}}/{{deploymentName}}"  }}'

Ersetzen Sie {{account}}, {{project}} durch Foundry-Projekt-Konto-Namen und Projekt-Namen.
Ersetzen Sie {{ai_token}} durch einen Bearer-Token mit der Zielgruppe "https://ai.azure.com"
Für Option 1 (Foundry-Projektbereitstellungen): Ersetzen Sie "{{connectionName}}/{{deploymentName}}" mit nur "{{deploymentName}}" (Ihr Modellbereitstellungsname).
Für Option 2 (Azure OpenAI/Foundry Tools-Bereitstellungen): Ersetzen Sie "{{connectionName}}" durch den Azure OpenAI-Modellverbindungsnamen, der mit dem Foundry-Projektkonto verbunden ist. Tauschen Sie außerdem "{{deploymentName}}" mit dem Azure OpenAI-Bereitstellungsnamen des Azure OpenAI-Verbindungskontos aus.

# Use the name returned by the create operation for the get call
get_red_team_response = project_client.red_teams.get(name=red_team_response.name)
print(f"Red Team scan status: {get_red_team_response.status}")

curl --request GET \  --header 'authorization: Bearer {{ai_token}}'  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs/{{scan_id}}

Ersetzen Sie "{{scan_id}}" mit der von der POST-API zurückgegebenen ID.

Auflisten aller AI Red Teaming-Ausführungen

Python
cURL

for scan in project_client.red_teams.list():
  print(f"Found scan: {scan.name}, Status: {scan.status}")

curl --request GET \  --header 'authorization: Bearer {{ai_token}}'  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs

Ergebnisse des KI-Red-Teaming im Microsoft Foundry-Projekt anzeigen (Vorschau)

Nachdem die automatische Überprüfung ausgeführt wurde, werden die Ergebnisse auch in Ihrem Foundry-Projekt protokolliert, das Sie bei der Erstellung Ihrer AI Red Teaming Agent-Instanz angegeben haben.

Bericht jeder Überprüfung anzeigen

Navigieren Sie in Ihrem Foundry-Projekt oder hubbasierten Projekt zur Seite "Auswertung ". Wählen Sie KI Red Teaming, um den Bericht mit detaillierten Drilldownergebnissen jedes Scans anzuzeigen.

Wenn Sie den Scan auswählen, können Sie den Bericht nach Risikokategorien anzeigen, die die Gesamtanzahl der erfolgreichen Angriffe und eine Aufschlüsselung der erfolgreichen Angriffe pro Risikokategorien anzeigen:

Oder durch Angriffskomplexitätsklassifizierung:

Ein Drilldown auf der Registerkarte „Daten“ bietet eine Übersicht auf Zeilenebene über jedes Angriff-Antwort-Paar. Diese Informationen bieten tiefere Einblicke in Systemprobleme und Verhaltensweisen. Für jedes Angriffsreaktionspaar können Sie weitere Informationen anzeigen, z. B. ob der Angriff erfolgreich war, welche Angriffsstrategie verwendet wurde, und deren Angriffskomplexität. Durch das Auswählen des Daumen-hoch oder Daumen-runter-Symbols kann ein Reviewer bzw. eine Reviewerin Feedback geben.

Um jede Unterhaltung anzuzeigen, wählen Sie "Mehr anzeigen" aus, um die vollständige Unterhaltung für eine detailliertere Analyse der Antwort des KI-Systems anzuzeigen.

Feedback

War diese Seite hilfreich?

Last updated on 2026-05-20