Daten, Datenschutz und Sicherheit für die Verwendung von Modellen über den Modellkatalog

Dieser Artikel enthält Details dazu, wie Daten verarbeitet, verwendet und gespeichert werden, wenn Sie Modelle aus dem Modellkatalog bereitstellen. Siehe auch den Microsoft Produkt- und Dienstdatenschutz-Zusatz, der die Datenverarbeitung durch Azure Dienste regelt.

Welche Daten werden für Modelle verarbeitet, die in Azure Machine Learning bereitgestellt werden?

Wenn Sie Modelle in Azure Machine Learning bereitstellen, verarbeitet der Dienst die folgenden Datentypen, um den Dienst bereitzustellen:

• Eingabeaufforderungen und generierten Inhalt. Sie übermitteln Eingabeaufforderungen, und das Modell generiert Inhalte (Ausgabe) über die unterstützten Vorgänge. Eingabeaufforderungen können Inhalte enthalten, die Sie über Retrieval-Augmented Generation (RAG), Metaprompts oder andere Funktionalitäten in einer Anwendung hinzufügen.

• Hochgeladene Daten. Bei Modellen, die die Feinabstimmung unterstützen, können Sie Ihre Daten in den Azure Machine Learning Datastore zur Verwendung in Feinabstimmung hochladen.

Generieren von Schlussfolgerungsergebnissen mit verwalteten Rechenressourcen

Wenn Sie Modelle auf verwalteten Compute-Ressourcen bereitstellen, werden die Modellgewichtungen auf dedizierten virtuellen Maschinen implementiert und eine REST-API für Echtzeitrückschlüsse verfügbar gemacht. Weitere Informationen finden Sie unter Bereitstellen von Modellen aus dem Modellkatalog zur verwalteten Berechnung. Sie verwalten die Infrastruktur für diese verwalteten Rechner, und die Daten-, Datenschutz- und Sicherheitsverpflichtungen von Azure gelten. Weitere Informationen finden Sie unter Azure Complianceangebote die für Azure Machine Learning gelten.

Container für "Modelle, die direkt von Azure verkauft werden" werden zwar auf Sicherheitsrisiken überprüft, die Daten exfiltrieren könnten, aber nicht alle modelle, die über den Modellkatalog verfügbar sind, werden gescannt. Um das Risiko der Datenexfiltration zu verringern, können Sie Ihre Bereitstellung mithilfe virtueller Netzwerke schützen. Weitere Informationen finden Sie im Netzwerkisolationsmodellkatalog. Sie können auch Azure Policy verwenden, um die Modelle zu regeln, die Ihre Benutzer bereitstellen können.

Rückschlussausgaben mit Standardbereitstellungen generieren

Wenn Sie ein Modell aus dem Modellkatalog (Basis oder Feinabstimmung) als Standardbereitstellung für die Ableitung bereitstellen, erhalten Sie eine API, die Ihnen Zugriff auf das vom Azure Machine Learning-Dienst gehostete und verwaltete Modell ermöglicht. Weitere Informationen finden Sie unter Models-as-a-Service. Das Modell verarbeitet Ihre Eingabeaufforderungen und generiert Ausgaben basierend auf der Funktionalität des Modells, wie in den Modelldetails für das Modell beschrieben. Während das Modell vom Modellanbieter bereitgestellt wird und Ihre Verwendung des Modells (und der Verantwortlichkeit des Modellanbieters für das Modell und seine Ausgaben) den Lizenzbedingungen des Modells unterliegt, Microsoft die Hostinginfrastruktur und den API-Endpunkt bereitstellt und verwaltet. Die in Models-as-a-Service gehosteten Modelle unterliegen den Daten-, Datenschutz- und Sicherheitsverpflichtungen von Azure. Weitere Informationen zu Azure Complianceangeboten für Azure Machine Learning finden Sie unter here.

Microsoft fungiert als Datenprozessor für Prompts und Ausgaben, die an ein für eine Standardbereitstellung bereitgestelltes Modell gesendet bzw. von diesem generiert werden. Microsoft gibt diese Eingabeaufforderungen und Ausgaben nicht an den Modellanbieter weiter, und Microsoft verwendet diese Eingabeaufforderungen und Ausgaben nicht, um die Modelle von Microsoft, dem Modellanbieter oder einem Dritten zu trainieren oder zu verbessern. Modelle sind zustandslos, und es werden keine Eingabeaufforderungen oder Ausgaben im Modell gespeichert. Wenn die Inhaltsfilterung (Vorschau) aktiviert ist, überprüft der Azure KI Inhaltssicherheit-Dienst in Echtzeit sowohl Eingaben als auch Ausgaben auf bestimmte Kategorien schädlicher Inhalte. Weitere Informationen darüber, wie Azure KI Inhaltssicherheit Daten verarbeitet, finden Sie hier. Eingabeaufforderungen und Ausgaben werden innerhalb der während der Bereitstellung angegebenen Geografie verarbeitet, können jedoch aus betrieblichen Gründen (einschließlich Leistung und Kapazitätsverwaltung) zwischen Regionen innerhalb der Geografie verarbeitet werden.

Wie während des Bereitstellungsprozesses für Models-as-a-Service erläutert, können Microsoft Kundenkontaktinformationen und Transaktionsdetails (einschließlich des nutzungsvolumens, das dem Angebot zugeordnet ist) mit dem Modellherausgeber teilen, damit sie sich an Kunden bezüglich des Modells wenden können. Für weitere Informationen darüber, welche Daten Modellherausgebern zur Verfügung stehen, besuchen Sie diesen Link.

Modell mit Standardbereitstellungen fein abstimmen (Models-as-a-Service)

Wenn ein Modell, das für die Standardbereitstellung zur Verfügung steht, eine Feinabstimmung unterstützt, können Sie Daten in einen Azure Machine Learning Datenspeicher hochladen oder vorhandene Daten im Azure Machine Learning Datenspeicher festlegen, um das Modell feinabzustimmen. Anschließend können Sie eine Standardbereitstellung für das fein abgestimmte Modell erstellen. Sie können das fein abgestimmte Modell nicht herunterladen, aber es:

• Steht ausschließlich für Ihre Nutzung zur Verfügung;

• Kann im Ruhezustand doppelt verschlüsselt werden (standardmäßig mit der AES-256-Verschlüsselung von Microsoft und optional mit einem vom Kunden verwalteten Schlüssel).

• Kann jederzeit von Ihnen gelöscht werden.

Für die Feinjustierung hochgeladene Schulungsdaten werden nicht verwendet, um Microsoft- oder Drittanbietermodelle zu trainieren, neu zu trainieren oder zu verbessern, es sei denn, dass dies von Ihnen innerhalb des Dienstes initiiert wird.

Datenverarbeitung für heruntergeladene Modelle

Wenn Sie ein Modell aus dem Modellkatalog herunterladen, wählen Sie aus, wo das Modell bereitgestellt werden soll, und Sie sind für die Verarbeitung von Daten verantwortlich, wenn Sie das Modell verwenden.

Nächste Schritte

• Modellkatalog (Übersicht)