Skapa och distribuera en Azure OpenAI i resursen Microsoft Foundry Models (klassisk)

Förutsättningar

• En Azure-abonnemang. Skapa en kostnadsfritt.
• Åtkomstbehörigheter till skapa Azure OpenAI-resurser och distribuera modeller.

Skapa en resurs

Följande steg visar hur du skapar en Azure OpenAI-resurs i Azure-portalen.

Identifiera resursen

1. Logga in med din Azure-prenumeration i Azure-portalen.

2. Välj Skapa en resurs och sök efter Azure OpenAI. När du hittar tjänsten väljer du Skapa.

   

3. På sidan Skapa Azure OpenAI anger du följande information för fälten på fliken Basics:

   Fält	Description
   Subscription	Den Azure prenumeration som används i ditt Azure OpenAI-registreringsprogram.
   Resursgrupp	Den Azure resursgrupp som ska innehålla din Azure OpenAI-resurs. Du kan skapa en ny grupp eller använda en befintlig grupp.
   Region	Platsen för din instans. Olika platser kan ge latens, men de påverkar inte drifttillgängligheten för din resurs.
   Namn	Ett beskrivande namn för din Azure OpenAI-resurs, till exempel MyOpenAIResource.
   Prisnivå	Prisnivån för resursen. För närvarande är endast standardnivån tillgänglig för Azure OpenAI. Mer information om priser finns på prissidan Azure OpenAI

   

4. Klicka på Nästa.

Konfigurera nätverkssäkerhet

På fliken Nätverk visas tre alternativ för säkerhetstypen:

• Alternativ 1: Alla nätverk, inklusive Internet, kan access den här resursen.
• Alternativ 2: Valda nätverk, konfigurera nätverkssäkerhet för din Foundry Tools-resurs.
• Alternativ 3: Inaktiverad, inga nätverk kan nå den här resursen. Du kan konfigurera privata slutpunktsanslutningar som är det exklusiva sättet att nå den här resursen.

Beroende på vilket alternativ du väljer kan du behöva ange ytterligare information.

Alternativ 1: Tillåt alla nätverk

Det första alternativet gör att alla nätverk, inklusive Internet, kan access din resurs. Det här alternativet är standardinställningen. Inga extra inställningar krävs för det här alternativet.

Alternativ 2: Tillåt endast specifika nätverk

Med det andra alternativet kan du identifiera specifika nätverk som kan access din resurs. När du väljer det här alternativet uppdateras sidan så att följande obligatoriska fält inkluderas:

Avsnittet Brandvägg innehåller ett valfritt adressintervallfält som du kan använda för att konfigurera brandväggsinställningar för resursen.

Alternativ 3: Inaktivera nätverksåtkomst

Med det tredje alternativet kan du inaktivera nätverks access till din resurs. När du väljer det här alternativet uppdateras sidan så att den innehåller tabellen Privat slutpunkt .

Som ett alternativ kan du lägga till en privat slutpunkt för access till resursen. Välj Lägg till privat slutpunkt och slutför slutpunktskonfigurationen.

Bekräfta konfigurationen och skapa resursen

1. Välj Nästa och konfigurera eventuella taggar för resursen efter behov.

2. Välj Nästa för att gå vidare till det sista steget i processen: Granska + skicka.

3. Bekräfta konfigurationsinställningarna och välj Skapa.

4. Azure-portalen visar ett meddelande när den nya resursen är tillgänglig. Välj Gå till resurs.

   

Driftsätt en modell

Innan du kan generera text eller slutsatsdragning måste du distribuera en modell. Du kan välja från någon av flera tillgängliga modeller i Foundry-portalen.

Följ dessa steg för att distribuera en modell:

1. Logga in på Microsoft Foundry. Kontrollera att växlingsknappen New Foundry är inaktiverad. De här stegen refererar till Foundry (klassisk).

   

2. I avsnittet Fortsätt att skapa med Foundry väljer du Visa alla resurser.

3. Leta upp och välj din resurs.

   Viktigt!

   I det här steget kan du erbjudas att uppgradera din Azure OpenAI-resurs till Foundry. Se jämförelse mellan de två resurstyperna och information om resursuppgradering och återställning på den här sidan. Välj Avbryt för att fortsätta utan uppgradering av resurstyp. Alternativt väljer du Nästa.

   Mer information om Foundry-resursen finns i den här artikeln.

4. Välj Distributioner från avsnittet Delade resurser i den vänstra rutan. (Om du uppgraderade till Foundry i föregående steg väljer du Modeller + slutpunkter från avsnittet Mina tillgångar i den vänstra rutan.)

5. Välj + Distribuera modell>Distribuera basmodell för att öppna distributionsfönstret.

6. Välj önskad modell och välj sedan Bekräfta. För en lista över tillgängliga modeller per region, se Model summary table and region availability.

7. I nästa fönster konfigurerar du följande fält:

   Fält	Description
   Distributionsnamn	Välj ett namn noggrant. Distributionsnamnet används i koden för att anropa modellen med hjälp av klientbiblioteken och REST-API:erna.
   Distributionstyp	"Standard", "Global-Batch", "Global-Standard", "Provisioned-Managed". Läs mer om alternativ för distributionstyp.
   Distributionsinformation (valfritt)	Du kan ange valfria avancerade inställningar efter behov för din resurs. – För innehållsfiltret tilldelar du ett innehållsfilter till distributionen. – För begränsning för tokens per minut justerar du tokens per minut (TPM) för att ange den effektiva hastighetsgränsen för din implementering. Du kan ändra det här värdet när som helst genom att använda menyn Kvoter. Med dynamisk kvot kan du dra nytta av mer kvot när extra kapacitet är tillgänglig.

   Viktigt!

   När du kommer åt modellen via API:et måste du referera till distributionsnamnet i stället för det underliggande modellnamnet i API-anrop, vilket är en av de key skillnaderna mellan OpenAI och Azure OpenAI. OpenAI kräver endast modellnamnet. Azure OpenAI kräver alltid distributionsnamn, även när du använder modellparametern. I vår dokumentation har vi ofta exempel där distributionsnamn representeras som identiska med modellnamn för att ange vilken modell som fungerar med en viss API-slutpunkt. I slutändan kan dina distributionsnamn följa den namngivningskonvention som passar bäst för ditt användningsfall.

8. Välj Distribuera.

9. Distributionsinformation visar all information om den nya distributionen. När distributionen är klar ändras modelletableringstillståndet till Lyckades.

Förutsättningar

• En Azure-abonnemang. Skapa en kostnadsfritt.
• Åtkomstbehörigheter till skapa Azure OpenAI-resurser och distribuera modeller.
• Azure CLI. Mer information finns i Hur du installerar Azure CLI.

Logga in på Azure CLI

Sign in till Azure CLI eller välj Open Cloudshell i följande steg.

Skapa en Azure resursgrupp

Om du vill skapa en Azure OpenAI-resurs behöver du en Azure resursgrupp. När du skapar en ny resurs via Azure CLI kan du också skapa en ny resursgrupp eller instruera Azure att använda en befintlig grupp. I följande exempel visas hur du skapar en ny resursgrupp med namnet OAIResourceGroup med kommandot az group create. Resursgruppen skapas i East US.

az group create \
--name OAIResourceGroup \
--location eastus

Skapa en resurs

Använd kommandot az cognitiveservices account create för att skapa en Azure OpenAI-resurs i resursgruppen. I följande exempel skapar du en resurs med namnet MyOpenAIResource i resursgruppen OAIResourceGroup . När du provar exemplet uppdaterar du koden för att använda önskade värden för resursgruppen och resursnamnet, tillsammans med ditt Azure prenumerations-ID <subscriptionID>.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

Hämta information om resursen

När du har skapat resursen kan du använda olika kommandon för att hitta användbar information om din Azure OpenAI i Microsoft Foundry Models-instansen. Följande exempel visar hur du hämtar REST API-slutpunktsbas-URL:en och access nycklar för den nya resursen.

Hämta slutpunkts-URL:en

Använd kommandot az cognitiveservices account show för att hämta REST API-slutpunktsbas-URL:en för resursen. I det här exemplet dirigerar vi kommandoutdata via JSON-processorn jq för att hitta värdet .properties.endpoint.

När du provar exemplet uppdaterar du koden för att använda dina värden för resursgruppen myResourceGroupName<>

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Hämta den primära API-nyckeln

Om du vill hämta access nycklar för resursen använder du kommandot az cognitiveservices account keys list. I det här exemplet dirigerar vi kommandoutdata via JSON-processorn jq för att hitta värdet .key1.

När du provar exemplet uppdaterar du koden så att den använder dina värden för resursgruppen och resursen.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Driftsätt en modell

Om du vill distribuera en modell använder du kommandot az cognitiveservices account deployment create. I följande exempel distribuerar du en instans av gpt-4o modellen och ger den namnet MyModel. När du provar exemplet uppdaterar du koden så att den använder dina värden för resursgruppen och resursen. Du behöver inte ändra model-versionvärdena , model-format eller sku-capacityoch sku-name .

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name accepterar följande distributionstyper: Standard, GlobalBatch, GlobalStandardoch ProvisionedManaged. Läs mer om alternativ för distributionstyp.

Ta bort en modell från resursen

Du kan ta bort alla modeller som distribueras från resursen med kommandot az cognitiveservices account deployment delete. I följande exempel tar du bort en modell med namnet MyModel. När du provar exemplet uppdaterar du koden så att den använder dina värden för resursgruppen, resursen och den distribuerade modellen.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Ta bort en resurs

Om du vill rensa efter de här övningarna kan du ta bort din Azure OpenAI-resurs genom att ta bort resursen via Azure CLI. Du kan också ta bort resursgruppen. Om du väljer att ta bort resursgruppen tas även alla resurser som ingår i gruppen bort.

Om du vill ta bort resursgruppen och dess associerade resurser använder du kommandot az cognitiveservices account delete.

Om du inte kommer att fortsätta att använda resurserna som skapades i de här övningarna kör du följande kommando för att ta bort resursgruppen. Se till att uppdatera exempelkoden så att du använder dina värden för resursgruppen och resursen.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Förutsättningar

• En Azure-abonnemang. Skapa en kostnadsfritt.
• Azure PowerShell. Mer information finns i Hur du installerar Azure PowerShell.
• Åtkomstbehörigheter till skapa Azure OpenAI-resurser och distribuera modeller.

Logga in på Azure PowerShell

Logga in på Azure PowerShell eller välj Öppna Cloudshellet i följande steg.

Skapa en Azure resursgrupp

Om du vill skapa en Azure OpenAI-resurs behöver du en Azure resursgrupp. När du skapar en ny resurs via Azure PowerShell kan du också skapa en ny resursgrupp eller instruera Azure att använda en befintlig grupp. I följande exempel visas hur du skapar en ny resursgrupp med namnet OAIResourceGroup med kommandot New-AzResourceGroup . Resursgruppen skapas i East US.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Skapa en resurs

Använd kommandot New-AzCognitiveServicesAccount för att skapa en Azure OpenAI-resurs i resursgruppen. I följande exempel skapar du en resurs med namnet MyOpenAIResource i resursgruppen OAIResourceGroup . När du provar exemplet uppdaterar du koden för att använda önskade värden för resursgruppen och resursnamnet, tillsammans med ditt Azure prenumerations-ID <subscriptionID>.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Hämta information om resursen

När du har skapat resursen kan du använda olika kommandon för att hitta användbar information om din Azure OpenAI i Microsoft Foundry Models-instansen. Följande exempel visar hur du hämtar REST API-slutpunktsbas-URL:en och access nycklar för den nya resursen.

Hämta slutpunkts-URL:en

Använd kommandot Get-AzCognitiveServicesAccount för att hämta REST API-slutpunktsbas-URL:en för resursen. I det här exemplet dirigerar vi kommandots utdata via cmdleten Select-Object för att hitta endpoint värdet.

När du provar exemplet uppdaterar du koden för att använda dina värden för resursgruppen <myResourceGroupName> och resursen <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Hämta den primära API-nyckeln

Om du vill hämta access nycklar för resursen använder du kommandot Get-AzCognitiveServicesAccountKey. I det här exemplet dirigerar vi kommandots utdata via cmdleten Select-Object för att hitta Key1 värdet.

När du provar exemplet uppdaterar du koden så att den använder dina värden för resursgruppen och resursen.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Driftsätt en modell

Om du vill distribuera en modell använder du kommandot New-AzCognitiveServicesAccountDeployment . I följande exempel distribuerar du en instans av gpt-4o modellen och ger den namnet MyModel. När du provar exemplet uppdaterar du koden så att den använder dina värden för resursgruppen och resursen. Du behöver inte ändra model-versionvärdena , model-format eller sku-capacityoch sku-name .

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Egenskapen Name för variabeln $sku accepterar följande distributionstyper: Standard, GlobalBatch, GlobalStandardoch ProvisionedManaged. Läs mer om alternativ för distributionstyp.

Ta bort en modell från resursen

Du kan ta bort alla modeller som distribuerats från din resurs med kommandot Remove-AzCognitiveServicesAccountDeployment. I följande exempel tar du bort en modell med namnet MyModel. När du provar exemplet uppdaterar du koden så att den använder dina värden för resursgruppen, resursen och den distribuerade modellen.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Ta bort en resurs

Om du vill rensa efter de här övningarna kan du ta bort din Azure OpenAI-resurs genom att ta bort resursen via Azure PowerShell. Du kan också ta bort resursgruppen. Om du väljer att ta bort resursgruppen tas även alla resurser som ingår i gruppen bort.

Om du vill ta bort resursgruppen och dess associerade resurser använder du kommandot Remove-AzCognitiveServicesAccount .

Om du inte kommer att fortsätta att använda resurserna som skapades i de här övningarna kör du följande kommando för att ta bort resursgruppen. Se till att uppdatera exempelkoden så att du använder dina värden för resursgruppen och resursen.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup