Rapport met voorbeeld van flaky tests

Azure DevOps Services | Azure DevOps Server | Azure DevOps Server 2022

U kunt een rapport maken, zoals wordt weergegeven in de volgende afbeelding, waarin de flaky tests worden vermeld die plaatsvinden in pijplijnuitvoeringen die testtaken bevatten. Een flaky test is een test die verschillende resultaten biedt, zoals geslaagd of mislukt, zelfs als er geen wijzigingen in de broncode of uitvoeringsomgeving zijn. Zie Flaky-tests beheren voor meer informatie over het inschakelen van flaky tests. Zie de sectie Test taakresources verderop in dit artikel voor informatie over het toevoegen van tests aan een pijplijn.

Schermopname van het rapport Flaky Tests Table.

Gebruik de query's in dit artikel om de volgende rapporten te genereren:

  • Flaky tests voor de build-workflow
  • Flaky tests voor releaseproces
  • Flaky tests voor een bepaalde tak
  • Flaky tests voor een bepaald testbestand
  • Flaky tests voor een specifieke testeigenaar.

Notitie

Voor de voorbeeldqueries in dit artikel is v3.0-preview of hoger van de Analytics OData-feed vereist. Deel uw feedback.

Categorie Vereisten
Toegangsniveaus - Projectlid.
- Ten minste Basis toegang.
Toestemmingen Projectleden zijn standaard gemachtigd om query's uit te voeren op Analytics en weergaven te maken. Zie Machtigingen en vereisten voor toegang tot Analyse voor meer informatie over andere vereisten met betrekking tot het inschakelen van services en functies en algemene activiteiten voor het bijhouden van gegevens.

Notitie

In dit artikel wordt ervan uitgegaan dat u Overview van voorbeeldrapporten leest met behulp van OData-query's en basiskennis hebt van Power BI.

Voorbeeldqueries

U kunt de volgende query's van de TestResultsDaily entiteitsset gebruiken om verschillende, maar wel vergelijkbare flaky testrapporten van pijplijnen te maken. De TestResultsDaily entiteitsset biedt een dagelijkse momentopname van TestResult uitvoeringen, gegroepeerd op test.

Notitie

Raadpleeg de naslaginformatie Metadata reference for Test Plans Analytics en Metadata reference for Azure Pipelines voor beschikbare eigenschappen om te filteren of rapporteren. U kunt query's filteren of eigenschappen retourneren met behulp van een Property waarde die is gedefinieerd onder een EntityType, of een NavigationPropertyBinding Path waarde die wordt vermeld voor een EntitySet. Elke EntitySet wordt toegewezen aan een EntityType, waarmee het gegevenstype voor elke eigenschap wordt gedocumenteerd.

Flaky tests voor een Build-werkstroom

Gebruik de volgende query's om de flaky tests voor een build-werkstroompijplijn weer te geven.

Kopieer en plak de volgende Power BI query rechtstreeks in het venster Get Data>Blank Query. Zie Overzicht van voorbeeldrapporten met behulp van OData-query's voor meer informatie.

let
   Source = OData.Feed ("https://analytics.dev.azure.com/{organization}/{project}/_odata/v4.0-preview/TestResultsDaily?
$apply=filter("
                &"Pipeline/PipelineName eq '{pipelineName} "
                &"And Date/Date ge {startdate} "
                &"And Workflow eq 'Build') "
        &"/groupby((TestSK, Test/TestName), "
            &"aggregate( "
                &"ResultCount with sum as TotalCount, "
                &"ResultPassCount with sum as PassedCount, "
                &"ResultFailCount with sum as FailedCount, "
                &"ResultNotExecutedCount with sum as NotExecutedCount, "
                &"ResultNotImpactedCount with sum as NotImpactedCount, "
                &"ResultFlakyCount with sum as FlakyCount)) "
    &"/filter(FlakyCount gt 0) "
    &"/compute( "
    &"(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlaykRate) "
    ,null, [Implementation="2.0",OmitValues = ODataOmitValues.Nulls,ODataVersion = 4]) 
in
    Source

Flaky tests voor releasewerkstroom

Gebruik de volgende query's om de flaky tests voor een release pipeline weer te geven.

Kopieer en plak de volgende Power BI query rechtstreeks in het venster Get Data>Blank Query. Zie Overzicht van voorbeeldrapporten met behulp van OData-query's voor meer informatie.

let
   Source = OData.Feed ("https://analytics.dev.azure.com/{organization}/{project}/_odata/v4.0-preview/TestResultsDaily?
$apply=filter("
                &"Pipeline/PipelineName eq '{pipelineName}' "
                &"And Date/Date ge {startdate}) "
        &"/groupby((TestSK, Test/TestName, Workflow), "
        &"aggregate( "
                &"ResultCount with sum as TotalCount, "
                &"ResultPassCount with sum as PassedCount, "
                &"ResultFailCount with sum as FailedCount, "
                &"ResultNotExecutedCount with sum as NotExecutedCount, "
                &"ResultNotImpactedCount with sum as NotImpactedCount, "
                &"ResultFlakyCount with sum as FlakyCount)) "
        &"/filter(FlakyCount gt 0) "
    &"/compute( "
    &"(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlakyRate) "
    ,null, [Implementation="2.0",OmitValues = ODataOmitValues.Nulls,ODataVersion = 4]) 
in
    Source

Flaky tests gefilterd op branch

Gebruik de volgende query's om de mislukte tests van een pijplijn voor een bepaalde vertakking weer te geven. Voer de volgende extra stappen uit om het rapport te maken, samen met wat verderop in dit artikel wordt opgegeven.

  • Uitvouwen Branch tot Branch.BranchName.
  • Selecteer Power BI Visualisatieslicer en voeg het veld Branch.BranchName toe aan de slicer Veld.
  • Selecteer de naam van de branch in de slicer waarvoor u het resultaatoverzicht wilt bekijken.

Zie Licers in Power BI voor meer informatie over het gebruik van slicers.

Kopieer en plak de volgende Power BI query rechtstreeks in het venster Get Data>Blank Query. Zie Overzicht van voorbeeldrapporten met behulp van OData-query's voor meer informatie.

let
   Source = OData.Feed ("https://analytics.dev.azure.com/{organization}/{project}/_odata/v4.0-preview/TestResultsDaily?
$apply=filter("
                &"Pipeline/PipelineName eq '{pipelineName}' "
                &"And Date/Date ge {startdate} "
                &"And Workflow eq 'Build') "
        &"/groupby((TestSK, Test/TestName, Branch/BranchName), "
            &"aggregate( "
                &"ResultCount with sum as TotalCount, "
                &"ResultPassCount with sum as PassedCount, "
                &"ResultFailCount with sum as FailedCount, "
                &"ResultNotExecutedCount with sum as NotExecutedCount, "
                &"ResultNotImpactedCount with sum as NotImpactedCount, "
                &"ResultFlakyCount with sum as FlakyCount)) "
    &"/filter(FlakyCount gt 0) "
    &"/compute( "
    &"(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlakyRate) "
    ,null, [Implementation="2.0",OmitValues = ODataOmitValues.Nulls,ODataVersion = 4]) 
in
    Source

Flaky tests gefilterd per testbestand

Gebruik de volgende query's om de flaky tests voor een pijplijn en een bepaald testbestand weer te geven. Voer de volgende extra stappen uit om het rapport te maken, samen met wat verderop in dit artikel wordt gedefinieerd.

  • Uitvouwen Test tot Test.ContainerName.
  • Selecteer Power BI Visualisatieslicer en voeg het veld Test.ContainerName toe aan de slicer Veld.
  • Selecteer de containernaam in de slicer waarvoor u het resultaatoverzicht wilt bekijken.

Kopieer en plak de volgende Power BI query rechtstreeks in het venster Get Data>Blank Query. Zie Overzicht van voorbeeldrapporten met behulp van OData-query's voor meer informatie.

let
   Source = OData.Feed ("https://analytics.dev.azure.com/{organization}/{project}/_odata/v4.0-preview/TestResultsDaily?
$apply=filter("
                &"Pipeline/PipelineName eq '{pipelineName}' "
                &"And Date/Date ge {startdate}) "
        &"/groupby((TestSK, Test/TestName, Test/ContainerName), "
        &"aggregate( "
                &"ResultCount with sum as TotalCount, "
                &"ResultPassCount with sum as PassedCount, "
                &"ResultFailCount with sum as FailedCount, "
                &"ResultNotExecutedCount with sum as NotExecutedCount, "
                &"ResultNotImpactedCount with sum as NotImpactedCount, "
                &"ResultFlakyCount with sum as FlakyCount)) "
        &"/filter(FlakyCount gt 0) "
    &"/compute( "
    &"(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlakyRate) "
    ,null, [Implementation="2.0",OmitValues = ODataOmitValues.Nulls,ODataVersion = 4]) 
in
    Source

Flaky tests gefilterd door testeigenaar

Gebruik de volgende queries om de flaky tests weer te geven voor een pijplijn en tests die aan een bepaalde testverantwoordelijke toebehoren. Voer de volgende extra stappen uit om het rapport te maken, samen met wat verderop in dit artikel wordt gedefinieerd.

  • Uitvouwen Test tot Test.TestOwner.
  • Selecteer Power BI Visualisatieslicer en voeg het veld Test.TestOwner toe aan de slicer Veld.
  • Kies de eigenaar van de test in de slicer voor wie u het testresultaatoverzicht wilt zien.

Kopieer en plak de volgende Power BI query rechtstreeks in het venster Get Data>Blank Query. Zie Overzicht van voorbeeldrapporten met behulp van OData-query's voor meer informatie.

let
   Source = OData.Feed ("https://analytics.dev.azure.com/{organization}/{project}/_odata/v4.0-preview/TestResultsDaily?
$apply=filter("
                &"Pipeline/PipelineName eq '{pipelineName}' "
                &"And Date/Date ge {startdate}) "
        &"/groupby((TestSK, Test/TestName, Test/TestOwner), "
        &"aggregate( "
                &"ResultCount with sum as TotalCount, "
                &"ResultPassCount with sum as PassedCount, "
                &"ResultFailCount with sum as FailedCount, "
                &"ResultNotExecutedCount with sum as NotExecutedCount, "
                &"ResultNotImpactedCount with sum as NotImpactedCount, "
                &"ResultFlakyCount with sum as FlakyCount)) "
        &"/filter(FlakyCount gt 0) "
    &"/compute( "
    &"(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlakyRate) "
    ,null, [Implementation="2.0",OmitValues = ODataOmitValues.Nulls,ODataVersion = 4]) 
in
    Source

Vervanging van tekenreeksen en uitsplitsing van query's

Vervang de volgende tekenreeksen door uw waarden. Voeg de accolades {} niet toe in uw vervanging. Als de naam van uw organisatie bijvoorbeeld Fabrikam is, vervangt u deze {organization}door Fabrikam , niet {Fabrikam}.

 

  • {organization} - Naam van uw organisatie.
  • {project} - De naam van uw teamproject.
  • {pipelinename} - De naam van uw pijplijn. Voorbeeld: Fabrikam hourly build pipeline
  • {startdate} - De datum waarop het rapport moet worden gestart. Formaat: JJJJ-MM-DDZ. Voorbeeld: 2021-09-01Z vertegenwoordigt 1 september 2021. Plaats geen aanhalingstekens of vierkante haken en gebruik twee cijfers voor zowel maand als datum.

Uitsplitsing van query's

In de volgende tabel wordt elk deel van de query beschreven.

Onderdeel van de query

Beschrijving

$apply=filter(

Begin clausule filter() .

Pipeline/PipelineName eq '{pipelineName}'

Geef testuitvoeringen terug voor de opgegeven pijplijn.

and CompletedOn/Date ge {startdate}

Retourtest wordt uitgevoerd op of na de opgegeven datum.

and Workflow eq 'Build'

Retourneer testruns voor een Build werkstroom.

)

Sluit filter() clausule.

/groupby(

Begin clausule groupby() .

(TestSK, Test/TestName),

Groepeer op de testnaam.

aggregate(

Begin de aggregate clausule om de testuitvoeringen te berekenen die overeenkomen met de filtercriteria.

ResultCount with sum as TotalCount,

Tel het totale aantal testuitvoeringen als TotalCount.

ResultPassCount with sum as PassedCount,

Tel het totale aantal geslaagde testuitvoeringen als PassedCount.

ResultFailCount with sum as FailedCount,

Tel het totale aantal mislukte testuitvoeringen als FailedCount.

ResultNotExecutedCount with sum as NotExecutedCount

Tel het totale aantal niet uitgevoerde tests als NotExecutedCount.

ResultNotImpactedCount with sum as NotImpactedCount,

Tel het totale aantal niet beïnvloedde testuitvoeringen als NotImpactedCount.

ResultFlakyCount with sum as FlakyCount

Tel het totale aantal onstabiele testuitvoeringen als FlakyCount.

))

Sluit aggregate() en groupby() clausules.

/filter(FlakyCount gt 0)

Filter alleen de tests die ten minste één keer flaky waren.

/compute(

Begin clausule compute() .

(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlakyRate

Voor alle flaky tests berekent u de FlakyRate.

)

Sluit compute() clausule.

(Optioneel) Naam van query wijzigen

U kunt de naam van het standaardquerylabel Query1 wijzigen in iets zinvoller. Voer een nieuwe naam in het deelvenster Queryinstellingen in.

Schermopname van Power BI querymenuopties, naam van query wijzigen.

Vouw de kolom Test uit in Power BI

Vouw de Test kolom uit om de uitgevouwen entiteit Test.TestNameweer te geven. Als u de kolom uitbreidt, wordt de record platgemaakt in specifieke velden. Zie Transform Analytics-gegevens om Power BI rapporten te genereren, kolommen uitvouwen voor meer informatie.

Kolomgegevenstype wijzigen

  1. Selecteer in de Power Query Editor de kolommen TotalCount, PassedCount, FailedCount, NotExecutedCount, NotImpactedCount en FlakyCount. Selecteer Gegevenstype in het menu Transformeren en kies Vervolgens Geheel getal.

  2. Selecteer de FlakyRate kolom. Selecteer Gegevenstype in het menu Transformeren en kies vervolgens Decimaal getal.

Zie Transform Analytics-gegevens om Power BI rapporten te genereren, een kolomgegevenstype transformeren voor meer informatie over het wijzigen van het gegevenstype.

Sluit de query en pas uw wijzigingen toe

Wanneer u alle gegevenstransformaties hebt voltooid, selecteert u Sluiten en toepassen in het menu Start . Met deze actie wordt de query opgeslagen en wordt u geretourneerd naar het tabblad Rapport in Power BI.

Schermopname van Power Query Editor optie Sluiten en toepassen.

Het tabelrapport maken

  1. Selecteer in Power BI onder VisualizationsTable. Sleep de velden naar het gebied Kolommen en zet deze neer.

    Schermopname van selecties van visualisatievelden voor tabelrapport Flaky-tests.

  2. Voeg de volgende velden toe aan de sectie Kolommen in de vermelde volgorde.

    • Test.TestName
    • TotalCount
    • PassedCount
    • FailedCount
    • FlakyCount
    • FlakyRate

Uw rapport moet er ongeveer uitzien als in de volgende afbeelding.

Schermopname van een rapport met een tabel van voorbeeld flaky tests.

Taakbronnen testen

  • Last updated on