Uw omgeving instellen

AI Runtime biedt twee beheerde Python-omgevingen voor serverloze GPU-berekeningen: een minimale Standard-omgeving mettorch, cudaen torchvisionen een Databricks AI-omgeving die vooraf is geladen met PyTorch, Transformers en andere ML- en Deep Learning-frameworks. Kies de standaardomgeving voor volledige controle over uw afhankelijkheidsstack of de AI-omgeving voor een kant-en-klare trainingsinstallatie. U kunt ook beginnen vanuit een van beide omgevingen en pakketten toevoegen met %pip install.

Welke omgeving moet worden gebruikt

AI Runtime biedt twee beheerde Python omgevingen, de Standard-omgeving en de Databricks AI-omgeving.

U kunt ook een werkruimtebasisomgeving gebruiken die een werkruimtebeheerder heeft gebouwd voor serverloze GPU-rekenkracht. Zie Versie voor serverless GPU-computing (AI Runtime).

Standaardomgeving (minimale omgeving)

Een minimale, stabiele omgeving met alleen de vereiste pakketten voor AI Runtime-bewerking. De omgeving omvat cuda voor GPU-ondersteuning. Vanaf omgevingsversie 5 torch en torchvision zijn ze niet meer vooraf geïnstalleerd. Installeer de versies die uw workload nodig heeft met pip install. Zie de onderstaande releaseopmerkingen voor de pakketten die in elke omgevingsversie zijn geïnstalleerd.

Het beste voor: gebruikers die volledige controle willen over hun afhankelijkheidsstack en die liever alleen installeren wat ze nodig hebben.

Als u dit wilt selecteren: kies in het zijpaneel van de omgevingStandard v5 of Standard v4 als basisomgeving.

Zie de releaseopmerkingen voor meer informatie over pakketversies die in verschillende versies zijn geïnstalleerd:

• GPU-omgeving 5
• GPU-omgeving 4

Databricks AI-omgeving

Beschikbaar in omgeving 4 en hoger. De AI-omgeving is gebouwd boven op de Standard-omgeving met algemene runtimepakketten en -pakketten die specifiek zijn voor machine learning op GPU's. Vooraf geïnstalleerde pakketten zijn onder andere:

• PyTorch (met CUDA-ondersteuning)
• Transformers (Hugging Face)
• En aanvullende ML-/DL-afhankelijkheden

Het beste voor: ML-beoefenaars die een volledige omgeving willen voor trainingsworkloads, fine-tuning en experimenten zonder handmatig afhankelijkheidsbeheer.

Selecteren: Kies in het zijpaneel EnvironmentAI v5 of AI v4 als basisomgeving.

Zie de releaseopmerkingen voor meer informatie over pakketversies die in verschillende versies zijn geïnstalleerd:

• AI-omgeving 5
• AI-omgeving 4

Basisomgevingen voor werkruimten

Een werkruimtebeheerder kan een werkruimtebasisomgeving bouwen voor serverloze GPU-rekenkracht, waardoor deze beschikbaar is voor alle gebruikers in de werkruimte via de vervolgkeuzelijst Basisomgeving . Voor meer informatie, zie Bouwen voor serverless GPU-compute (AI Runtime).

U kunt uw Deep Learning-omgeving ook per project configureren door te beginnen vanuit een van de meegeleverde basisomgevingen (standaard of Databricks AI) en extra pakketten programmatisch te installeren met behulp %pip install van uw notebook of boven aan uw trainingsscript:

%pip install "trl==1.1.0"
%pip install "peft==0.19.1"
%pip install "transformers==5.5.4"
%pip install "fsspec==2024.9.0"
%pip install "huggingface_hub==1.11.0"
%pip install "datasets==3.2.0"
%pip install "accelerate==1.13.0"

Wanneer u de @distributed-decorator gebruikt voor multi-GPU-workloads, worden pakketten die met %pip install zijn geïnstalleerd voordat u .distributed() aanroept, automatisch vastgelegd in een momentopname en doorgegeven aan alle gedistribueerde processen. De totale grootte van geïnstalleerde pakketten mag niet groter zijn dan 15 GB.

Zie Afhankelijkheden toevoegen aan het notebook voor meer informatie.

Caching van omgevingen en aangepaste modules

Wanneer worden omgevingen in de cache opgeslagen?

Omgevingen worden in de cache opgeslagen in sessies om opstarttijden te versnellen. Wanneer u opnieuw verbinding maakt met AI Runtime met dezelfde omgevingsconfiguratie, zijn eerder geïnstalleerde pakketten mogelijk beschikbaar vanuit de cache, waardoor de installatietijd wordt verkort.

Cachegedrag is echter niet gegarandeerd, dus zorg er altijd voor dat uw notebook de benodigde %pip install opdrachten voor reproduceerbaarheid bevat.

Hoe importeer ik aangepaste modules?

U kunt aangepaste modules importeren door ze in /Workspace/Shared te plaatsen en het pad toe te voegen aan sys.path:

import sys
sys.path.append("/Workspace/Shared/my-project/src")
from my_module import my_function

U kunt modulebestanden ook uploaden als werkruimtebestanden en ze rechtstreeks importeren. Voor samenwerking met meerdere gebruikers slaat u gedeelde code op in /Workspace/Shared plaats van in gebruikersspecifieke mappen. Voor actieve ontwikkeling gebruikt u gebruikersspecifieke mappen en pusht u naar een externe Git-opslagplaats voor versiebeheer.

Beperkingen

De volgende mogelijkheden zijn niet beschikbaar in AI Runtime:

• Spark-functies: U kunt PySpark-functies niet rechtstreeks importeren of gebruiken. AI Runtime is een alleen Python-omgeving; Spark is niet beschikbaar als lokale runtime. Spark Connect is echter beschikbaar voor het laden van gegevens. Zie Gegevens laden in AI Runtime.
• Databricks Runtime ML-bibliotheken: vooraf geïnstalleerde pakketten zijn geen vervanging voor Databricks Runtime ML. Sommige ML-bibliotheken die beschikbaar zijn in Databricks Runtime ML, zijn mogelijk niet vooraf geïnstalleerd in AI Runtime.
• Privéartefacten: AI Runtime biedt in bepaalde gevallen ondersteuning voor privéartefacten. Neem contact op met uw accountteam voor meer informatie.