Serverlös GPU-miljö version 5 (förhandsversion)

På den här sidan beskrivs systemmiljöinformationen för serverlös GPU-miljö version 5. Det här beräkningserbjudandet är en del av AI Runtime, som är utformat för moderna AI- och djupinlärningsarbetsbelastningar.

Serverlös GPU-miljö 5 bygger på serverlös miljö 5 (CPU). Upptäck nyheterna i serverlös miljö 5 (CPU). Den innehåller följande miljö:

• Standardbasmiljö: en minimal miljö med stabilt klient-API.
• Databricks AI-miljö: en miljö med vanliga körningspaket och paket som är specifika för maskininlärning på GPU:er.

För att säkerställa kompatibilitet för programmet använder serverlösa GPU-arbetsbelastningar ett versions-API, som kallas miljöversion, som förblir kompatibel med nyare serverversioner.

Du kan välja en basmiljö som innehåller den här miljöversionen med hjälp av sidopanelen Miljö i dina serverlösa notebookar. Se Interaktiva (Notebooks).

Nya funktioner och förbättringar

I version 5 tillhandahåller Databricks en minimal miljö som endast stöder serverlöst GPU-API, Databricks-beroenden och MLflow. Användarna kan anpassa miljön efter sina behov. Standardbasmiljön i version 5 innehåller inte vissa paket som finns i CPU-miljön för att ge en minimal funktionell GPU-miljö. Användare som vill ha en fullständig miljö med omfattande AI-bibliotek bör använda Databricks AI-miljön.

Snabbare paketinstallationer med %uv pip

7 maj 2026

Nu kan du använda kommandot magic %uv pip i serverlösa notebookar som ett snabbare alternativ till %pip för pakethantering i Python. %uv pip drivs av uv-pakethanteraren och delar samma virtuella notebook-miljö som %pip. Se Snabbare installationer med %uv pip.

API-uppdateringar

11 maj 2026

Serverlös GPU-Python-API uppgraderad till 0.5.17

Serverlös GPU Python API 0.5.17 innehåller följande API-uppdateringar:

• Felkorrigeringar:
  • API:et återgår nu till beräkningen på begäran när GPU-poolalternativen inte är tillgängliga, vilket förhindrar arbetsbelastningsfel under tjänstavbrott.
  • Fel vid skapande av arbetsbelastning innehåller nu hela svarstexten från servern för snabbare felsökning.
  • Förbättrade felmeddelanden för felaktig användning av dekoratören @distributed.
  • Kapslade MLflow-körningar vid @distributed(remote=False) lokal körning stöds nu. Om du kör i en aktiv MLflow-körning skapas nu en kapslad underordnad körning i stället för att avsluta den befintliga överordnade körningen.
• Nya funktioner:
  • Renare lokala loggar: Som standard ignoreras loggar på informationsnivå för systemmått under lokal körning för att minska loggbruset.

den 24 april 2026

Serverlös GPU-Python API uppgraderad till 0.5.16

Den serverlösa GPU-Python API 0.5.16 innehåller följande API-uppdateringar:

• Nya funktioner:
  • Lade till UCVolumeDataset, en Torch IterableDataset som strömmar filer från en FUSE-monterad volym av Unity Catalog. Fillistor partitioneras automatiskt mellan distribuerade nivåer och DataLoader-processer så att varje (rank, worker) par får en icke-överlappande del.
  • Det serverlösa GPU-API:et stöder nu acceleratortypen 1xH100 för single-H100-arbetsbelastningar.
  • Minskat loggbrus från PySpark och Py4J under lokal körning. Loggkatalogmeddelandet loggas nu på felsökningsnivå i stället för att skrivas ut.

den 14 april 2026

Serverlös GPU-Python API uppgraderad till 0.5.15

Serverlös GPU Python API 0.5.15 innehåller följande API-uppdateringar:

• Nya funktioner:
  • Loggspridning har lagts till i MLflow för lokala serverlösa GPU-API-körningar. Träningsloggar från lokala körningar laddas nu upp automatiskt till MLflow.
• Felkorrigeringar:
  • När PyTorch inte är installerat, indikerar felmeddelandet nu korrekt att Standard v5-grundmiljön inte inkluderar PyTorch.
• Säkerhet:
  • Fäst alla Python beroendeversioner på exakta versioner för att förhindra leveranskedjeattacker från nyligen publicerade versioner av skadliga paket.

den 17 mars 2026

Serverlös GPU-Python API uppgraderad till 0.5.14

Den serverlösa GPU-Python API 0.5.14 innehåller följande API-uppdateringar:

• Felkorrigeringar:
  • Åtgärdade ett problem där det serverlösa GPU-API:et misslyckades på kontrollplan utan MAPI tillgängligt. API:et återgår nu korrekt till beräkningen på begäran när MAPI inte kan nås.

2 mars 2026

Serverlös GPU-Python API uppgraderad till 0.5.13

Serverlös GPU-Python API 0.5.13 innehåller följande API-uppdateringar:

• Felkorrigeringar:
  • Åtgärdade problemet med att parsa Azure A10 GPU-enhetsnamn i lokalt läge. API:et hanterar nu Azure-specifika format som "A10-24Q".
  • Ett problem har åtgärdats där den aktiva MLflow-körningen inte stängdes efter att den lokala körningen har slutförts.
  • MLflow-loggströmningskompatibilitet med MLflow 3.x har åtgärdats. En ändring i nedladdningssökvägen för artefakter i MLflow 3.x orsakade avbrott i loggströmningen. Loggströmning fungerar nu korrekt med både MLflow 2.x och 3.x.
  • Ett problem som gjorde att träningskörningar låser sig har åtgärdats. Synkroniseringsfunktionen för korsrankning av MLflow-status som introducerades i en tidigare version har återställts.

Paket som lagts till i Databricks AI-miljö

Följande nya paket har lagts till i Databricks AI-miljön i version 5:

• catboost 1.2.8
• trl 0.23.0
• unsloth 2025.11.3
• vllm 0.13.0
• omegaconf 2.3.0
• statsmodels 0.14.4
• networkx 3.4.2

Paket som tagits bort från Databricks AI-miljö

Följande paket har tagits bort från Databricks AI-miljön i version 5:

• spacy
• sentencepiece

Paket som inte ingår i basmiljön

Följande paket ingår inte i basmiljön men är fortfarande tillgängliga i CPU-miljön:

• scipy
• seaborn
• scikit-learn

Följande paket ingår inte i basmiljön men förblir tillgängliga i Databricks AI-miljön:

• flash-attention
• torch
• torchvision

Baserat på kundfeedback som begär kontroll över PyTorch-versionshantering torch ingår inte i basmiljön för version 5. På så sätt kan du installera den version som passar bäst för din arbetsbelastning. Om du vill använda en Databricks-testad version, kör %pip install torch==2.9.0 i en notebook-cell eller installera torch==2.9.0 med hjälp av avsnittet Beroenden i sidopanelen Miljö.

Systemmiljö

• operativsystem: Ubuntu 24.04.2 LTS
• Python: 3.12.3
• Databricks Connect: 18.0.0
• NVIDIA CUDA Toolkit: 12.9

Installerade Python-bibliotek

Standardbasmiljö

Om du vill återskapa en serverlös GPU-miljö 5 i din lokala virtuella Python-miljö laddar du ned filenrequirements-env-gpu-5.txt och kör pip install -r requirements-env-gpu-5.txt. Det här kommandot installerar alla bibliotek med öppen källkod från serverlös miljö 5.

AI-miljö

AI-miljön innehåller alla paket från standardbasmiljön samt följande paket. Den här miljön innehåller PyTorch och omfattande maskininlärningsbibliotek:

• torch 2.9.0
• torchvision 0.24.0
• flash_attn 2.8.3
• catboost 1.2.8
• langchain 0.3.27
• lightgbm 4.6.0
• openai 2.7.0
• optuna 4.5.0
• pytorch-lightning 2.5.4
• ray 2.51.1
• scikit-learn 1.6.1
• scipy 1.15.3
• seaborn 0.13.2
• sentence-transformers 5.1.2
• transformers 4.57.1
• trl 0.23.0
• unsloth 2025.11.3
• vllm 0.13.0
• xgboost 3.0.4

Om du vill återskapa AI-miljön V5 i din lokala virtuella Python-miljö laddar du ned filenrequirements-ai-gpu-5.txt och kör pip install -r requirements-ai-gpu-5.txt. Det här kommandot installerar alla bibliotek med öppen källkod från AI-miljön.