Serverlose GPU-Umgebung, Version 5 (Vorschau)

Auf dieser Seite werden die Systemumgebungsinformationen für serverlose GPU-Umgebung, Version 5, beschrieben. Dieses Computeangebot ist Teil der KI-Runtime, die für moderne KI- und Deep Learning-Workloads konzipiert ist.

Serverlose GPU-Umgebung 5 basiert auf serverloser Umgebung 5 (CPU). Schauen Sie sich die Neuerungen in serverloser Umgebung 5 (CPU) an. Sie enthält die folgende Umgebung:

• Standardbasisumgebung: eine minimale Umgebung mit stabiler Client-API.
• Databricks AI-Umgebung: eine Umgebung mit allgemeinen Laufzeitpaketen und Paketen speziell für maschinelles Lernen auf GPUs.

Um die Kompatibilität für die Anwendung sicherzustellen, verwenden Serverlose GPU-Workloads eine versionslose API, die als Umgebungsversion bezeichnet wird, die mit neueren Serverversionen kompatibel bleibt.

Sie können eine Basisumgebung auswählen, die diese Umgebungsversion enthält, indem Sie den Seitenbereich " Umgebung " in Ihren serverlosen Notizbüchern verwenden. Siehe Interaktive (Notizbücher).

Neue Features und Verbesserungen

In Version 5 stellt Databricks eine minimale Umgebung bereit, die nur serverlose GPU-API, die Databricks-Abhängigkeiten und MLflow unterstützt. Benutzer können die Umgebung an ihre Anforderungen anpassen. Die Standardbasisumgebung in Version 5 enthält keine bestimmten Pakete, die in der CPU-Umgebung vorhanden sind, um eine minimale funktionale GPU-Umgebung bereitzustellen. Benutzer, die eine vollständige Umgebung mit umfassenden KI-Bibliotheken wünschen, sollten die Databricks AI-Umgebung verwenden.

Schnellere Paketinstallationen mit %uv pip

7. Mai 2026

Sie können jetzt den %uv pip magischen Befehl in serverlosen Notizbüchern als schnellere Alternative zu %pip für Python Paketverwaltung verwenden. %uv pip basiert auf dem Paketmanager uv und verwendet dieselbe virtuelle Notebook-Umgebung wie %pip. Siehe schnellere Installationen mit %uv pip.

API-Aktualisierungen

11. Mai 2026

Serverlose GPU-Python-API wurde auf 0.5.17 aktualisiert

Die Serverless GPU Python API 0.5.17 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Die API greift jetzt auf On-Demand-Rechenressourcen zurück, wenn GPU-Pool-Optionen nicht verfügbar sind, und verhindert so Workload-Ausfälle während Serviceunterbrechungen.
  • Fehler bei der Erstellung von Workloads enthalten jetzt den vollständigen Antworttext des Servers zur schnelleren Fehlerbehebung.
  • Verbesserte Fehlermeldung für die falsche Verwendung des @distributed-Dekorators.
  • Verschachtelte MLflow-Ausführungen werden jetzt bei der lokalen Ausführung in @distributed(remote=False) unterstützt. Die Ausführung innerhalb eines aktiven MLflow-Laufs erstellt jetzt einen verschachtelten untergeordneten Lauf, anstatt den vorhandenen übergeordneten Lauf zu beenden.
• Neue Features:
  • Übersichtlichere lokale Protokolle: Standardmäßig werden Info-Logs zu Systemmetriken bei lokaler Ausführung unterdrückt, um das Protokollrauschen zu reduzieren.

24. April 2026

Serverlose GPU-Python-API wurde auf 0.5.16 aktualisiert

Die Serverless GPU Python API 0.5.16 enthält die folgenden API-Updates:

• Neue Features:
  • Hinzugefügt UCVolumeDataset, ein Torch IterableDataset, das Dateien von einem Unity Catalog FUSE-eingebundenen Volume streamt. Dateilisten werden automatisch über verteilte Ränge und DataLoader-Worker partitioniert, sodass jedes (rank, worker) Paar einen nicht überlappenden Datenschnitt erhält.
  • Die Serverless GPU API unterstützt jetzt den 1xH100-Beschleunigertyp für Single-H100-Workloads.
  • Reduziertes Protokollrauschen von PySpark und Py4J während der lokalen Ausführung. Die Nachricht des Protokollverzeichnisses wird jetzt auf Debug-Level protokolliert, statt gedruckt zu werden.

14. April 2026

Serverlose GPU-Python-API wurde auf 0.5.15 aktualisiert

Die Serverless GPU Python API 0.5.15 enthält die folgenden API-Updates:

• Neue Features:
  • Die Protokollweiterleitung in MLflow wurde für lokale serverlose GPU-API-Abläufe hinzugefügt. Schulungsprotokolle aus lokalen Läufen werden jetzt automatisch in MLflow hochgeladen.
• Fehlerbehebungen:
  • Wenn PyTorch nicht installiert ist, weist die Fehlermeldung jetzt richtig darauf hin, dass die Standard v5-Basisumgebung keine Taschenlampe enthält.
• Sicherheit:
  • Alle Python-Abhängigkeitsversionen wurden auf exakte Versionsnummern festgelegt, um Lieferkettenangriffe durch neu veröffentlichte schadhafte Paketversionen zu verhindern.

17. März 2026

Serverlose GPU-Python-API wurde auf 0.5.14 aktualisiert

Die Serverless GPU Python API 0.5.14 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Es wurde ein Problem behoben, bei dem die SERVERless GPU-API auf Steuerungsebenen ohne MAPI nicht verfügbar war. Die API greift jetzt ordnungsgemäß auf die On-Demand-Berechnung zurück, wenn MAPI nicht erreichbar ist.

2. März 2026

Serverlose GPU-Python-API wurde auf 0.5.13 aktualisiert

Die Serverless GPU Python API 0.5.13 enthält die folgenden API-Updates:

• Fehlerbehebungen:
  • Das Parsen der Azure A10 GPU-Gerätenamen im lokalen Modus wurde korrigiert. Die API behandelt jetzt Azure spezifischen Formate wie "A10-24Q".
  • Es wurde ein Problem behoben, bei dem die aktive MLflow-Ausführung nach Abschluss der lokalen Ausführung nicht geschlossen wurde.
  • Das Problem der Kompatibilität des MLflow-Protokollstreamings mit MLflow 3.x wurde behoben. Eine Änderung des Verhaltens des Artefaktdownloadpfads in MLflow 3.x führte dazu, dass das Log-Streaming unterbrochen wurde. Das Protokollstreaming funktioniert jetzt ordnungsgemäß mit MLflow 2.x und 3.x.
  • Ein Problem wurde behoben, das dazu führte, dass die Trainingsläufe hängen bleiben. Das in einer früheren Version eingeführte MLflow-Statussynchronisierungsfeature für Rangstufen wurde zurückgesetzt.

Pakete, die zur Ki-Umgebung von Databricks hinzugefügt wurden

Die folgenden neuen Pakete wurden der Databricks AI-Umgebung in Version 5 hinzugefügt:

• catboost 1.2.8
• trl 0.23.0
• unsloth 2025.11.3
• vllm 0.13.0
• omegaconf 2.3.0
• statsmodels 0.14.4
• networkx 3.4.2

Pakete, die aus databricks AI-Umgebung entfernt wurden

Die folgenden Pakete wurden aus der Databricks AI-Umgebung in Version 5 entfernt:

• spacy
• sentencepiece

Pakete, die nicht in der Basisumgebung enthalten sind

Die folgenden Pakete sind nicht in der Basisumgebung enthalten, bleiben aber in der CPU-Umgebung verfügbar:

• scipy
• seaborn
• scikit-learn

Die folgenden Pakete sind nicht in der Basisumgebung enthalten, bleiben aber in der Databricks AI-Umgebung verfügbar:

• flash-attention
• torch
• torchvision

Basierend auf dem Kundenfeedback, das Kontrolle über die PyTorch-Versionierung wünscht, ist torch in der Basisumgebung in Version 5 nicht enthalten. Auf diese Weise können Sie die Version installieren, die am besten zu Ihrer Workload passt. Wenn Sie eine von Databricks getestete Version verwenden möchten, führen Sie %pip install torch==2.9.0 sie in einer Notizbuchzelle aus, oder installieren torch==2.9.0 Sie sie mithilfe des Abschnitts "Abhängigkeiten" des Seitenbereichs "Umgebung ".

Systemumgebung

• Betriebssystem: Ubuntu 24.04.2 LTS
• Python: 3.12.3
• Databricks Connect: 18.0.0
• NVIDIA CUDA Toolkit: 12.9

Installierte Python-Bibliotheken

Standardbasisumgebung

Um serverlose GPU-Umgebung 5 in Ihrer lokalen virtuellen Python-Umgebung zu reproduzieren, laden Sie die requirements-env-gpu-5.txt Datei herunter, und führen Sie sie aus pip install -r requirements-env-gpu-5.txt. Mit diesem Befehl werden alle Open Source-Bibliotheken aus serverloser Umgebung 5 installiert.

KI-Umgebung

Die KI-Umgebung enthält alle Pakete aus der Standardbasisumgebung sowie die folgenden Pakete. Diese Umgebung umfasst PyTorch und umfassende Machine Learning-Bibliotheken:

• torch 2.9.0
• torchvision 0.24.0
• flash_attn 2.8.3
• catboost 1.2.8
• langchain 0.3.27
• lightgbm 4.6.0
• openai 2.7.0
• optuna 4.5.0
• pytorch-lightning 2.5.4
• ray 2.51.1
• scikit-learn 1.6.1
• scipy 1.15.3
• seaborn 0.13.2
• sentence-transformers 5.1.2
• transformers 4.57.1
• trl 0.23.0
• unsloth 2025.11.3
• vllm 0.13.0
• xgboost 3.0.4

Um die KI-Umgebung V5 in Ihrer lokalen virtuellen Python-Umgebung zu reproduzieren, laden Sie die requirements-ai-gpu-5.txt Datei herunter, und führen Sie sie aus pip install -r requirements-ai-gpu-5.txt. Mit diesem Befehl werden alle Open Source-Bibliotheken aus der KI-Umgebung installiert.