Grote taalmodellen (LLM's)

Belangrijk

AI Runtime voor taken met één knooppunt bevindt zich in openbare preview. De gedistribueerde trainings-API voor workloads met meerdere GPU's blijft bèta.

Deze notebooks verfijnen grote taalmodellen (LLM's) in AI Runtime. Ze hebben betrekking op parametersefficiënte methoden zoals Low-Rank Adaptation (LoRA) en volledige afstemming onder supervisie tussen bibliotheken, waaronder TRL, Unsloth, Axolotl en LLM Foundry, met modellen van Qwen2 en Llama tot GPT-OSS 120B.

Handleiding Beschrijving
Qwen3-4B-model verfijnen Voer een full-weight fine-tuning uit op het Qwen3-4B-model op een enkele H100-GPU met Transformer Reinforcement Learning (TRL), met BF16-gemengde precisie en gradient checkpointing voor geheugenefficiënte training.
Llama-3.2-3B verfijnen met Unsloth Verfijn Llama-3.2-3B met behulp van de Unsloth-bibliotheek.
GPT-OSS 20B verfijnen Verfijn het model van gpt-oss-20b OpenAI op 8 H100 GPU's met behulp van gedistribueerde gegevensparallelisme en LoRA voor het efficiënt afstemmen van parameters.
Afstemming onder supervisie met DeepSpeed en TRL Gebruik de Python-API voor serverloze GPU om SFT (supervisie) uit te voeren met behulp van de TRL-bibliotheek (Transformer Reinforcement Learning) met DeepSpeed ZeRO Fase 3-optimalisatie.
LoRA fine-tuning met Axolotl Gebruik de serverloze GPU-Python-API om met de Axolotl-bibliotheek een Olmo3 7B-model via LoRA te finetunen.
Gedistribueerde fine-tuning van Qwen2-0.5B Verfijn het Qwen2-0.5B-model met behulp van LoRA- en Liger-kernels voor geheugenefficiënte gedistribueerde training met parameterreductie.
Gedistribueerde fine-tune Llama-3.2-3B met Unsloth Verfijn Llama-3.2-3B met behulp van gedistribueerde training over meerdere GPU's met de Unsloth-bibliotheek voor geoptimaliseerde parameterefficiënte training.
Llama 3.1 8B verfijnen met LLM Foundry Verfijn het Llama 3.1 8B-model met behulp van Mosaic LLM Foundry met gedistribueerde trainingsstrategieën en modelevaluatie.
GPT-OSS 120B verfijnen met DDP en FSDP Verfijn het GPT-OSS 120B-model van OpenAI door supervised fine-tuning toe te passen op H100 GPU's met behulp van DDP- en FSDP-gedistribueerde trainingsstrategieën.
Gedistribueerde training met PyTorch FSDP Train Transformer-modellen met PyTorch Fully Sharded Data Parallel (FSDP) om modelparameters over meerdere GPU's te sharden.

Videodemo

In deze video wordt stapsgewijs uitgelegd hoe u Llama-3.2-3B met Unsloth kunt afstemmen aan de hand van het voorbeeldnotitieblok (12 minuten).

  • Last updated on