Descripción general de los instructivos sobre cargas de trabajo de IA | AI Hypercomputer

Ir al contenido principal

Áreas de tecnología

IA y AA
Desarrollo de aplicaciones
Hosting de aplicaciones
Procesamiento
Canalizaciones y análisis de datos
Bases de datos
Nubes distribuidas, híbridas y múltiples
Soluciones de la industria
Migración
Redes
Observabilidad y supervisión
Seguridad
Storage

Herramientas para uso entre productos

Administración de accesos y recursos
Administración de uso y costos
Infraestructura como código
SDK, lenguajes, frameworks y herramientas

/

Consola

English
Deutsch
Español – América Latina
Français
Indonesia
Italiano
Português – Brasil
עברית
中文 – 简体
中文 – 繁體
日本語
한국어

Acceder

AI Hypercomputer

Comenzar gratis

Descripción general Guías Recursos

Áreas de tecnología
- Más
Herramientas para uso entre productos
- Más
Consola

Descubrimiento
Descripción general
Elige tu infraestructura de aceleradores
Elige un organizador y una opción de implementación
Aceleradores
Infraestructura con optimización de rendimiento
- Máquinas con GPU
- Servicios de Herramientas de redes
- Servicios de almacenamiento
Software abierto
- Imágenes de SO y Docker
Elige una opción de consumo
Administración de clústeres
- Descripción general de la administración de clústeres
- Configuraciones de administración de clústeres
Terminología
Comenzar
Planifica y crea tu infraestructura de IA
Elige entre GPUs generales y GPUs agrupadas
Obtén capacidad y cuota
Guías de inicio rápido
- Crea un clúster de Slurm completamente administrado con VMs A4
- Crea un clúster de Slurm autoadministrado con VMs A4
Implementa la infraestructura
Descripción general de las opciones de Deployment
Descripción general de la política de posición compacta y la política de cargas de trabajo
Implementa VMs y clústeres optimizados para IA
- Crea clústeres de GKE
- Crea clústeres de Slurm
  - Crea un clúster completamente administrado
  - Crea un clúster autoadministrado
- Crea una instancia
- Crea instancias de forma masiva
- Crea un grupo de instancias administrado (MIG).
Ejecuta cargas de trabajo
Ejecuta cargas de trabajo con Pathways on Cloud
Programa cargas de trabajo de GKE
- Programa cargas de trabajo con la programación consciente de la topología (TAS)
- Habilita la predicción del estado del nodo
Usa Kueue para organizar cargas de trabajo
Instructivos sobre cargas de trabajo de IA
- Descripción general
- GPU
  - Ejecuta la inferencia con vLLM en GKE
    DeepSeek V3.1
    DeepSeek V3.2-Speciale
    Gemma 3
    GPT-OSS
    Llama 4
    Qwen3
  - Ejecuta el ajuste
    Gemma 3 en un clúster de GKE
    Gemma 3 en un clúster de GKE de varios hosts
    Gemma 3 en un clúster de Slurm
    Gemma 3 para tareas de visión en GKE
    Llama 4 en un clúster de Slurm
    Mixtral-8x7b en un clúster de Slurm
  - Ejecuta el entrenamiento
    Qwen2 en un clúster de Slurm
- TPU
  - Entrega de cargas de trabajo
    Entrega Qwen2-7B con vLLM en TPU
    Entrega Qwen2-7B-Instruct con vLLM en TPU
    Entrega Qwen3-8B-Base con vLLM en TPU
    Entrega Llama-3.1-8B con vLLM en TPU
  - Ejecuta el ajuste
    Ejecuta el ajuste supervisado en una VM de TPU con MaxText
    Ejecuta el ajuste supervisado de varios hosts en Qwen3-14b con MaxText
    Ejecuta el entrenamiento de RL en una VM de TPU v6e-8
    Ejecuta el entrenamiento de RL de varios hosts en Qwen3-30b-a3b con MaxText
Administra la infraestructura
Administra clústeres de GKE
Administra instancias y clústeres de Slurm
- Cómo ver la topología de una instancia
- Administra eventos del organizador
  - Eventos de host en instancias
  - Eventos del host en las reservas
- Cómo informar un host defectuoso
Realiza pruebas y optimizaciones
Optimiza las redes de clústeres con SNCCL/gIB
Ejecuta pruebas de NCCL
Recopila y comprende los registros de NCCL para solucionar problemas
Cómo probar cargas de trabajo con recetas
- Recetas de comparativas
- Recetas de optimización de Goodput
Notas de la versión de NCCL/gIB
- Notas de la versión de NCCL/gIB (x86 de 64 bits)
- Notas de la versión de NCCL/gIB (ARM de 64 bits)
Supervisión
Supervisa las VMs y los clústeres de Slurm
Administra la forma en que CoMMA recopila datos de telemetría de NCCL
- Collective Communication Analyzer (CoMMA)
- Habilita, inhabilita y configura CoMMA
Solución de problemas
Errores conocidos
Soluciona problemas de rendimiento lento
Soluciona problemas para informar un host defectuoso
Soluciona problemas de CoMMA

IA y AA
Desarrollo de aplicaciones
Hosting de aplicaciones
Procesamiento
Canalizaciones y análisis de datos
Bases de datos
Nubes distribuidas, híbridas y múltiples
Soluciones de la industria
Migración
Redes
Observabilidad y supervisión
Seguridad
Storage

Administración de accesos y recursos
Administración de uso y costos
Infraestructura como código