Addestrare un modello utilizzando TPU7x (Ironwood)

Questo documento descrive come eseguire il provisioning delle risorse TPU7x e fornisce un esempio di deployment di un carico di lavoro di addestramento utilizzando MaxText e XPK.

TPU7x è la prima release della famiglia Ironwood, Google Cloudla TPU di settima generazione di Google. La generazione Ironwood è progettata per l'addestramento e l'inferenza AI su larga scala. Per saperne di più, consulta TPU7x.

Per altri esempi ottimizzati per TPU7x, consulta Training Recipes for Ironwood TPU su GitHub.

Eseguire il deployment di un carico di lavoro di addestramento con MaxText e XPK

Utilizza Accelerated Processing Kit (XPK) per creare cluster GKE per la prova di fattibilità e i test.

Le sezioni seguenti mostrano come eseguire il deployment di un carico di lavoro di addestramento utilizzando MaxText e XPK.

Prima di iniziare

Prima di iniziare, completa i seguenti passaggi:

  • Assicurati di avere un Google Cloud progetto con la fatturazione abilitata.
  • Ottieni l'accesso a TPU7x. Per saperne di più, contatta il team dedicato all'account.
  • Assicurati che l'account che utilizzi con XPK abbia i ruoli elencati nel repository GitHub XPK.

Installare XPK e le dipendenze

  1. Installa XPK. Segui le istruzioni nel repository GitHub XPK.

  2. Installa Docker seguendo le istruzioni fornite dall'amministratore o segui le istruzioni di installazione ufficiali. Una volta installato, esegui i seguenti comandi per configurare Docker e testare l'installazione:

    gcloud auth configure-docker
sudo usermod -aG docker $USER # relaunch the terminal and activate venv after running this command
docker run hello-world # Test Docker

  3. Imposta le seguenti variabili di ambiente:

    export PROJECT_ID=YOUR_PROJECT_ID
export ZONE=