Gestire le VM spot TPU

Le VM spot rendono disponibile la capacità inutilizzata a tariffe scontate. Le VM spot sono prerilasciabili in qualsiasi momento, ma a differenza delle TPU preemptible, non esiste un limite alla durata dell'esecuzione. Non puoi riavviare le VM spot TPU e devi ricrearle dopo il prerilascio. Inoltre, non puoi utilizzare la durata della notifica di prerilascio di 120 secondi (anteprima) con le VM spot TPU. Per ulteriori informazioni sulle VM spot in generale, consulta la documentazione di Compute Engine sulle VM spot.

Creare VM spot TPU

Puoi creare VM spot TPU utilizzando le risorse in coda, che aggiungono la richiesta di creazione a una coda e ti consentono di ricevere la capacità una volta disponibile. La creazione di TPU come risorse in coda è una best practice. Per ulteriori informazioni, consulta la Guida per l'utente delle risorse in coda.

L'esempio seguente mostra come creare VM spot TPU utilizzando le risorse in coda:

gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \
    --node-id=NODE_ID \
    --zone=europe-west4-a \
    --accelerator-type=v3-8 \
    --runtime-version=tpu-vm-tf-2.17.1-pod-pjrt \
    --spot

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d '{
        tpu: {
        node_spec: {
            parent: "projects/PROJECT_ID/locations/europe-west4-a",
            node_id: "NODE_ID",
            node: {
            accelerator_type: "v3-8",
            runtime_version: "tpu-vm-tf-2.17.1-pod-pjrt"
            }
        }
        },
        spot: {}
    }'