Monitorize com a CLI tpu-info
A CLI tpu-info é uma ferramenta para detetar dispositivos Cloud TPU e ler métricas de tempo de execução da biblioteca libtpu, incluindo a utilização de memória e o ciclo de trabalho. Suporta capturas estáticas únicas e streaming em direto para monitorizar as métricas continuamente.
Instalação
Instale o lançamento mais recente através do pip:
pip install tpu-info
Em alternativa, instale tpu-info a partir da origem:
pip install git+https://github.com/google/cloud-accelerator-diagnostics/#subdirectory=tpu_info
Se já tiver instalado uma versão do tpu-info, certifique-se de que é compatível com o seu ambiente e que não lhe faltam métricas nem funcionalidades.
Para mais informações, consulte o artigo Funcionalidades ou métricas em falta.
Aceda às métricas padrão da LibTPU através da CLI
Use o seguinte comando para ver as métricas tpu-info predefinidas com a CLI:
tpu-info
O resultado é semelhante ao seguinte:
TPU Chips
┏━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━┳━━━━━━━━━┳━━━━━━━━┓
┃ Chip ┃ Type ┃ Devices ┃ PID ┃
┡━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━╕━━━━━━━━━╕━━━━━━━━┩
│ /dev/vfio/0 │ TPU v6e chip │ 1 │ 1052 │
│ /dev/vfio/1 │ TPU v6e chip │ 1 │ 1052 │
│ /dev/vfio/2 │ TPU v6e chip │ 1 │ 1052 │
│ /dev/vfio/3 │ TPU v6e chip │ 1 │ 1052 │
└──────────────┴──────────────┴─────────┴────────┘
TPU Runtime Utilization
┏━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━┓
┃ Chip ┃ HBM usage ┃ Duty cycle ┃
┡━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━╕━━━━━━━━━━━━┩
│ 8 │ 18.45 GiB / 31.25 GiB │ 100.00% │
│ 9 │ 10.40 GiB /