Mengelola TPU Spot VM

Spot VM menyediakan kapasitas yang tidak terpakai dengan tarif diskon yang tinggi. Spot VM dapat di-preempt (dihentikan) kapan saja, tetapi tidak seperti TPU yang dapat dihentikan, tidak ada batasan durasi runtime. Anda tidak dapat memulai ulang TPU Spot VM, dan Anda harus membuatnya ulang setelah preemption. Untuk mengetahui informasi selengkapnya tentang Spot VM secara umum, baca dokumentasi Compute Engine tentang Spot VM.

Membuat VM Spot TPU

Anda dapat membuat VM TPU Spot menggunakan resource dalam antrean, yang menambahkan permintaan pembuatan ke antrean dan memungkinkan Anda menerima kapasitas setelah tersedia. Membuat TPU sebagai resource dalam antrean adalah praktik terbaik. Untuk informasi selengkapnya, lihat Panduan pengguna resource yang diantrekan.

Buat VM TPU Spot sebagai resource dalam antrean dengan menambahkan flag --spot ke perintah create resource yang diantrekan:

gcloud alpha compute tpus queued-resources create QUEUED_RESOURCE_ID \
  --node-id=NODE_ID \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --runtime-version=tpu-vm-tf-2.17.0-pod-pjrt \
  --spot

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    tpu: {
      node_spec: {
        parent: "projects/PROJECT_ID/locations/europe-west4-a",
        node_id: "NODE_ID",
        node: {
          accelerator_type: "v3-8",
          runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt"
        }
      }
    },
    spot: {}
  }'

Anda juga dapat membuat VM TPU Spot tanpa menggunakan resource yang diantrekan dengan menambahkan flag --spot ke perintah create:

gcloud compute tpus tpu-vm create TPU_NAME \
  --zone=europe-west4-a \
  --accelerator-type=v3-8 \
  --version=tpu-vm-tf-2.17.0-pod-pjrt \
  --spot

curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  -d '{
    accelerator_type: "v3-8",
    runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt",
    network_config: {enable_external_ips: true},
    scheduling_config: {spot: true}
  }'

Memeriksa apakah VM TPU adalah VM Spot

Untuk mengonfirmasi apakah VM TPU Anda adalah VM Spot, gunakan perintah deskripsi:

gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a

Jika VM TPU adalah VM Spot, outputnya akan menyertakan kolom spot yang ditetapkan ke true, mirip dengan berikut ini:

...
schedulingConfig:
  spot: true
...

Harga dan kuota

Harga untuk VM TPU Spot jauh lebih rendah daripada TPU on-demand dan yang dicadangkan. Untuk mengetahui informasi selengkapnya tentang harga, lihat harga Cloud TPU.

Anda memerlukan kuota yang dapat dihentikan untuk menggunakan TPU Spot VM. Untuk mengetahui informasi lebih lanjut, lihat Kuota.