Google ve Meta, TorchTPU'yu açık kaynak haline getirdi; bu, PyTorch modellerini doğrudan Cloud TPU'larda çalıştırmak için tasarlanmış yerel bir PyTorch arka ucudur. 20 Ekim 2026'da PyTorch Conference 2026'da duyurulan yazılım yığını, TPUs'ı GPU'lar ve CPU'larla birlikte standart torch.device("tpu") arayüzüyle yerel PyTorch cihazları olarak bütünleştiriyor. Google, tüm yeni iş yükleri için PyTorch/XLA'yı TorchTPU ile değiştirmeyi öneriyor.
TorchTPU, PrivateUse1 arayüzü üzerinden PyTorch'a bağlanır, sarmalayıcı veya alt sınıf olmadan sıradan PyTorch tensörlerini kullanır ve farklı MPMD yürütmeyi destekler. Açık kaynak sürüm, Apache 2.0 lisansı altında Python 3.11+ için dört depo—TorchTPU, vLLM‑TorchTPU, SGLang‑TorchTPU ve TorchTitan—içerir. Arka uç üç eager modla gelir, üretim seviyesinde verimlilik için torch.compile'ı destekler ve Hugging Face, vLLM ve TorchTitan entegrasyonlarıyla 8.192 Ironwood TPU çipine kadar ölçeklenebilir.
Bu sürüm, PyTorch/XLA'yı yerel bir arka uçla değiştirerek bulut TPU geliştirmesini kolaylaştırması ve eğitim sırasında modelin kayan nokta kullanımını %52'ye kadar artırması nedeniyle önem taşıyor.