Google a ouvert le code source de TorchTPU, un backend PyTorch qui permet aux utilisateurs d'exécuter des modèles et des opérations PyTorch sur les Tensor Processing Units (TPU) de Google. Le projet comprend des noyaux ATen personnalisés pour une série d'opérations PyTorch, un cache de compilation destiné à optimiser l'exécution des calculs XLA, ainsi que des exemples d'entraînement distribué et d'inférence de modèles.
Parmi les principales fonctionnalités figurent la prise en charge de l'entraînement distribué par parallélisme de données et parallélisme de tenseurs, l'intégration avec torch.compile() pour l'exécution en mode graphe, ainsi que des utilitaires de débogage et de benchmarking. Les modèles d'exemple couvrent Llama, Qwen, ResNet, DLRM, minGPT et UNet.
Un guide d'utilisation et des notebooks Marimo interactifs sont disponibles ; ils sont semblables à Jupyter. Les notebooks doivent être exécutés depuis une VM TPU, une instance GCE v6e étant recommandée comme option la plus simple. Python 3.11 et versions ultérieures sont actuellement pris en charge, conformément à la matrice de compatibilité des versions de PyTorch.
La dernière version publique, la 0.2.0, peut être installée depuis PyPI avec pip, en utilisant la version CPU de PyTorch depuis un index supplémentaire. Les développeurs peuvent également compiler des wheels à partir des sources avec Bazel, les builds optimisés étant activés par défaut, avec une option pour désactiver Remote Build Execution pour ceux qui ne disposent pas d'identifiants.
Source: Hacker News · Résumé par HeadlinesBriefing