Google объявила об открытии исходного кода нативного PyTorch-фреймворка TorchTPU на платформе GitHub. Новый инструмент предназначен для работы искусственного интеллекта на фирменных чипах TPU и позволяет переносить существующие проекты без необходимости переписывать код.
TorchTPU дает возможность разработчикам адаптировать приложения под аппаратное обеспечение Google и облачную инфраструктуру простым изменением конфигурации. Компания также представила TPU-агент для помощи в миграции и обновления для инструмента LiteRT, улучшающие поддержку PyTorch на мобильных устройствах, ноутбуках и встраиваемых системах.
К разработке и адаптации TorchTPU также присоединились Meta, Hugging Face, разработчики vLLM и SGLang. Ранее аналогичный инструмент под названием TorchNeuron представила компания Amazon для собственных чипов Trainium.
Обсуждение в Telegram ↗