Google присоединился к Amazon в атаке на доминирующее положение Nvidia среди разработчиков приложений с использованием искусственного интеллекта.
Во вторник Google объявила о том, что TorchTPU, долгожданная версия PyTorch, теперь доступна в качестве проекта с открытым исходным кодом. Таким образом, Google присоединяется к Amazon в попытке сломить монополию Nvidia в индустрии ИИ, где большинство приложений для ИИ по умолчанию разрабатываются для работы на чипах Nvidia, или графических процессорах.
PyTorch — это популярный инструментарий с открытым исходным кодом, который разработчики приложений для искусственного интеллекта и стартапы используют для создания, обучения и запуска моделей ИИ. По некоторым данным, его используют 85% приложений для ИИ. PyTorch был первоначально разработан компанией Meta (тогда Facebook) в 2016 году, задолго до того, как мир понял, что LLM-ы изменят мир. В то время графические процессоры Nvidia уже были стандартным оборудованием для исследований в области ИИ, поэтому многие функции PyTorch были разработаны специально для работы с ними. В 2022 году Meta передала PyTorch в руки Linux Foundation, некоммерческой организации, которая управляет многими важными проектами с открытым исходным кодом.
Версия Google, TorchTPU, позволяет запускать приложения искусственного интеллекта на чипах Google, называемых тензорными процессорами (TPU). Она также упрощает перенос существующих приложений PyTorch на TPU и, следовательно, в облако Google. Разработчики могут сделать это с помощью простого изменения конфигурации и без переписывания своих приложений.
В понедельник Amazon сделала аналогичное объявление, выпустив собственную версию PyTorch под названием TorchNeuron. TorchNeuron позволяет портировать приложения искусственного интеллекта на собственный чип Amazon Trainium и на AWS без переписывания кода. Amazon также заявила, что предпринимает еще более решительные шаги, чтобы ослабить контроль Nvidia над PyTorch. Компания отправляет код в основной проект PyTorch, который отделяет различные функции от чипов Nvidia, делая его более открытым для любого оборудования по умолчанию.
Однако Google, возможно, превосходит Amazon в нескольких аспектах. Компания заявляет, что работала напрямую с Meta, Hugging Face, Inferact (разработчиком vLLM), RadixArk (разработчиком SGLang) и другими, чтобы гарантировать, что функции и библиотеки кода TorchTPU хорошо работают с этими популярными инструментами разработки ИИ, так же, как и оригинальный PyTorch.
Кроме того, поисковый гигант запустил специальный инструмент, пакет агентов TPU , чтобы помочь разработчикам перенести свои приложения на чипы и в облако Google и исправлять ошибки в процессе переноса. Компания даже обновила свой популярный инструмент LiteRT, который запускает ИИ на телефонах, ноутбуках и встроенных устройствах, чтобы он лучше работал с приложениями ИИ на основе PyTorch.
Всё это вовсе не означает, что разработчики приложений с искусственным интеллектом автоматически массово откажутся от оборудования Nvidia только потому, что теперь они могут легко перейти на альтернативные чипы и облачные сервисы. Но Amazon и Google явно работают над тем, чтобы положить конец преимуществу Nvidia.