- OpenAI добавляет Google TPU, чтобы уменьшить зависимость от графических процессоров NVIDIA
- Внедрение TPU подчеркивает открытие OpenAI для диверсификации вариантов расчета
- Google Cloud выигрывает Openai, несмотря на конкурентную динамику как клиент
Согласно отчетам, OpenAAI начал использовать подразделения Google Tensor Processing (TPU) для чата и других продуктов.
Отчет по РейтерТо, что привело к источнику, который знаком с этим движением, обнаруживает, что это первое крупное перемещение OpenAI из Nvidia Adnughate, которое до сих пор сформировало основу вычислительного стека OpenAI.
Google арендует TPU через свою облачную платформу и добавляет Openai к растущему списку внешних клиентов, которые включают Apple, антропную и безопасную суперинтеллигентность.
Нвидия не уходит
Хотя арендованные чипы не являются самыми передовыми моделями TPU из Google, соглашение отражает усилия OpenaI по снижению затрат и диверсификации как NVIDIA, так и Microsoft Azure.
Решение происходит, когда рабочие нагрузки для вывода растут рядом с использованием CHATT, и теперь каждый день управляют более 100 миллионами активных пользователей.
Этот спрос представляет собой значительную долю предполагаемого ежегодного вычислительного бюджета OpenAI на сумму 40 миллиардов долларов.
TPU Google V6E «Trillium» созданы для стационарного вывода и обеспечивают высокую пропускную способность с более низкими эксплуатационными расходами по сравнению с лучшими графическими процессорами.
Хотя Google отказался комментировать, OpenAI не сразу отреагировал РейтерРасположение предполагает углубление вариантов инфраструктуры.
OpenAI продолжает относиться к большинству своих положений о Azure, поддерживаемом Microsoft (Microsoft является в некотором роде крупнейшим инвестором компании), но проблемы с поставками и ценовое давление в отношении графических процессоров обнаружили риски в зависимости от одного провайдера.
Взятие Google в микс не только улучшает способность OpenAI масштабировать расчет, но и в соответствии с более широкой отраслевой тенденцией для смешивания источников оборудования для гибкости и цен.
Нет никаких признаков того, что OpenAI рассматривает возможность отказаться от Nvidia в целом, но включение TPU Google добавляет больше контроля за затратами и доступностью.
Еще неизвестно, в какой степени Openaai может интегрировать это оборудование в ваш стек, особенно с учетом долгосрочной зависимости программной экосистемы из-за инструментов CUDA и NVIDIA.
Вы также могли бы понравиться
