Возвращаясь к вводу/выводу в мае, мы анонсировали Триллиумшестое поколение нашего собственного чипа, известного как Тензорный процессор (TPU), и сегодня мы объявили, что теперь он доступен в предварительной версии для клиентов Google Cloud.. TPU — это мощный инструмент искусственного интеллекта, который делает ваши устройства и приложения Google максимально полезными, а Trillium — самый мощный и надежный TPU на данный момент.
Но что такое ТПУ? И что делает Триллиум «нестандартным»? Чтобы по-настоящему понять, что делает Trillium таким особенным, важно узнать не только о TPU, но и о других типах вычислительных процессоров (CPU и GPU), а также о том, что их отличает. Челси Чоп, менеджер по продукту, работающая над инфраструктурой искусственного интеллекта в Google Cloud, точно знает, как все это разложить. «Я работаю с несколькими командами, чтобы наши платформы были максимально эффективными для наших клиентов, создающих продукты искусственного интеллекта», — говорит она. По словам Челси, то, что делает возможными многие продукты Google для искусственного интеллекта, — это TPU Google.
Начнем с основ! Что такое CPU, GPU и TPU?
Все эти микросхемы выполняют функции процессоров для выполнения вычислительных задач. Думайте о своем мозге как о компьютере, который может делать такие вещи, как чтение книги или решение математической задачи. Каждое из этих действий похоже на вычислительную задачу. Итак, если вы используете свой телефон, чтобы сделать фотографию, отправить текстовое сообщение или открыть приложение, мозг или процессор вашего телефона выполняет эти вычислительные задачи.
Что означают разные аббревиатуры?
Хотя центральные, графические и TPU являются процессорами, они становятся все более специализированными. CPU означает центральный процессор. Это чипы общего назначения, способные решать широкий спектр задач. Как и в случае с вашим мозгом, некоторые задачи могут занять больше времени, если процессор не специализируется в этой области.
Затем есть графический процессор или графический процессор. Графические процессоры стали рабочей лошадкой для решения задач ускорения вычислений, от рендеринга графики до рабочих нагрузок искусственного интеллекта. Это то, что называется типом ASIC или интегральной схемы специального назначения. Интегральные схемы обычно изготавливаются из кремния, поэтому вы можете услышать, как люди называют чипы «кремниевыми» — это одно и то же (и да, именно отсюда появился термин «Кремниевая долина»!). Короче говоря, ASIC созданы для одной конкретной цели.
TPU, или тензорный процессор, — это собственная ASIC Google. Мы разработали TPU с нуля для выполнения вычислительных задач, управляемых искусственным интеллектом, что сделало их еще более специализированными, чем центральные и графические процессоры. TPU лежат в основе некоторых самых популярных сервисов искусственного интеллекта Google, включая Поиск, YouTube и большие языковые модели DeepMind.
Понятно, значит все эти чипы и обеспечивают работу наших устройств. Где я могу найти процессоры, графические процессоры и TPU?
Процессоры и графические процессоры — это очень знакомые элементы, которые вы, вероятно, используете каждый день: процессоры есть почти в каждом смартфоне, а также в персональных вычислительных устройствах, таких как ноутбуки. Графический процессор, который можно найти в высококлассных игровых системах или некоторых настольных устройствах. TPU вы найдете только в центрах обработки данных Google: здания складского типа, заполненные стойками и стойками TPU, круглосуточно и без выходных работают для сервисов искусственного интеллекта от Google и наших облачных клиентов, работающих по всему миру.
Что заставило Google задуматься о создании ТПУ?
Процессоры были изобретены в конце 1950-х, а графические процессоры — в конце 90-х. мы начали думать о ТПУ около 10 лет назад. Качество наших сервисов распознавания речи значительно улучшилось, и мы поняли, что если каждый пользователь начнет «разговаривать» с Google всего по три минуты в день, нам понадобится двойной количество компьютеров в наших дата-центрах. Мы знали, что нам нужно что-то гораздо более эффективное, чем коммерчески доступное оборудование в то время, и мы знали, что нам потребуется гораздо больше вычислительной мощности для каждого чипа. Итак, мы построили свое!
И эта «Т» означает Тензор, верно? За что?
Да, «тензор» — это общее название структур данных, используемых в машинном обучении. По сути, под капотом происходит множество вычислений, которые делают возможными задачи ИИ. С нашим последним TPU Trillium мы увеличили количество возможных вычислений: Trillium имеет в 4,7 раза более высокую пиковую вычислительную производительность на чип, чем предыдущее поколение TPU v5e.
Что именно это означает?
По сути, это означает, что Trillium способен выполнять все вычисления, необходимые для выполнения этой сложной математики, в 4,7 раза быстрее, чем в предыдущей версии. Trillium не только работает быстрее, но и может обрабатывать более крупные и сложные рабочие нагрузки.
Есть ли что-нибудь еще, что делает его улучшением по сравнению с нашим ТПУ последнего поколения?
Еще одним преимуществом Trillium является то, что это наш самый прочный ТПУ: фактически, он на 67% более энергоэффективен, чем наш последний ТПУ. Поскольку спрос на ИИ продолжает стремительно расти, отрасль должна развивать свою инфраструктуру устойчивым образом. Триллиум, по сути, использует меньше энергии для выполнения той же работы.
Теперь, когда клиенты начинают его использовать, какое влияние, по вашему мнению, окажет Trillium?
Мы уже наблюдаем некоторые невероятные разработки на базе Trillium! У нас есть клиенты, использующие его в технологиях, которые анализируют РНК на предмет различных заболеваний, превращают письменный текст в видео с невероятной скоростью и многое другое. И это только для нашей первой группы пользователей: теперь, когда Trillium находится в предварительной версии, нам не терпится увидеть, что люди смогут с ним сделать.
