Недавно мы впервые получили представление о том, как выглядят графические процессоры искусственного интеллекта стоимостью 1 миллиард долларов, когда Илон Маск продемонстрировал краткий видеотур по Cortex, суперкомпьютеру X для обучения искусственному интеллекту, который в настоящее время находится в производстве на заводе Tesla Giga в Техасе и строится.
Недавно Маск объявил через свою платформу в социальных сетях, что Colossus, новый учебный кластер H100 на 100 000 человек, теперь работает.
Маск утверждает, что Colossus — это «самая мощная система обучения искусственного интеллекта в мире» и что она была построена «от начала до конца» всего за 122 дня. Это настоящее достижение. Сообщается, что серверы для кластера xAI были предоставлены Dell и Supermicro, а стоимость проекта оценивается от 3 до 4 миллиардов долларов.
В эти выходные команда @xAI запустила онлайн наш тренировочный кластер Colossus 100k H100. От начала до конца прошло 122 дня. Colossus — самая мощная система обучения искусственного интеллекта в мире. Кроме того, через несколько месяцев его размер удвоится до 200 000 (50 000 H200). Отличный…2 сентября 2024 г.
Откуда Колосс получил свое название?
Оборудование Тома отмечает: «Хотя все эти кластеры официально работают и даже обучают модели ИИ, совершенно неясно, сколько из них на самом деле сегодня онлайн. Во-первых, требуется некоторое время для отладки и оптимизации настроек этих сверхкластеров. Во-вторых, «X необходимо убедиться, что они получают достаточно энергии, и хотя компания Илона Маска использовала 14 дизельных генераторов для питания своего суперкомпьютера в Мемфисе, их все равно было недостаточно для питания всех 100 000 графических процессоров H100».
Ожидается, что мощность системы Colossus в конечном итоге удвоится. Планируется интегрировать еще 100 000 графических процессоров — 50 000 единиц H100 и 50 000 чипов Nvidia H200 следующего поколения. Суперкластер в основном используется для обучения Grok-3 от xAI, новейшей и самой совершенной модели искусственного интеллекта компании. Мы еще не видели никаких упоминаний о хранилище для новой системы, но оно должно быть огромным.
Однако название нового суперкомпьютера вызвало у многих недоумение. Например, было указано, что название идентично научно-фантастическому фильму 1970 года (по роману Д. Ф. Джонса 1966 года) о суперкомпьютере, который развивает сознание после того, как он получает контроль над ядерным арсеналом США. Как и ожидалось, дела человечества идут ужасно плохо.
И роман, и фильм затрагивают современные проблемы, такие как автономность искусственного интеллекта, опасность передачи контроля машинам и этические последствия искусственного интеллекта. Возможно, Маск не знал об этом, когда выбирал название для своей новой системы обучения ИИ, и, возможно, оно было выбрано просто для того, чтобы подчеркнуть огромные размеры сверхскопления. С другой стороны, учитывая послужной список Маска, неудивительно, если инсинуация была преднамеренной — он точно знает, что делает.
Больше от TechRadar Pro
