Крошечный ИИ имеет раскрытый Согласно Книге рекордов Гиннеса, это самый маленький в мире персональный суперкомпьютер с искусственным интеллектом. Он называется Tiiny AI Pocket Lab и, несмотря на размер блока питания, обещает уровень производительности, который обычно требует очень дорогого оборудования. Другие небольшие суперкомпьютеры, такие как Project Digits от NVIDIA, который стоит около 3000 долларов, и DGX Spark, который продается в розницу за 4000 долларов, доступны по ценам, которые делают их недоступными для большинства обычных пользователей.
Tiiny AI утверждает, что настоящим узким местом ИИ сегодня является не вычислительная мощность, а наша зависимость от облака. Директор GTM Самар Бходж говорит: «Интеллект должен принадлежать не центрам обработки данных, а людям». Запуская большие модели локально, Pocket Lab стремится снизить зависимость от облака, улучшить защиту данных и сделать так, чтобы продвинутый ИИ чувствовал себя личным, а не удаленным.
Технология, лежащая в основе суперкомпьютера Tiiny AI
Размеры Pocket Lab составляют всего 14,2 × 8 × 2,53 см, а вес — всего 300 граммов. Тем не менее, компания заявляет, что может предоставлять большие языковые модели, содержащие до 120 миллиардов параметров. Модели такого размера обычно ассоциируются с серверными стойками или профессиональными графическими процессорами, но Tiiny AI хочет реализовать эту возможность в устройстве, которое умещается в вашей руке.
Pocket Lab основан на новейшем 12-ядерном процессоре ARM v9.2 и поддерживает популярные модели с открытым исходным кодом, такие как GPT-OSS, Llama, Qwen, DeepSeek, Mistral и Phi. В основе устройства лежит дискретный нейронный процессор, способный выдавать 190 TOPS. Он также включает 80 гигабайт памяти LPDDR5X, которая обеспечивает агрессивное квантование, поэтому большие модели можно запускать локально, не полагаясь на облачную инфраструктуру.
Tiiny AI также имеет две ключевые технологии, встроенные в систему. TurboSparse — это метод разреженной активации на уровне нейронов, который повышает эффективность вывода без снижения интеллекта модели. PowerInfer — это гетерогенный механизм вывода, который распределяет рабочие нагрузки ИИ между ЦП и НПУ, обеспечивая производительность на уровне сервера, сохраняя при этом низкие требования к электропитанию. Эта комбинация делает Pocket Lab привлекательным вариантом для всех, кто экспериментирует с местным искусственным интеллектом, будь то исследования, робототехника или продвинутые рассуждения.
Tiiny AI планирует представить устройство на выставке CES 2026. Подробности о ценах и выпуске пока держатся в секрете, но индустрия будет внимательно следить за тем, как такой маленький суперкомпьютер будет работать, когда он достигнет реальных пользователей.
