nvidia.com
На выставке «CES 2025», стартовавшей в Лас-Вегасе сегодня, Nvidia представила новое решение в области персональных суперкомпьютеров для искусственного интеллекта — систему под названием Project Digits. Этот компактный суперкомпьютер, очень похожий на Mac Mini, работает от стандартной розетки, призван сделать мощные вычисления ИИ доступными для широкого круга разработчиков.
Project Digits способен обрабатывать модели ИИ с объемом до 200 миллиардов параметров. Для пользователей с более высокими требованиями доступна возможность объединить две системы, что позволяет работать с моделями до 405 миллиардов параметров — эквивалентно размерам лучших современных моделей, таких как Llama 3.1. Устройство включает 128 ГБ унифицированной памяти, что значительно превосходит возможности стандартных ноутбуков, и хранилище объемом до 4 ТБ NVMe.
«ИИ станет мейнстримом в каждом приложении для каждой отрасли. С Project Digits суперчип Grace Blackwell станет доступен миллионам разработчиков», — сказал гендиректор Nvidia Дженсен Хуанг.
В основе устройства лежит суперчип GB10 Grace Blackwell, он предлагает производительность до 1 петафлопа с точностью FP4, что позволяет ускорять сложные вычисления благодаря использованию приближенных расчетов. Он оснащен ядрами CUDA последнего поколения и тензорными ядрами пятого поколения, которые подключены через NVLink-C2C к процессору Grace с 20 энергоэффективными ядрами на архитектуре Arm. MediaTek также участвовала в разработке чипа, обеспечивая его энергоэффективность и оптимальную производительность.
Пользователям Project Digits предоставляется доступ к обширной библиотеке программного обеспечения Nvidia для ИИ: комплекты разработки, инструменты управления и предварительно обученные модели, доступные через каталог Nvidia NGC.
Система работает на основе ОС Nvidia DGX, построенной на Linux, и поддерживает популярные инструменты для работы с ИИ, такие как PyTorch, Python и Jupyter. Разработчики могут настраивать свои модели с использованием фреймворка Nvidia NeMo, а также ускорять задачи анализа данных с помощью библиотек RAPIDS.
Project Digits предоставляет возможность разрабатывать и тестировать модели ИИ локально, используя высокопроизводительную архитектуру Grace Blackwell и ПО Nvidia AI Enterprise. После завершения разработки модели можно развертывать в облаке или на серверной инфраструктуре с использованием тех же программных инструментов, что делает систему универсальной и подходящей для задач любой сложности.
Стоимость Project Digits — от $3000. Читайте также
Что позволяют сделать RFID-метки сегодня? Достижения в области технологий произвели революцию во всех отраслях экономики, и индустрия моды не исключение. IT-World расскажет, как создать «умный» магазин и автоматизировать склад с помощью RFID.