Nvidia пуска в продажба DGX Spark, първия си персонален суперкомпютър с изкуствен интелект

  • DGX Spark е „личен суперкомпютър“ с размерите на мини-PC, способен да доставя до 1 petaFLOP и да изпълнява локално 200.000 милиарда параметрични LLM-и.
  • Той интегрира суперчипа GB10 Grace Blackwell с 20-ядрен процесор Arm и 128 GB унифицирана памет LPDDR5X, както и NVMe SSD с капацитет до 4 TB.
  • Работи с DGX OS (базирана на Ubuntu) и включва AI софтуерния стек на Nvidia; максимална мощност от приблизително 240 W, WiFi 7, BT 5.4 и 10 GbE мрежова връзка.
  • Цената му е 3.999 долара и е наличен от 15 октомври; първите бройки бяха доставени на Илон Мъск и компании в екосистемата.

Личен суперкомпютър с изкуствен интелект

С формат, напомнящ мини компютър, Nvidia представи DGX Spark, екип, който марката определя като свой първи персонален суперкомпютър за изкуствен интелектЦелта му е ясна: да предостави на разработчиците мощност, която преди това изискваше. центрове за данни или облак.

Предложението се откроява с това, че позволява изводи и локални корекции на модела, с необичайни цифри за настолен компютър, включен в конвенционален контакт. Според Nvidia, с намалена точност за AI (FP4) предлага до 1 петафлопс производителност, достатъчна за обслужване на модели с 200.000 милиарда параметри без да напускате дома, лабораторията или офиса.

Какво е DGX Spark и за кого е предназначен?

DGX Spark не е потребителски компютър или геймърска машина; той е инструмент за разработка. Работи с DGX операционна система (вариант на Ubuntu с предварително инсталиран AI софтуер на Nvidia) и е насочен към изследователи, разработчици и студенти които трябва да експериментират, усъвършенстват и валидират проекти в собствената си среда.

Философията на употреба е проста: от обичайното си оборудване използвате традиционни приложения и, когато е необходим изкуствен интелект, делегирате натоварването на DGX Spark през локалната мрежа. По този начин избягвате зависимости от облака, латентности и променливи разходи, поддържайки контрол върху данните и моделите.

Компактен екип за локален изкуствен интелект

Архитектура и ключови спецификации

Сърцето на отбора е GB10 Грейс Блекуел, суперчип, който комбинира процесор и графичен процесор под един покрив, за да увеличи максимално кохерентност на паметта и намаляване на затрудненията. Процесорът включва 20 Arm ядра (10 високопроизводителни Cortex-X925 и 10 ефективни Cortex-A725), с 128GB унифицирана памет LPDDR5X което предотвратява прехвърлянето на данни между RAM и VRAM.

При съхранение системата поддържа NVMe M.2 SSD до 4TB със самокриптиране и свързаност, включваща WiFi 7, Bluetooth 5.4, червен 10 GbE, HDMI y четири USB-CМаксималната мощност е около 240 W, което помага за поддържането на компактен формат и контролиран шум, което е малко сложно на станции с висококачествени дискретни графични процесори.

Платформата е готова за високоскоростни връзки и мрежови възможности, като например ConnectX-7, проектиран за напреднали сценарии за разработка. На практика шасито може да се постави на всеки настолен компютър и с тегло от около 1,2 кг, лесно се пренася между стаи или места за провеждане на събития.

Локална производителност на изкуствения интелект

Работейки в FP4, DGX Spark постига приблизително 1 петафлоп, цифра, която го поставя по средата между компактна работна станция и малък лабораторен сървър. С този таван той е способен да обслужва локално Магистърска степен по право (LLM) до 200B на параметри, нещо, което досега беше забранено в облака или много по-голямо оборудване.

За проекти, по-големи от този размер, Nvidia отбелязва, че е възможно свържете две Spark системи и да се справят с дори по-големи модели, с референции до 405.000 милиарда параметриОсвен това, компанията гарантира съвместимост с модели на DeepSeek, Meta, NVIDIA, Google, Qwen и като цяло с алтернативи с отворен код които могат да се адаптират към околната среда.

Версии на екосистемата и производителя

Освен официалния модел на Nvidia, платформата ще даде възможност за появата на оборудване от марки като Acer, Asus, Dell, Gigabyte, HP, Lenovo и MSI, който ще бъде пуснат собствените си версии със същата тази основа. Компанията обяви и съществуването на по-голяма настолна система за тези, които се нуждаят повече памет и разширениеи поддържа в каталога си опции като Станция DGX за по-мащабни сценарии.

Струва си да се настоява: Това не е компютър с Windows нито е ориентирано към играта. Стойността е в прототипиране, усъвършенстване и заключение с локален изкуствен интелект и възможност за пренасяне на тази работа в облака или центъра за данни, когато проектът се разрасне.

Цена и наличност

Nvidia потвърждава цената на Щатски долара 3.999 (относно 3.451 евро преди данъци) и наличност от Октомври 15 на техния уебсайт. Няма да е евтино за много хора, но за определени професионални профили може да си заслужава. спестявания от абонаменти и подобрение в поверителност и време за реакция.

Първи бройки и първоначално приемане

Устройството вече е започнало да се разпространява сред партньори и експерти от индустрията. Дженсен Хуанг лично достави устройство на Илон Мъск в съоръженията на SpaceX, жест, напомнящ за доставката на първия DGX-1 през 2016 г. към OpenAI. Успоредно с това, организации като Анаконда, Кейдънс, Google, Прегръщащо лице, LM Studio, Мета o Microsoft Те тестват системата и я адаптират модели и инструменти за локално внедряване.

DGX Spark за захранване на център за данни във формат за настолни компютри, със зряла софтуерна екосистема и хардуерни партньори зад него. За тези, които трябва да работят с големи модели, възможността за локална дейност Липсата на зависимости от облака може да окаже влияние върху разходите, контрола и гъвкавостта.

Nvidia
Свързана статия:
Nvidia и глобалната битка за изкуствен интелект: предизвикателства, конкуренция и китайският пазар

Следвайте ни в Google Новини