Суперкомпютър за $3000 или как Project Digits на Nvidia демократизира разработката на AI
За разлика от традиционните графични процесори на Nvidia, Project Digits не е насочен към потребителите а към изследователите в областта на машинното обучение, по-малки компании и университетите
След бума на изкуствения интелект (AI), който превърна производителя на чипове Nvidia във втората най-ценна компания в света, изпълнителният ѝ директор Дженсън Хуанг беше посрещнат като рок звезда тази седмица на изложението CES в Лас Вегас. По време на почти двучасовата си реч в понеделник, с която започна годишната технологична конференция, той препълни залата с 12 000 места и напомни за начина, по който покойният Стив Джобс разкриваше продуктите на Apple.
Той дори завърши с трик, характерен за основателя на гиганта от Купертино: изненадващо разкриване на продукт. Хуанг представи един от сървърните шкафове на Nvidia и с помощта на сценична магия показа много по-малка версия, която приличаше на миниатюрно кубче.
„Това е суперкомпютър за изкуствен интелект“, каза Хуанг, облечен в кожено яке от алигаторска кожа. „Той работи с целия стек на Nvidia. Целият ни софтуер е в него.“
Изпълнителният директор разкри, че компютърът се нарича Project Digits и работи с модификация на графичните процесори (GPU) Grace Blackwell, които в момента захранват най-модерните сървърни клъстери за AI. Графичният процесор е съчетан в базиран на ARM централен процесор (CPU) Grace. Nvidia работи с китайската компания за полупроводници MediaTek, за да създаде т.нар. система върху чип GB10.
CES обикновено е мястото, където се представят ярки и футуристични потребителски джаджи. На тазгодишното изложение, което започна във вторник и завършва в днес, няколко компании обявиха интегрирането на изкуствен интелект в уреди, лаптопи и дори грилове. Други важни представяния включваха лаптоп от Lenovo с подвижен екран и много нови роботи, включително автономна прахосмукачка с роботизирана ръка.
За разлика от традиционните графични процесори на Nvidia за игри обаче, Project Digits не е насочен към потребителите. Той таргетира изследователите в областта на машинното обучение, по-малки компании и университети, които искат да разработят усъвършенстван AI, но не разполагат с милиарди долари за изграждане на огромни центрове за данни или закупуване на достатъчно кредити за облачни услуги.
„Има дупка по отношение на учените, занимаващи се с данни и машинно обучение, които активно работят и изграждат нещо“, каза Хуанг от сцената, цитиран от CNBC. „Може би не се нуждаете от гигантски клъстер. Просто разработвате ранните версии на модела и постоянно правите итерации. Бихте могли да го направите в облака, но това струва много повече пари.“
Суперкомпютърът ще струва около 3 000 долара, когато се появи на пазара през май, и ще се предлага от самата компания, както и от някои от нейните производствени партньори. Името Project Digits може и да се промени до момента, в който компютърът ще бъде пуснат в продажба.
„Ако имате добро име за него, свържете се с нас“, призова Хуанг.
Диверсификация на бизнеса
Това е драстично различен вид продукт от графичните процесори, които бяха в основата на историческия бум на Nvidia през последните две години. OpenAI, която стартира ChatGPT в края на 2022 г., и други създатели на модели за изкуствен интелект като Anthropic се присъединиха към големите доставчици на облачни услуги, за да се сдобият с графичните процесори за центрове за данни на компанията заради способността им да захранват най-интензивните изчислителни натоварвания. Продажбите за центрове за данни генерират 88% от приходите на Nvidia в размер на 35 млрд. долара през последното тримесечие.
Уолстрийт се фокусира върху способността на компанията да диверсифицира бизнеса си, така че да не е толкова зависима от шепа клиенти, които купуват огромни системи за изкуствен интелект.
„Беше малко плашещо да видим, че Nvidia излиза с нещо толкова добро на толкова ниска цена“, пише анализаторът на Melius Research Бен Рейтс в бележка тази седмица. Според него Nvidia е „откраднала шоуто“, благодарение на Project Digits, както и на други съобщения, включително графични карти за игри, нови чипове за роботи и сделка с Toyota.
Project Digits, който работи с Linux и същия софтуер на Nvidia, използван в сървърните клъстери с графични процесори на компанията, представлява огромен скок на възможностите за изследователите и университетите, смята Дейвид Бадер, директор на Института за наука за данните в Технологичния институт в Ню Джърси.
По думите му компютърът изглежда е в състояние да обработва достатъчно данни и информация за обучение на най-големите и най-съвременни модели. Според него Anthropic, Google, Amazon и други „биха платили 100 млн. долара за изграждането на суперкомпютър за обучение“, за да получат система с такива възможности.
„Срещу 3000 долара потребителите скоро ще могат да получат продукт, който да включат в стандартен електрически контакт в дома или офиса си”, казва Бадер. „Това е особено вълнуващо за учените, които често са напускали частната индустрия, за да получат достъп до по-големи и по-мощни компютри. Всеки студент, който има една от тези системи, струващи приблизително колкото лаптоп от висок клас или геймърски такъв, ще може да прави същите изследвания и да създава същите модели“.
Това може да се окаже и първи ход на Nvidia на пазара на чипове за персонални компютри и лаптопи, който е на стойност 50 млрд. долара.
„Не е трудно да си представим, че Nvidia би могла лесно да направи всичко сама и да позволи на системата си да работи с Windows някой ден“, пише Рейтс от Melius Research.
Самият Хуанг не изключи тази възможност, запитан за нея от анализатори на Уолстрийт във вторник.