Colossus: Суперкомпютърът с изкуствен интелект на Илон Мъск е тук
Онлайн клъстерът, който използва 100 000 графични процесора на Nvidia, е „най-мощната система за обучение на AI в света“, заяви милиардерът
Надпреварата за лидерство в изкуствения интелект получи ново ускорение, след като Илон Мъск обяви, че стартъпът му xAI е стартирал успешно онлайн тренировъчен клъстер за изкуствен интелект Colossus.
Технологичният лидер го определи като „най-мощният“ в света.
„Този уикенд екипът на xAI пусна онлайн нашия тренировъчен клъстер Colossus 100k H100. От началото до края всичко беше направено за 122 дни. Colossus е най-мощната система за обучение на изкуствен интелект в света. Освен това след няколко месеца размерът ѝ ще се удвои до 200 000 (50 000 H200). Отлична работа на екипа, Nvidia и многобройните ни партньори/доставчици“, написа Мъск в платформата си X.
This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.
— Elon Musk (@elonmusk) September 2, 2024
Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.
Excellent…
Твърдението на милиардера за „най-мощния“ в света се основава на броя на графичните процесори, използвани от системата. Със100 000 чипове Nvidia H100, които я управляват, Colossus се оценява като по-голяма от всяка друга система за изкуствен интелект, разработена до сега, отбелязва Yahoo tech.
През юни xAI обяви, че е избрала Мемфис, щата Тенеси, за място на своя суперкомпютър. Dell Technologies и Super Micro Computer си партнират с xAI за изграждането му.
Главният изпълнителен директор на Dell Майкъл Дел поздрави Мъск в X, като написа: „За DellTech е чест да бъде част от тази важна система за обучение на AI“.
It's amazing how fast this was done, and it's an honor for @DellTech to be part of this important AI training system. Congrats!
— Michael Dell (@MichaelDell) September 2, 2024
xAI набра 6 млрд. долара в кръг на финансиране Серия Б през май, в който участваха серипзни инвеститори като Andreessen Horowitz и Sequoia Capital. Този кръг увеличи оценката на xAI до 24 млрд. долара, отбелязва Quartz.
Междувременно, стартъпът на Мъск е критикуван от местни жители на Мемфис, че с използването на газови турбини влошава замърсяването, тъй като смогът в града надхвърля националните стандарти за качество на въздуха.
В писмо до здравния отдел на окръг Шелби през август Южният екологичен правен център заяви, че суперкомпютърът на xAI „се нуждае от огромно количество електроенергия“ и че стартъпът „е инсталирал поне 18 газови турбини през последните няколко месеца“, за да задоволи това търсене, като е възможно да бъдат инсталирани още.
Стартъпът „очевидно не е кандидатствал“ за разрешителни, които се изискват преди инсталирането и експлоатацията на някои от турбините, допълва SELC, нестопанска организация за опазване на околната среда.
От там искат властите да потвърдят дали xAI експлоатира турбините си без разрешително за достъп до въздуха и да наредят на стартъпа да спре работа, докато не получи разрешително.
Припомняме, че Илон Мъск започна да изкупува десетки хиляди графични процесори през април 2023 г., за да ускори усилията в областта на изкуствения интелект, малко след като написа отворено писмо, в което призова за шестмесечна „пауза“ в развитието на технологията в цялата индустрия.
През март същата година той заяви, че компанията ще използва AI, за да „открие и подчертае манипулирането на общественото мнение“ в X, въпреки че суперкомпютърът с графични процесори вероятно ще бъде използван и за обучение на големия езиков модел (LLM) Grok.
Grok беше представен от xAI през 2023 г. в отговор на успеха на конкуренцията от ChatGPT, Gemini, Llama 3.1 и Claude. Мъск пусна актуализирания Grok-2 като бета версия през август.
„Въведохме Grok-2, което ни поставя в челните редици на развитието на изкуствения интелект“, написаха от xAI в в блога си. „Фокусът ни е върху усъвършенстването на основните възможности за разсъждения с нашия нов изчислителен клъстер. През следващите месеци ще споделим още много разработки.“
Мъск твърди, че може да развие и Tesla като „лидер в областта на изкуствения интелект и роботиката“, но според нов доклад, цитиран от CNBC, че милиардерът е пренасочвал доставките на изключително търсените чипове на Nvidia от производителя на електроавтомобили към xAI и X.
Това може да забави усилията на Tesla да инсталира изчислителните ресурси, необходими за разработването на технологията за автономни превозни средства и хуманоидния робот Optimus.
„Илон дава приоритет на внедряването на X H100 GPU клъстер в X спрямо Tesla, като пренасочва 12 000 от доставените H100 GPU, първоначално предназначени за Tesla, към X“, се казва в бележка на Nvidia от декември, получена от CNBC. „В замяна на това първоначалните поръчки на X от 12 000 броя H100, планирани за януари и юни, ще бъдат пренасочени към Tesla.“