Компания Tesla разрабатывает собственные нейронные микропроцессоры для обучения автопилота, но возглавляющий её Илон Маск (Elon Musk) для иных собственных инициатив готов деятельно применять ускорители вычислений Nvidia. К примеру, для обучения немаленький языковой модели Grok 3, по его словам, стартапу xAI будет нужно до 100 000 ускорителей Nvidia H100.
Эти заявления, как объясняет Tweaktown, богач сделал на этой неделе в процессе выступления в сервисе аудиочатов Spaces. Он признался, что для обучения языковой модели Grok 2 потребовались запасы 20 000 ускорителей Nvidia H100, добавив, что для языковой модели последующего поколения их будет нужно уже 100 000 штук. В январе этого года Маск сравнил уровень быстродействия фирменного суперкомпьютера Dojo ценой $500 миллиона с системой из 10 000 ускорителей Nvidia H100. В текущем году только компания Tesla должна израсходовать на закупку таких ускорителей еще больше средств, а ведь сейчас под опекой Личина находится и стартап xAI, основанный в июле прошедшего года и резко нуждающийся в масштабировании вычислительных ресурсов. По оценкам главы Tesla, компания должна расходовать несколько млрд в год на закупку ускорителей, чтоб оставаться на плаву исходя из убеждений конкуренции.
Как Илон Маск уточнил на страничках принадлежащей ему соцсети X, точно компания Tesla является вторым по величине после Meta✴ Platforms владельцем ускорителей вычислений Nvidia H100, их в его распоряжении находится от 30 000 до 350 000 штук, по оценкам управляющего Tesla. Соц сеть X и стартап xAI, по словам Личина, вместе располагают третьим по величине объёмом ускорителей Nvidia H100 в мире.
По данным Reuters, Маск также предрёк возникновение превосходящего «наиумнейших людей» по своим когнитивным возможностям так именуемого «сильного» искусственного ума (AGI) или в последующем году, или ещё через год. Для обучения модели Grok 2, которое должно кончиться к маю этого года, как признался Маск, компании xAI на данный момент не хватает точно ускорителей вычислений Nvidia. В наиблежайшие год либо 2-ва, по воззрению Личина, основным сдерживающим развитие систем ИИ аспектом станет нехватка энергоснабжающих ресурсов.
