Meta тратит миллиарды долларов на популярные компьютерные чипы Nvidia. популярные компьютерные чипы, которые лежат в основе исследований и проектов в области искусственного интеллекта.
В четверг в посте Instagram Reels Цукерберг заявил, что “будущая дорожная карта” компании в области искусственного интеллекта требует создания “массивной вычислительной инфраструктуры”. К концу 2024 года, по словам Цукерберга, эта инфраструктура будет включать 350 000 видеокарт H100 от Nvidia.
88Цукерберг не сказал, сколько графических процессоров компания уже приобрела, но H100 появились на рынке только в конце 2022 года, и их поставки были ограничены. По оценкам аналитиков Raymond James, Nvidia продает H100 по цене от $25 000 до $30 000, а на eBay они могут стоить более $40 000.
они могут стоить более 40 000 долларов. Если бы Meta платила по нижней границе ценового диапазона, то расходы составили бы около 9 миллиардов долларов.
Кроме того, Цукерберг сказал, что вычислительная инфраструктура Meta будет содержать “почти 600 тысяч вычислительных эквивалентов H100, если включить другие GPU”. В декабре такие технологические компании, как Meta, OpenAI и Microsoft. заявили, что будут использовать новые компьютерные чипы Instinct MI300X AI от AMD.
Meta нужны эти сверхмощные чипы, поскольку она проводит исследования в области искусственного общего интеллекта (AGI), что, по словам Цукерберга, является “долгосрочным видением” для компании. OpenAI и подразделение Google DeepMind также исследуют AGI, футуристическую форму ИИ, сравнимую с человеческим интеллектом.
Главный научный сотрудник Meta Ян ЛеКун подчеркнул важность графических процессоров на мероприятии для СМИ в Сан-Франциско в прошлом месяце.
“Если вы считаете, что AGI уже есть, то вам нужно покупать больше GPU”, – сказал тогда ЛеКун. Что касается генерального директора Nvidia Дженсена Хуанга, ЛеКун сказал: “Идет война за ИИ, и он поставляет оружие”.
В отчете о доходах за третий квартал компания Meta сообщила, что общие расходы в 2024 году составят от 94 до 99 миллиардов долларов, в том числе за счет расширения вычислительной техники.
“С точки зрения инвестиционных приоритетов, ИИ будет нашим крупнейшим направлением инвестиций в 2024 году, как в инженерные, так и в компьютерные ресурсы”, – сказал Цукерберг на встрече с аналитиками.
В четверг Цукерберг заявил, что Meta планирует “ответственно подходить к открытому исходному коду” своего еще не разработанного “общего интеллекта”, и этот подход компания также применяет к своему семейству больших языковых моделей Llama.
По словам Цукерберга, в настоящее время Meta обучает Llama 3, а также обеспечивает более тесное взаимодействие своей команды по исследованию фундаментального ИИ (FAIR) и исследовательской группы GenAI.
Вскоре после сообщения Цукерберга ЛеКун сообщил в посте на сайте X: “Чтобы ускорить прогресс, FAIR теперь является сестринской организацией GenAI, подразделения по разработке продуктов ИИ”.
