Стартап Илона Маска по искусственному интеллекту xAI расширит свой суперкомпьютер Colossus в десять раз — до более чем 1 миллиона графических процессоров. Это поможет сократить разрыв с такими конкурентами, как Google, OpenAI и Anthropic, сообщает Financial Times.
Colossus был создан в этом году всего за 3 месяца – теперь он включает в себя массив из 100 000 ускорителей искусственного интеллекта Nvidia и по этим меркам является крупнейшим в мире суперкомпьютером. Он используется для обучения больших языковых моделей (Магистр права) для чат-бота Grok, у которого меньше пользователей, чем у ChatGPT OpenAI и Gemini от Google.
Работы по десятикратному расширению объекта в Мемфисе, штат Теннесси, уже начались. Поддержать проект поддержат Nvidia, Dell и Supermicro — будет сформирована «специальная целевая группа».
Компании, занимающиеся искусственным интеллектом, активно пытаются обезопасить ускорители ИИ или доступ к центрам обработки данных — обучение и работа с большими языковыми моделями требуют серьезных вычислительных мощностей. Например, OpenAI, компания, создавшая ChatGPT, получила от Microsoft инвестиции на сумму более 14 миллиардов долларов. доллар. Компания Amazon Anthropic, создавшая чат-бота Claude, получила инвестиции в размере 8 миллиардов долларов. долларов — гигант электронной коммерции также пообещал своим партнерам доступ к новому кластеру из более чем 100 000 AI-ускорителей собственной разработки.
Маск решил не создавать партнёрские проекты, а самостоятельно построить с нуля компанию xAI, которая недавно привлекла ещё 5 миллиардов. долларов при рыночной оценке в 45 миллиардов долларов. доллар. Проект представляет собой конкурс OpenAI, в создании которого в 2015 году также принял участие бизнесмен — недавно он осудил его, чтобы не допустить реорганизации в коммерческую компанию.
Генеральный директор Nvidia Дженсен Хуанг ранее заявлял, что объекты масштаба Colossus обычно строятся в течение 3 лет, а не 3 месяцев.
«Мы не просто идем впереди – мы ускоряем прогресс беспрецедентными темпами, обеспечивая стабильность электросети с помощью технологии Megapack».
сказал Брент Мэйо, старший менеджер xAI по строительству и инфраструктуре, когда компанию обвинили в манипулировании разрешениями на строительство
