Стартап в области искусственного интеллекта Sambanova Systems, который был основан в 2017 году выпускниками Sun, Oracle и Stanford, объявил о самых быстрых в мире Depepeek-R1 671B. Такие показатели недоступны для оборудования NVIDIA.
Самбанова достигла успеваемости DeepSeek-R1 с 198 токенов в секунду только в 16 специально подготовленных достижения Accelerator-An, которое потребует размещения 40 стеков с 320 графическими процессорами Nvidia. «Sambanova на основе чипсов SN40L RDU стала самой быстрой платформой DeepSeek Launch. Это пятикратное увеличение до скорости последнего графического процессора на стек, и к концу года мы предложим в 100 раз больше емкости для DeepSeek-R1» — Обещал соучредителя и генерального директора Самбанавы Родриго Лян.
Ресурсные рабочие нагрузки искусственного интеллекта традиционно защищаются графическими процессорами NVIDIA, но Самабанаву говорит, что компактная настраиваемая архитектура созданного потока данных является более эффективным решением. Его аппаратное обеспечение работает в три раза быстрее и потребляет в пять раз меньше энергии, чем самые мощные современные графические процессоры, сохраняя при этом полную вычислительную мощность Deepeek-R1. Достижение было подтверждено экспертами из искусственного анализа, компании, которая выполняет независимые оценки системы ИИ.
DeepSeek-R1 671B с открытым исходным кодом доступен в облаке Самабанава через API. Компания активно увеличивает свои мощности, и надежды в ближайшем будущем достигнут общего объема 20 000 токенов в секунду.
