3DNews.
Привет! Это 3DNews и ежедневная рассылка, в которой мы кратко рассказываем, что произошло в мире технологий. Главное за сегодня: | | |
ИИ-монополии Nvidia приходит конец - AMD и Amazon имеют шанс разрушить монополию Nvidia на рынке чипов для ИИ. Выпущенный год назад ускоритель MI300 и недавно анонсированный Trainium 2 выглядят грозным оружием.
- До недавних пор у ускорителей Nvidia для работы с ИИ не было альтернатив. Но ситуация меняется: ускорители AMD и Amazon показали, что лучшая производительность при значительно более низкой цене и более низком энергопотреблении вполне достижимы.
- Конкуренты Nvidia фокусируются на быстром инференсе — непосредственном использовании уже обученных нейросетей (например, на генерации картинок по запросам или на выдаче ответов на вопросы, задаваемые чат-ботам).
- Особенно грозно выглядит Amazon Trainium 2. Компания представила не только чипы, но и системы на их основе, включающие до 64 ускорителей. Такие системы собирается использовать Apple.
- Интерес к Trainium 2 проявил стартап Anthropic (развивающий семейство моделей Claude), который заключил с Amazon партнёрское соглашение и получит в своё распоряжение гигантский кластер.
- Кроме AMD и Amazon создавать конкурирующие с ускорителями Nvidia решения пытаются многочисленные стартапы, в числе которых SambaNova Systems, Groq и Cerebras Systems.
- Объём трат на ИИ-дата-центры без чипов Nvidia за этот год вырастет в полтора раза до $126 млрд. Это показывает заинтересованность рынка в альтернативных ускорителях.
| | |
Понравилась статья? Подпишитесь на канал, чтобы быть в курсе самых интересных материалов
Подписаться
Свежие комментарии