Ранее появились слухах, что сервис Microsoft Copilot на основе ИИ скоро будет работать локально на ПК, а не в облаке. На саммите Intel AI в Тайбэе, руководители Intel в ходе официальной сессии вопросов и ответов заявили, что Copilot скоро будет работать локально на ПК. Представители компании также упомянули требование в 40 TOPS для ИИ-ПК следующего поколения.
Microsoft в основном хранила молчание о своих планах в отношении ИИ-ПК и даже позволила Intel официально представить свое определение ИИ-ПК. Новое совместно разработанное определение Microsoft и Intel гласит, что ИИ-ПК будет иметь нейронный процессор (NPU), центральный процессор, графический процессор, Microsoft Copilot и физическую клавишу Copilot прямо на клавиатуре.
ПК, соответствующие этим требованиям, уже поставляются, но это только первая волна инициативы по созданию ИИ-ПК. Intel раскрыла будущие требования Microsoft к ИИ-ПК в ответ на вопросы THG о потенциальных требованиях к памяти для ИИ-ПК.
Будет некий континуум или эволюция, когда мы перейдем к ИИ-ПК следующего поколения с требованием 40 TOPS в NPU. У нас есть наш продукт следующего поколения, который появится и будет относиться к этой категории.
Примечательно, что NPU Intel Meteor Lake обеспечивает до 34 TOPS, в то время как конкурирующая платформа AMD Ryzen имеет NPU с 39 TOPS, и обе не дотягивают до требований Microsoft. У Qualcomm будут долгожданные чипы X Elite с производительностью 45 TOPS, которые появятся на рынке позже в 2024 году.
* * *
Что такое TOPS ?
Чтобы иметь возможность сравнивать различные архитектуры NPU простым способом, был создан показатель «триллион операций в секунду» (TOPS). Среди экспертов метрика не считается оптимальной метрикой, но она фиксирует сложный вопрос в понятной и сопоставимой цифре: сколько математических операций мой чип может выполнить за одну секунду? Это число можно использовать для быстрого сравнения различных чипов. Качество операций или даже то, какие операции задействованы более подробно, не принимается во внимание. Во многих случаях чипы также ориентированы на конкретную задачу, где они могут затем добиться максимальной производительности. Поэтому прямое сравнение не всегда оправдано.
В большинстве случаев TOPS измеряются с классической архитектурой «ResNet50», а иногда и с архитектурой «MobileNet». В приложениях ResNet50 теперь часто заменяется более современными сетями. Тем не менее, это дает хорошую базу для сравнения.
© skine.ru (21.11.22)
* * *
TrendForce: ПК с Windows AI требуется минимум 16 ГБ DRAM и 40 TOPS: habr.com (20.01.24)
_
192
