CPU или GPU/NPU: что важнее при выборе ноутбука для искусственного интеллекта?

С продвижением искусственный разум и запуск ПК с искусственным интеллектом по мнению производителей компьютеров, эта тема должна стать одной из самых обсуждаемых в мире технологий в 2024 году. NPU стали ключевыми игроками в обработке рабочих нагрузок ИИ, но действительно ли вам нужен ПК, оснащенный этой функцией, для выполнения действий ИИ?

По приглашению NVIDIA, мы протестировали, как ноутбук оснащен выделенная видеокарта выполняет задачи ИИ даже без процессора, не подпадающего под категорию ПК с ИИ. Ниже вы поймете, что наиболее важно для тех, кто ежедневно работает с ИИ: ЦП ou GPU ：.

Что такое компьютер с искусственным интеллектом?

Этот термин начал внедряться Интел и Майкрософт с запуском семейства процессоров Intel Core Ультра. В 2023 году Microsoft заявил, что для того, чтобы компьютер можно было классифицировать как АИПК, он должен отвечать трем требованиям. Они:

• Иметь ключ Copilot чтобы активировать искусственный разум на вашей клавиатуре;
• Возможность запуска искусственного интеллекта Copilot, присутствует в Windows 11;
• Иметь процессор с НПУ посвященный, который достигает как минимум 40 TOPS (триллионы операций в секунду)

Ума НПУ — это выделенная область процессора, ориентированная на деятельность искусственного интеллекта. На практике процессор получает еще один чип, чтобы ЦП и ГП были заняты своей основной деятельностью. Эти компоненты могут даже обеспечивать поддержку NPU, но действия ИИ по существу будут обрабатываться в NPU.

Процессоры с этим NPU также рекламируются как имеющие более высокую энергоэффективность, обеспечивающие при необходимости более длительное время автономной работы без потери производительности. В этом большая разница между строками. Галактика Книга3 e Book4, запущенный Samsung.

В мае 2024 г. Microsoft создала собственную категорию компьютеров с искусственным интеллектом, получившую название Второй пилот+ ПК, с более высокими требованиями к производительности TOPS для деятельности ИИ. Чтобы считаться Второй пилот+ ПК, компьютер должен отвечать следующим требованиям:

• Иметь не менее 16 ГБ оперативной памяти;
• Иметь хранилище объемом не менее 256 ГБ на SSD;
• Иметь интегрированный NPU как минимум с 40 TOPS производительности;
• Иметь ключ, посвященный искусственному интеллекту Copilot на клавиатуре;
• На дисплее нет выреза.

Компьютеры сертифицированы как Второй пилот+ ПК в основном были созданы, чтобы догнать компьютеры Mac, С Apple. Одними из первых анонсированных моделей были ноутбуки. Surface, само по себе Microsoft, у которых есть процессоры Snapdragon X Элитный, С Компания Qualcomm. Посмотрите производительность TOPS на линейках процессоров NPU, выпущенных в этом году:

• AMD Райзен ИИ 300: до 50 ТОП производительности;
• Intel Лунар Лейк: до 48 ТОПов производительности;
• Snapdragon X Элитный: производительность до 45 ТОПС.

КОРСЕТЫ это аббревиатура от Триллионы операций в секундуили Триллион операций в секунду. Это параметр для измерения способности NPU обрабатывать искусственный интеллект на процессорах. Здесь следует основное правило: чем больше TOPS имеет NPU, тем больше у него возможностей для выполнения задач ИИ. 

Но разве предыдущие ноутбуки не имели искусственного интеллекта?

Есть кое-что, на что не рассчитывают производители процессоров: выделенные видеокарты уже имеют производительность TOPS, значительно превышающую требуемую для ПК с искусственным интеллектом, предлагая своим пользователям большую производительность в задачах искусственного интеллекта даже на компьютерах, не имеющих NPU.

Однако определение Microsoft для ПК с искусственным интеллектом e Второй пилот+ ПК не позволяет этим компьютерам с высокой производительностью в области ИИ получать эти классификации именно потому, что они не имеют встроенного NPU. И здесь мы вступаем в дискуссию о том, что NVIDIA общается: компьютеры с искусственным интеллектом существовали еще до того, как такие компании, как Самсунг, Леново, ASUS и сам Microsoft начните инвестировать на этих условиях.

Определение предназначено для создания категории, но отсутствие NPU не исключает использования ПК с мощным графическим процессором в задачах, связанных с искусственным интеллектом. Фактически, ничто не помешает вам запускать приложения с возможностями искусственного интеллекта на ПК с выделенными видеокартами и процессором, отличным от NPU.

Рынок AI-ПК все еще находится на ранней стадии развития с появлением первых ноутбуков с NPU, но процесс разработки функций и приложений AI идет небольшими шагами, и в целом пользователям доступно мало ресурсов.

В нашем Обзор Galaxy Book4 Pro, ноутбук с процессором Intel Core Ультра 7 Мы отмечаем, что без выделенного графического процессора практическое использование NPU могло бы быть более заметным в функциях видеовызовов и энергоэффективности. Однако эти моменты можно увидеть и в ноутбуках без NPU, даже выпущенных до 2023 года.

Важность видеокарты (GPU) для ИИ

Чтобы понять эту тему, давайте поймем различия между ЦП e GPU ：.

Эти два компонента служат для обработки задач на компьютере, и основное различие между ними ЦП и GPU ： являются видами деятельности, для которых они предназначены. А ЦП - Где Центральное процессорное устройство — ориентирован на выполнение общих действий компьютера, таких как запуск самой операционной системы и всех ее приложений. Его обычно называют «мозгом» компьютера, и без него он бы даже не работал: от просмотра веб-страниц до создания электронных таблиц.

A GPU ： достаточно, чтобы обеспечить поддержку, необходимую ЦП при выполнении более сложных действий и эффективном выполнении графических операций. Английская аббревиатура от Графический процессор (и широко известный как видеокарта), графический процессор ускоряет обработку изображений с помощью тысяч более мелких и более специализированных ядер, которые работают вместе, обеспечивая производительность при выполнении графических задач.

Многие процессоры, особенно предназначенные для ноутбуков, имеют Интегрированный графический процессор, который является частью процессора. Это приложение подходит для ПК общего назначения, не требующих более интенсивной обработки графики. Но когда у нас есть интенсивная обработка изображений, например, в играх, редактировании изображений и видео, Выделенный GPU (или Дискретный графический процессор) имеет все значение.

Графический процессор может направить всю свою мощность на конкретные задачи, такие как игры и даже высококачественный рендеринг контента, что увеличивает вычислительную мощность и облегчает выполнение надежных действий на компьютере, на котором он установлен, обеспечивая большую скорость и эффективность в этом типе. задачи.

И зачем использовать графический процессор для ИИ? NVIDIA указывает на три причины:

• Графические процессоры используют параллельную обработку;
• Системы графических процессоров могут масштабироваться до уровня суперкомпьютеров;
• Разработка программного обеспечения искусственного интеллекта для графических процессоров консолидирована.

Деятельность искусственный разум требуют высокого уровня специализированных вычислений. Пакетируя инструкции и обрабатывая большие объемы данных, выделенные графические процессоры могут ускорять рабочие нагрузки, превосходя возможности центрального процессора. Если копнуть глубже, сама NVIDIA заявляет, что Инвестировать в ноутбук с выделенной картой интереснее, чем в модель со встроенным NPU..

Примером важности выделенных графических процессоров для деятельности ИИ является ChatGPT: Знаменитый бот для создания контента, который пишет, решает проблемы и даже создает изображения, работает на базе графических процессоров.

A OpenAI заключила партнерство с NVIDIA, чтобы его большую языковую модель могли использовать более 100 миллионов человек. Самая последняя информация заключается в том, что GPT-4, сейчас обновлено ГПТ-4о, имел более триллиона параметров, показатель его математической плотности — скачок по сравнению с менее чем 100 миллионами параметров в популярном LLM в 2018 году, ставшим возможным с использованием графических процессоров.

Тем не менее, если вы человек, который занимается созданием контента, часто совершает видеозвонки или даже любит много играть, вам определенно понадобятся ресурсы искусственного интеллекта, чтобы работать лучше. И это касается всего:

• Эффекты видеозвонка для уменьшения внешнего шума и размытия фона;
• Иметь доступ к технологиям DLSS e Ray Tracing;
• Возможность быстрее открывать фотографии;
• Рендеринг видеоконтента (вертикальный или горизонтальный);
• Использование некоторого искусственного интеллекта для заливки изображений, масштабирования или даже преобразования формата видео;
• Возможность экспортировать контент за меньшее время.

Большим преимуществом использования видеокарты является сокращение времени обработки задач искусственного интеллекта. По приглашению NVIDIA, следуйте приведенным ниже тестам, сравнивающим использование графического процессора и процессора/NPU для деятельности ИИ, чтобы узнать результаты и сделать выводы.

Сравнение графических процессоров и графических процессоров. ЦП/НПУ для ИИ

Теперь давайте сравним, как графический процессор выполняет задачи ИИ с NPU, созданным специально для этой цели. Проверьте методологию и результаты испытаний.

Как мы проводим тесты

Чтобы провести эти тесты, мы рассмотрим несколько приложений и игр, которые используют графический процессор для повышения производительности. А NVIDIAв партнерстве с Avell, одолжил блокнот А65 ИОН с процессором Intel Core i9-12900HX 12-го поколения, с выделенной видеокартой NVIDIA GeForce RTX 4060 и 16 ГБ оперативной памяти (разделенной на две планки по 8 ГБ) типа DDR5.

Для обеспечения максимальной производительности подключаем ноутбук к розетке. Затем мы проанализировали производительность ресурсов, чтобы увидеть, будут ли действия ИИ работать так же даже без NPU. Для тестирования разрешение видео составляло 2560×1600, а частота обновления достигала 240 Гц.

видеокарта RTX 4060 Присутствующий в ноутбуке выполняет 233 триллиона операций в секунду. Для сравнения посмотрите рабочие цифры всех моделей серии RTX 40 для ноутбуков NVIDIA:

• RTX 4050: производительность 194 ТОПС;
• RTX 4060: 233 ТОПС производительности;
• RTX 4070: 321 ТОПС производительности;
• RTX 4080: 521 ТОПС производительности;
• RTX 4090: 686 ТОПС производительности.

Ноутбук оснащен твердотельным накопителем NVME емкостью 500 ГБ. Мы выполнили все обновления операционной системы, чтобы устройство было в самой полной версии, то же самое касается и драйверов графического процессора.

Чат RTX

Это личный помощник, разработанный NVIDIA который в будущем может стать интересным конкурентом для таких опций, как Copilot, С Microsoft. Самое интересное, что он работает локально исключительно на ноутбуке или настольном компьютере с выделенными видеокартами NVIDIA.

Лучше всего он работает как органайзер информации, но может читать файлы, сохраненные в памяти вашего компьютера, что может оказаться большим подспорьем для тех, кто хотел бы иметь доступ к сводкам.

Если вы никогда не использовали это приложение, стоит помнить, что вам придется обучать его с нуля, поэтому лучшие функции будут видны в долгосрочной перспективе. Но это приложение, которое позволяет вам иметь личного помощника, работающего локально и без необходимости подключения к Интернету.

Холст NVIDIA

Это эксклюзивное приложение для тех, кто любит рисовать мышкой, касанием экрана или даже ручкой на доске. С Canvas вам не нужно быть художником: просто создайте эскиз с простыми формами и без деталей, чтобы программа создала детальное изображение. Приложение работает только на компьютерах или ноутбуках с выделенными картами от NVIDIA, недоступно для компьютеров, оснащенных только NPU.

Самое интересное, что благодаря выделенной видеокарте с локальной обработкой результаты можно увидеть в реальном времени. Помимо оживления своих рисунков, вы можете полностью изменить рисунок одним касанием.

Время появления результата на экране меньше секунды, смена темы также происходит за несколько тысячных долей секунды. Когда вы закончите рисовать рисунки, просто экспортируйте их в приложение для редактирования и завершите работу.

Трансляция NVIDIA

Это одно из приложений, которое больше всего позволяет сравнивать с тем, что может NPU, пока эта статья не будет закрыта. Как мы уже говорили в нашем специальная статья об этом приложении, он станет отличным помощником для тех, кто часто совершает видеозвонки и прямые трансляции, за счет снижения шума как в аудио, так и в видео.

Анализируя использование процессоров с NPU, выпущенных в 2023 году, все еще очень просто. Чипы, ориентированные на деятельность ИИ, могут даже размыть фон, а также выполнить автоматическую фокусировку, но не более того. Нет шумоподавления, встроенного переключения фона и даже использования виньетирования, которые есть в NVIDIA Broadcast.

Тем не менее, это факт: Трансляция NVIDIA, который работает только на ноутбуках и настольных компьютерах с видеокартами NVIDIA, является гораздо более продвинутым.

Фокус

Это инструмент, использующий стабильная диффузия в качестве основы для создания изображений локально на компьютере без необходимости подключения к Интернету. Вам может быть интересно, не могут ли Windows Copilot и ChatGPT больше создавать изображения, верно? Да, могут, но для работы этих инструментов все равно необходимо подключение к Интернету, что не обязательно для Фукус. Посмотрите это фото, созданное командой «слон на пляже в солнечный день»:

Это приложение, разработанное для работы на ноутбуках и компьютерах с выделенными видеокартами, использует в качестве основы графический процессор, и для его использования вы можете отключить Интернет. А изображения впечатляют: за 57 секунд мы получаем граничащие с реализмом высококачественные фотографии, сделанные локально. Смотреть:

Несмотря на то, что у них есть чип, ориентированный исключительно на работу искусственного интеллекта, процессорам с NPU 2023 года все равно требуется больше производительности для выполнения локальной обработки. Кто знает, возможно, ситуация изменится с запуском Второй пилот + стандарт ПК от Microsoft, но давайте подождем будущего, чтобы получить ответы.

Процион

Проведение тестов с использованием NPU на данный момент немного затруднено, поскольку, поскольку мы находимся на первом этапе внедрения этой технологии, приложений, оптимизированных для этой функции, все еще мало. Однако через Эталонное видение искусственного интеллекта da Процион, можно было заметить разницу, поскольку он может измерять обработку ИИ как на графических, так и на NPU.

Для начала, Галактика Книга4 Ультра, с процессором Intel Core Ультра 9, запущенный в 2023 году и имеющий специальный NPU, достиг 494 баллов.

вы Авелл А55 ИОН мы получили, используя видеокарту для деятельности ИИ, добились большего. Они были Точки 539, спектакль почти 10% выше. На фотографии ниже показаны результаты, полученные при подключенном ноутбуке в режиме высокой производительности.

Таким образом, этот простой тест показывает нам, что видеокарта, достигающая производительности более 200 TOPS, более интересна, чем процессор с производительностью менее 50 TOPS через NPU.

Ресурсы Adobe

Здесь мы имеем очевидное: существует несколько особенностей Photoshop и Lightroom которые работают только на ноутбуках со специальными видеокартами, например, фильтры для удаления шума, раскрашивание фотографий в черно-белые и другие.

С видеокартами от NVIDIA, кто имеет доступ к Photoshop можно использовать Нейронные фильтры, которые позволяют менять выражение лица, ориентацию освещения и даже делать людей моложе (или старше). Все это происходит через AI, но при поддержке видеокарты и без необходимости использования NPU.

Некоторые инструменты, например Adobe Firefly ou Генеративное заполнение (Генеративная заливка), запускается непосредственно с серверов Adobe (а также Windows Copilot и ChatGPT от соответствующих компаний).

Другими словами: наличие компьютера с NPU может помочь вам получить доступ к инструментам коррекции изображения, но наличие выделенной видеокарты более важно для повышения повседневной производительности благодаря локальной обработке.

Заключение

Подходя к концу этого сравнения, легко понять, что ноутбук или компьютер с выделенная видеокарта имеет большую производительность искусственного интеллекта, чем ноутбук с Выделенный НПУ, называемый AI PC. И причин много.

Во-первых, видеокарты имеют наибольшее количество TOPS производительность, чем у NPU, что позволяет некоторым приложениям искусственного интеллекта работать локально и без необходимости подключения к Интернету. Это полезно в нескольких задачах: создание текста и изображений, коррекция фотографий, эффекты видеозвонков и даже в играх благодаря таким функциям, как трассировка лучей и DLSS.

Еще одним фактором, который дает преимущества компьютерам с графическим процессором, является высокая доступность приложений и функционала для этих моделей. Помимо собственных эксклюзивных приложений NVIDIA, крупные игроки технологического рынка уже разработали (и продолжают разрабатывать) способы воспользоваться преимуществами высокой производительности выделенных графических процессоров.

NPU обещают широкий доступ к возможностям искусственного интеллекта, но на момент публикации этого контента можно было проверить их производительность только в эффектах видеовызовов. По-прежнему не хватает приложений для новых процессоров NPU, подлежащих тестированию, но есть надежда, что новые приложения начнут появляться в больших количествах.

С другой стороны, очень положительный момент в отношении обработанных НПУ (независимо от того, производятся ли они Компания Qualcomm, Intel ou AMD) заключается в том, что у них есть более низкие затраты энергии, что-то важное для тех, кому нужно больше времени вдали от розетки. Наши тесты аккумуляторов с Галактика Книга4 Ультра Они показали использование в течение шести часов, что-то невероятное по сравнению с предыдущими поколениями.

Ноутбуки с выделенным графическим процессором требуют больше энергии для того уровня производительности, который они обеспечивают, поэтому потребляют больше заряда батареи и ограничивают время, проведенное вдали от розеток.

Таким образом, выбор между двумя типами ноутбуков зависит от ответа на следующий вопрос: нужен ли вам ноутбук, который обеспечит высокую производительность искусственного интеллекта при большем энергопотреблении, или вы предпочитаете модель с большей автономностью энергопотребления и меньшей производительностью искусственного интеллекта? Ответ на этот вопрос во многом будет зависеть от того, каким пользователем вы являетесь на самом деле.

Если вы человек, который не будет использовать ресурсы искусственного интеллекта так часто и предпочитаете иметь ноутбук, который использует мало энергии, выбор - блокнот с процессор с NPU. Теперь, если вам нужен обработка задач с высоким уровнем искусственного интеллекта в вашей повседневной жизни лучшая рекомендация — выбрать компьютер с Выделенный GPU.

Вы поняли тему? Какой твой любимый тип? С выделенным графическим процессором или встроенным NPU? Расскажи нам Комментировать!

См. также

NVIDIA критикует компьютеры с искусственным интеллектом, заявляя, что ноутбуки с ее видеокартами более мощные

Что такое NVIDIA, компания стоимостью 10 триллионов реалов

NVIDIA критикует компьютеры с искусственным интеллектом, заявляя, что ноутбуки с ее видеокартами более мощные

Что такое NVIDIA, компания стоимостью 10 триллионов реалов

С информацией: Чистое хранилище l Аналитика Видхья l Puget Systems l ASUS l Холодный взрыв l Авто Стол l PC World l Quora l NVIDIA

Рассмотрено Главкон Витал от 18.