CPU или GPU/NPU: кое е по-важно при избора на лаптоп за AI?
Индекс
С напредването на изкуствен интелект и стартирането на AI компютри от производителите на компютри темата трябва да бъде една от най-обсъжданите в света на технологиите през 2024 г. NPU са се превърнали в ключови играчи в обработката на AI работни натоварвания, но наистина ли имате нужда от компютър, оборудван с тази функция, за да извършвате AI дейности?
По покана на NVIDIA, тествахме как един ноутбук е оборудван с специална видеокарта изпълнява задачи с изкуствен интелект дори без процесор, който не отговаря на изискванията за категорията на компютъра с изкуствен интелект. Разберете по-долу какво е най-важно за тези, които работят с изкуствен интелект ежедневно: процесор ou GPU.
Какво е компютър с изкуствен интелект?
Терминът започва да се прилага от Intel и Microsoft с пускането на пазара на семейството процесори Intel Core Ultra. През 2023 г., Microsoft заяви, че за да бъде класифициран компютър като AIPC, трябва да отговаря на три изисквания. те ли са:
- Имайте ключ втори пилот за да активирате изкуствен интелект на вашата клавиатура;
- Възможност за управление на изкуствен интелект втори пилот, присъства в Windows 11;
- Имате процесор с NPU посветен, който достига най-малко 40 ТОП (трилиони операции в секунда)
A NPU е специална област на процесора, фокусирана върху дейности с изкуствен интелект. На практика процесорът получава още един чип, така че CPU и GPU да са посветени на основните си дейности. Тези компоненти могат дори да осигурят поддръжка за NPU, но дейностите на AI по същество ще се обработват в NPU.
Процесорите с този NPU също се рекламират като имащи по-добра енергийна ефективност, осигуряващи по-дълъг живот на батерията, когато е необходимо, без да е необходимо да губят производителност. Това е голямата разлика между редовете Галактична книга 3 e Book4, стартиран от Samsung.
През май 2024 г., Microsoft създаде своя собствена категория компютри с изкуствен интелект, която носи името на Копилот+ компютър, с по-високи изисквания за производителност на TOPS за дейности с изкуствен интелект. Да се счита за a Копилот+ компютър, компютърът трябва да отговаря на следните изисквания:
- Имате поне 16 GB RAM памет;
- Имайте място за съхранение от поне 256 GB чрез SSD;
- Имате интегриран NPU с поне 40 TOPS на изпълнението;
- Имайте ключ, посветен на изкуствения интелект втори пилот на клавиатурата;
- Няма прорез на дисплея.
Компютри, сертифицирани като Копилот+ компютър са основно създадени, за да догонят компютрите MacЗащото iPhone. Едни от първите обявени модели бяха лаптопи Площ, собствена Microsoft, които имат процесори Snapdragon X EliteЗащото Qualcomm. Вижте производителността на TOPS на линиите NPU процесори, пуснати тази година:
- AMD Ryzen AI 300: до 50 върхове на производителност;
- Intel Lunar Lake: до 48 върхове на производителност;
- Snapdragon X Elite: до 45 върхове на производителност.
Горни дрехи е акронимът на Трилиони операции в секундаИли Трилион операции в секунда. Това е параметърът за измерване на способността на NPU да обработва изкуствен интелект на процесори. Тук следва основното правило: колкото повече TOPS има един NPU, толкова по-голям капацитет ще има той да изпълнява AI дейности.
Но предишните преносими компютри нямат ли изкуствен интелект?
Има нещо, на което производителите на процесори не разчитат: специализираните видеокарти вече имат производителност TOPS доста над това, което се изисква за компютри с изкуствен интелект, предлагайки повече производителност при задачи с изкуствен интелект за своите потребители дори на компютри, които нямат NPU.
Въпреки това, определението за Microsoft за AI компютри e Компютри Copilot+ не позволява на тези компютри с висока производителност в AI да получат тези класификации, точно защото нямат интегриран NPU. И тук влизаме в дискусията, че NVIDIA комуникира: компютри с изкуствен интелект са съществували още преди компании като Samsung, Lenovo, ASUS и собствените Microsoft започнете да инвестирате при тези условия.
Дефиницията, предназначена да създаде категория, но липсата на NPU не изключва компютър с мощен GPU да бъде използван в задачи, включващи изкуствен интелект. Всъщност нищо няма да ви попречи да стартирате приложения с AI възможности на компютри със специални графични карти и не-NPU процесор.
Пазарът на компютърни компютри с изкуствен интелект все още е в ранните си етапи с пристигането на първите преносими компютри с NPU, но процесът на разработване на функции и приложения с изкуствен интелект върви с малки стъпки, с малко ресурси, достъпни за потребителите като цяло.
В нашата Преглед на Galaxy Book4 Pro, лаптоп с процесор Intel Core Ultra 7 и без специален графичен процесор, споменаваме, че практическото използване на NPU може да бъде по-забележимо при функциите за видео разговори и енергийната ефективност. Това обаче са точки, които могат да се видят и в преносими компютри без NPU, дори и тези, пуснати преди 2023 г.
Значението на графичната карта (GPU) за AI
За да разберем тази тема, нека разберем разликите между процесор e GPU.
Двата компонента служат за обработка на задачи на компютър, а основната разлика между процесор и GPU са дейностите, за които са предназначени. А процесор - Където Централен процесор — е фокусиран върху извършването на общите дейности на компютъра, като например стартиране на самата операционна система и всички нейни приложения. Обикновено се определя като „мозъкът“ на компютъра и без него дори не би работил: варира от сърфиране в интернет до създаване на електронни таблици.
A GPU достатъчно, за да осигури поддръжката, от която се нуждае процесорът, когато се грижи за по-сложни дейности, изпълнявайки ефективно графични дейности. Английски акроним за Графичен процесор (и популярно известен като видео карта), GPU ускорява обработката на изображения чрез хиляди по-малки, по-специализирани ядра, които работят заедно, за да осигурят производителност при графични задачи.
Много процесори - особено тези, предназначени за преносими компютри - имат a Вграден GPU, който е част от процесора. Това приложение е подходящо за компютри с общо предназначение, които не изискват по-интензивна графична обработка. Но когато имаме интензивна обработка на изображения, като например при игри и редактиране на изображения и видео, Специализиран GPU (или Дискретен GPU) прави всичко различно.
Графичният процесор може да насочи цялата си мощност към конкретни задачи, като игри и дори рендиране на висококачествено съдържание, което увеличава мощността на обработка и улеснява изпълнението на стабилни дейности на компютъра, на който е инсталиран, осигурявайки по-голяма скорост и ефективност в този тип на задачата.
И защо да използвате GPU за AI? NVIDIA посочва три причини:
- Графичните процесори използват паралелна обработка;
- GPU системите могат да се мащабират до суперкомпютърни нива;
- Разработката на AI софтуер за GPU е консолидирана.
дейности изкуствен интелект изискват високо ниво на специализирани изчисления. Чрез групиране на инструкции и обработка на големи количества данни, специализираният GPUS може да ускори работните натоварвания извън възможностите на процесора. Задълбочавайки се, самата NVIDIA заявява това Инвестирането в лаптоп със специална карта е по-интересно от инвестирането в модел с интегриран NPU.
Пример за важността на специалните графични процесори за дейности с изкуствен интелект е ChatGPT: Известният бот за създаване на съдържание, който пише, решава проблеми и дори създава изображения, работи на базата на GPU платформи.
A OpenAI влезе в партньорство с NVIDIA, така че неговият голям езиков модел да може да се използва от повече от 100 милиона души. Най-новата информация е, че GPT-4, сега актуализиран от GPT-4o, имаше повече от трилион параметри, метрика на неговата математическа плътност - скок от по-малко от 100 милиона параметри в популярна LLM през 2018 г., станал възможен с помощта на графични процесори.
Въпреки това, ако сте човек, който работи със създаване на съдържание, прави много видео разговори или дори обича да играе много, определено ще имате нужда от ресурси с изкуствен интелект, за да се представите по-добре. И това важи за всичко:
- Ефекти за видео разговори за намаляване на външния шум и замъгляване на фона;
- Имате достъп до технологии DLSS e Проследяване на Рей;
- Възможност за по-бързо отваряне на снимки;
- Рендиране на видео съдържание (вертикално или хоризонтално);
- Използване на AI за запълване на изображения, извършване на мащабиране или дори преобразуване на видео формат;
- Възможност за експортиране на съдържание за по-малко време.
Голямата печалба при използването на графична карта е обработката на задачи с изкуствен интелект за по-малко време. По покана на NVIDIA, следвайте тестовете по-долу, сравнявайки използването на GPU и CPU/NPU за AI дейности, за да разберете резултатите и да направите своите заключения.
Сравнения между GPU срещу. CPU/NPU за AI
Сега, нека сравним как GPU се сравнява при изпълнение на AI задачи с NPU, създаден специално за тази цел. Проверете методологията и резултатите от теста.
Как извършваме тестовете
За да извършим тези тестове, ще преминем през няколко приложения и игри, които използват GPU за осигуряване на по-добра производителност. А NVIDIA, в партньорство с авел, зае тетрадката A65 ION с процесор 9-то поколение Intel Core i12900-12HX, със специална видеокарта NVIDIA GeForce RTX 4060 и 16 GB RAM (разделена на два стика по 8 GB) тип DDR5.
За да осигурим максимална производителност, ние включваме лаптопа в електрически контакт. След това анализирахме производителността на ресурсите, за да видим дали, дори и без NPU, дейностите на AI ще изпълняват същото. За тестване разделителната способност на видеото беше 2560×1600, с честота на опресняване, достигаща 240Hz.
видеокартата RTX 4060 в бележника извършва 233 трилиона операции в секунда. За сравнение вижте работните числа за всички модели от серията RTX 40 за лаптопи на NVIDIA:
- RTX 4050: 194 TOPS производителност;
- RTX 4060: 233 върхове на производителност;
- RTX 4070: 321 върхове на производителност;
- RTX 4080: 521 върхове на производителност;
- RTX 4090: 686 ВЪРХОВЕ производителност.
Ноутбукът е оборудван с 500 GB NVME SSD. Извършихме всички актуализации на операционната система, така че устройството да е в най-пълната си версия, като същото важи и за драйверите на GPU.
Чат RTX
Това е личен асистент, разработен от NVIDIA което в бъдеще може да бъде интересен конкурент за опции като втори пилотЗащото Microsoft. Най-интересното е, че работи локално изключително на преносим компютър или настолен компютър със специални графични карти NVIDIA.
Работи най-добре като организатор на информация, но може да чете файлове, записани в паметта на вашия компютър, което може да бъде голяма помощ за тези, които биха искали да имат достъп до резюмета.
Ако никога не сте използвали това приложение, струва си да запомните, че ще трябва да го обучите от нулата, така че най-добрите функции ще се видят в дългосрочен план. Но това е приложение, което ви позволява да имате личен асистент, който работи локално и без нужда от интернет връзка.
NVIDIA Canvas
Това е изключителното приложение за тези, които обичат да рисуват с мишката, докосват екрана или дори чрез бялата дъска с химикал. С Canvas не е нужно да сте художник: просто създайте скица с прости форми и без детайли, за да може програмата да създаде детайлно изображение. Приложението работи само на компютри или преносими компютри със специални карти от NVIDIA, не се предлага за компютри, които имат само NPU.
Най-интересното е, че благодарение на специалната видеокарта с локална обработка, резултатите се виждат в реално време. В допълнение към оживяването на вашите драскулки, можете напълно да промените рисунка само с едно докосване.
Времето за показване на резултата на екрана е по-малко от секунда, а смяната на темата също става за няколко хилядни от секундата. Когато завършите чертежите, просто ги експортирайте в приложение за редактиране и завършете работата си.
Излъчване на NVIDIA
Това е едно от приложенията, които най-много позволяват сравнение с това, което NPU може да направи, докато тази статия не бъде затворена. Както вече казахме в нашия специална статия за това приложение, той работи като чудесен помощник за тези, които правят много видео разговори и предавания на живо, като намалява шума както в аудио, така и във видео.
Анализирайки използването на процесори с NPU, стартирани през 2023 г., всичко все още е много основно. Чиповете, фокусирани върху дейности с изкуствен интелект, могат дори да замъглят фона и също да извършват автоматичен фокус, но нищо повече. Няма намаляване на шума, естествено превключване на фона и дори използването на винетка, които са функции, присъстващи в NVIDIA Broadcast.
Това каза, това е факт: Излъчване на NVIDIA, който работи само на преносими компютри и настолни компютри с графични карти NVIDIA, е много по-напреднал.
Съсредоточете се
Това е инструментът, който използва стабилна дифузия като основа за генериране на изображения локално на компютъра, без нужда от интернет. Може би се чудите дали Windows Copilot и ChatGPT вече не могат да създават изображения, нали? Да, могат, но все пак е необходимо да имате интернет връзка, за да работят тези инструменти, което не е необходимо Фуукус. Вижте тази снимка, създадена от командата „слон на плажа в слънчев ден“:
Разработено да работи на преносими компютри и компютри със специални графични карти, това приложение работи с помощта на GPU като основа и можете да деактивирате интернет, за да го използвате. А изображенията са впечатляващи: за 57 секунди получаваме висококачествени снимки, които граничат с реализъм, и всичко това е направено на място. Виж:
Въпреки че имат чип, фокусиран единствено върху AI дейности, процесорите с 2023 NPU все още се нуждаят от повече производителност, за да извършват локална обработка. Кой знае, може би това ще се промени с пускането на пазара на Copilot + PC стандарт от Microsoft, но нека изчакаме бъдещето, за да имаме отговори.
Просион
Провеждането на тестове с NPU е малко трудно в момента, защото, тъй като сме в първата фаза на внедряване на тази технология, приложенията, оптимизирани за тази функция, все още са оскъдни. Въпреки това, чрез AI Benchmark Vision da Просион, беше възможно да забележите разликата, тъй като може да измерва обработката на AI както на GPU, така и на NPU.
Да започнем с това, Galaxy Book4 Ultra, с процесор Intel Core Ultra 9, стартиран през 2023 г. и със специален NPU, постигнат 494 точки.
вече в Avell A55 ION получихме, когато използвахме графичната карта за AI дейности, постигнахме повече от това. Те бяха 539 точки, изпълнение почти 10% по-висока. Снимката по-долу показва резултатите, получени с включен лаптоп в режим на висока производителност.
Следователно този прост показател ни показва, че графична карта, която достига повече от 200 TOPS, е по-интересна от процесор с по-малко от 50 TOPS на производителност чрез NPU.
Ресурси на Adobe
Тук имаме очевидното: има няколко характеристики на Photoshop и от Lightroom които работят само на преносими компютри със специални видеокарти, като например филтри за премахване на шум, оцветяване на снимки в черно и бяло, между другото.
С видео карти от NVIDIA, който има достъп до Photoshop може да използва Невронни филтри, които позволяват промяна на изражението на лицето, ориентацията на светлината и дори правят хората да изглеждат по-млади (или по-стари). Всичко това се случва чрез AI, но с поддръжката на графичната карта и без нужда от NPU.
Някои инструменти, като кирпичена светулка ou Генеративно запълване (Генеративно запълване), стартирайте директно от сървърите на Adobe (както и Windows Copilot и ChatGPT от съответните им компании).
С други думи: наличието на компютър с NPU може да ви помогне да получите достъп до инструменти за корекция на изображения, но наличието на специална видеокарта е по-важно за по-голяма ежедневна производителност поради локалната обработка.
Заключение
Стигайки до края на това сравнение, лесно е да разберем, че лаптоп или компютър с специална видеокарта има повече AI производителност от преносим компютър Специализиран NPU, наречен AI PC. А причините са много.
Първо, видеокартите имат a най-голям брой TOPS производителност от NPU, което позволява на някои AI приложения да работят локално и без необходимост от интернет връзка. Това е от полза при няколко задачи: генериране на текст и изображения, корекция на снимки, ефекти на видео разговори и дори в игри, чрез функции като Ray Tracing и DLSS.
Друг фактор, който е от полза за компютрите с GPU, е високата наличие на приложения и функционалности за тези модели. В допълнение към собствените изключителни приложения на NVIDIA, основните играчи на технологичния пазар вече са разработили (и все още разработват) начини да се възползват от високата производителност на специализираните графични процесори.
NPU обещават широк достъп до възможности на AI, но към момента на публикуване на това съдържание беше възможно да се тества тяхната производителност само при ефекти на видео разговори. Все още липсват приложения за нови NPU процесори, които да бъдат тествани, но има обещание, че нови приложения ще започнат да се появяват в голям брой.
От друга страна, много положителен момент за тези, обработени с NPU (независимо дали са произведени от Qualcomm, Intel ou AMD) е, че те имат a по-нисък разход на енергия, нещо важно за тези, които се нуждаят от повече време далеч от контакта. Нашите тестове на батерията с Galaxy Book4 Ultra Те показаха употреба от шест часа, нещо невероятно в сравнение с предишни поколения.
Преносимите компютри със специален GPU изискват повече енергия за нивото на производителност, което предоставят, следователно консумират повече батерия и ограничават времето ви далеч от контактите.
Така че изборът между двата типа преносими компютри зависи от отговора на следния въпрос: имате ли нужда от преносим компютър, който ще осигури висока AI производителност, като същевременно използва повече енергия, или предпочитате модел с по-голяма енергийна автономност и по-малко AI производителност? Отговорът на този въпрос до голяма степен ще зависи от типа потребител, който всъщност сте.
Ако сте човек, който не би използвал толкова много AI ресурси и предпочитате да имате преносим компютър, който използва малко енергия, изборът е тетрадка с процесор, който има NPU. Сега, ако имате нужда от висока AI обработка на задачи в ежедневието си най-добрата препоръка е да изберете компютър с Специализиран GPU.
Разбрахте ли темата? Кой е любимият ти тип? Със специален GPU или интегриран NPU? Кажи ни Коментар!
Вижте също
Коя е NVIDIA, компанията, струваща 10 трилиона R$
С информация: Чисто съхранение l Анализ Видхя l Puget Systems l ASUS l Chill Blast l Автоматично бюро l PC World l Quora l NVIDIA
Прегледан от Glaucon Vital на 18г.
Открийте повече за Showmetech
Регистрирайте се, за да получавате най-новите ни новини по имейл.
