CPU eller GPU/NPU: vad betyder mer när du väljer en bärbar dator för AI?

Med avancemang av inteligência artificiell och lanseringen av AI-datorer av datortillverkare borde ämnet vara ett av de mest omtalade i teknikvärlden 2024. NPU:er har blivit nyckelspelare i att bearbeta AI-arbetsbelastningar, men behöver du verkligen en PC utrustad med den här funktionen för att utföra AI-aktiviteter?

På inbjudan av NVIDIA, testade vi hur en bärbar dator utrustad med dedikerat grafikkort utför AI-uppgifter även utan en processor som inte kvalificerar sig för kategorin AI-datorer Förstå nedan vad som är viktigast för dem som arbetar med AI till vardags: CPU ou GPU.

Vad är en AI PC?

Termen började implementeras av Intel och Microsoft med lanseringen av processorfamiljen intel core ultra. Under 2023 har Microsoft uppgav att för att en dator ska klassas som AIPCmåste den uppfylla tre krav. Är de:

• Ha en nyckel Copilot för att aktivera inteligência artificiell på ditt tangentbord;
• Förmåga att köra artificiell intelligens Copilot, närvarande i Windows 11;
• Ha en processor med NPU dedikerad som når åtminstone 40 TOPS (biljoner operationer per sekund)

EN NPU är ett dedikerat område av processorn fokuserat på artificiell intelligens. I praktiken får processorn ytterligare ett chip så att CPU och GPU är dedikerade till deras huvudsakliga aktiviteter. Dessa komponenter kan till och med ge stöd för NPU, men AI-aktiviteter kommer i huvudsak att bearbetas i NPU.

Processorer med denna NPU annonseras också för att ha bättre energieffektivitet, som ger längre batteritid vid behov, utan att behöva förlora prestanda. Detta är den stora skillnaden mellan raderna Galaxy bok 3 e Book4, lanserad av Samsung.

I maj 2024 Microsoft skapat sin egen kategori av AI-datorer, som tar namnet Copilot+ PC, med ett högre TOPS-prestandakrav för AI-aktiviteter. Att betraktas som en Copilot+ PC, måste en dator uppfylla följande krav:

• Ha minst 16 GB RAM-minne;
• Ha lagring på minst 256 GB via SSD;
• Ha en integrerad NPU med minst 40 TOPS av prestanda;
• Har en nyckel tillägnad artificiell intelligens Copilot på tangentbordet;
• Det finns ingen skåra på displayen.

Datorer certifierade som Copilot+ PC skapades i princip för att komma ikapp med datorer MacEftersom Apple. En av de första modellerna som tillkännagavs var bärbara datorer yta, av den egna Microsoft, som har processorer Snapdragon X EliteEftersom Qualcomm. Se TOPS-prestandan på NPU-processorlinjerna som lanserades i år:

• AMD Ryzen AI 300: upp till 50 TOPS prestanda;
• Intel Lunar Lake: upp till 48 TOP:s prestanda;
• Snapdragon X Elite: upp till 45 TOPS prestanda.

BLAST är förkortningen för Biljoner operationer per sekundEller Biljoner operationer per sekund. Detta är parametern för att mäta NPU:s förmåga att bearbeta artificiell intelligens på processorer. Här följer grundregeln: ju fler TOPS en NPU har, desto större kapacitet kommer den att ha för att driva AI-aktiviteter. 

Men har inte tidigare bärbara datorer artificiell intelligens?

Det finns något som processortillverkarna inte räknar med: dedikerade grafikkort har redan TOPS-prestanda långt över vad som har krävts för AI-datorer, vilket erbjuder mer produktivitet i artificiell intelligens-uppgifter för sina användare även på datorer som inte har en NPU.

Men definitionen av Microsoft till AI-datorer e Copilot+ datorer tillåter inte dessa datorer med hög prestanda inom AI att ta emot dessa klassificeringar, just för att de inte har en integrerad NPU. Och här går vi in ​​i diskussionen om att NVIDIA har kommunicerat: datorer med artificiell intelligens fanns redan innan företag som Samsung, Lenovo, ASUS och det egna Microsoft börja investera i dessa villkor.

Definitionen avsedd att skapa en kategori, men att inte ha en NPU utesluter inte att en PC med en kraftfull GPU används i uppgifter som involverar artificiell intelligens. Faktum är att ingenting hindrar dig från att köra applikationer med AI-funktioner på datorer med dedikerade grafikkort och en icke-NPU-processor.

AI-PC-marknaden är fortfarande i ett tidigt skede med ankomsten av de första bärbara datorerna med NPU, men processen att utveckla AI-funktioner och applikationer tar små steg, med få resurser tillgängliga för användare i allmänhet.

I vår Galaxy Book4 Pro recension, en bärbar dator med en processor Intel Core Ultra 7 och utan en dedikerad GPU nämner vi att den praktiska användningen av NPU:n kan vara mer märkbar i videosamtalsfunktioner och energieffektivitet. Detta är dock punkter som också kan ses i bärbara datorer utan NPU, även de som lanserades före 2023.

Vikten av ett grafikkort (GPU) för AI

För att förstå detta ämne, låt oss förstå skillnaderna mellan CPU e GPU.

De två komponenterna tjänar till att bearbeta uppgifter på en dator, och den största skillnaden mellan CPU och GPU är de aktiviteter som de är avsedda för. A CPU - Var Centrala behandlingsenheten — är inriktad på att utföra en dators allmänna aktiviteter, som att köra själva operativsystemet och alla dess applikationer. Det definieras vanligtvis som en dators "hjärna" och utan den skulle det inte ens fungera: det sträcker sig från att surfa på webben till att skapa kalkylblad.

A GPU tillräckligt för att ge det stöd som CPU:n behöver för att ta hand om mer komplexa aktiviteter och utföra grafiska aktiviteter effektivt. Engelsk akronym för Grafikbearbetningsenhet (och populärt känd som grafikkort), accelererar GPU:n bildbehandling genom tusentals mindre, mer specialiserade kärnor, som arbetar tillsammans för att leverera prestanda i grafikuppgifter.

Många processorer - särskilt de som är inriktade på bärbara datorer - har en Integrerad GPU, som är en del av processorn. Denna applikation är lämplig för PC-datorer för allmänna ändamål, som inte kräver mer intensiv grafikbearbetning. Men när vi har intensiv bildbehandling, som i spel och bild- och videoredigering, är det Dedikerad GPU (Eller Diskret GPU) gör hela skillnaden.

GPU:n kan rikta all sin kraft till specifika uppgifter, såsom spel och till och med högkvalitativ innehållsrendering, vilket ökar processorkraften och underlättar utförandet av robusta aktiviteter på datorn den är installerad på, vilket ger högre hastighet och effektivitet i denna typ av uppgift.

Och varför använda GPU:n för AI? NVIDIA pekar på tre skäl:

• GPU:er använder parallell bearbetning;
• GPU-system kan skalas till superdatornivåer;
• AI-programvaruutveckling för GPU:er är konsoliderad.

Aktiviteter inteligência artificiell kräver en hög nivå av specialiserade beräkningar. Genom att samla instruktioner och bearbeta stora mängder data kan dedikerad GPUS accelerera arbetsbelastningar utöver kapaciteten hos en CPU. När man går djupare, säger NVIDIA själv det Att investera i en bärbar dator med ett dedikerat kort är mer intressant än att investera i en modell med en integrerad NPU.

Ett exempel på vikten av dedikerade GPU:er för AI-aktiviteter är ChatGPT: Den berömda boten för att skapa innehåll som skriver, löser problem och till och med skapar bilder fungerar baserat på GPU-plattformar.

A OpenAI ingått ett samarbete med NVIDIA så att dess stora språkmodell kan användas av mer än 100 miljoner människor. Den senaste informationen är att GPT-4, nu uppdaterad av GPT-4o, hade mer än en biljon parametrar, ett mått på dess matematiska densitet - ett steg från de mindre än 100 miljoner parametrarna i en populär LLM 2018, möjliggjort med hjälp av GPU:er.

Som sagt, om du är en person som arbetar med innehållsskapande, ringer många videosamtal eller till och med gillar att spela mycket, kommer du definitivt att behöva artificiell intelligens för att prestera bättre. Och det gäller allt:

• Videosamtalseffekter för att minska externt brus och oskärpa bakgrunder;
• Ha tillgång till teknik DLSS e Ray-spårning;
• Att kunna öppna bilder snabbare;
• Återgivning av videoinnehåll (vertikalt eller horisontellt);
• Användning av viss AI för att fylla bilder, utföra uppskalning eller till och med videoformatkonvertering;
• Att kunna exportera innehåll på kortare tid.

Den stora vinsten med att använda ett grafikkort är att bearbeta AI-uppgifter på kortare tid. På inbjudan av NVIDIA, följ testerna nedan och jämför användningen av GPU och CPU/NPU för AI-aktiviteter för att ta reda på resultaten och dra dina slutsatser.

Jämförelser mellan GPU vs. CPU/NPU för AI

Låt oss nu jämföra hur GPU:n jämför med att utföra AI-uppgifter mot NPU:n, skapad speciellt för detta ändamål. Kontrollera metodiken och testresultaten.

Hur vi utför testerna

För att genomföra dessa tester kommer vi att gå igenom flera applikationer och spel som använder GPU:n för att leverera bättre prestanda. A NVIDIA, i samarbete med Avel, lånade ut anteckningsboken A65 ION med processor 9:e generationens Intel Core i12900-12HX, med ett dedikerat grafikkort NVIDIA GeForce RTX 4060 och 16 GB RAM (uppdelat i två 8 GB-minnen) av typ DDR5.

För att säkerställa maximal prestanda ansluter vi den bärbara datorn till ett eluttag. Vi analyserade sedan resursprestanda för att se om, även utan en NPU, AI-aktiviteter skulle fungera på samma sätt. För testning var videoupplösningen 2560×1600, med en uppdateringsfrekvens på 240Hz.

grafikkortet RTX 4060 som finns i den bärbara datorn utför 233 biljoner operationer per sekund. För jämförelse, se driftnumren för alla modeller i RTX 40-serien för bärbara NVIDIA-datorer:

• RTX 4050: 194 TOPS prestanda;
• RTX 4060: 233 TOPS av prestanda;
• RTX 4070: 321 TOPS av prestanda;
• RTX 4080: 521 TOPS av prestanda;
• RTX 4090: 686 TOPS prestanda.

Den bärbara datorn är utrustad med en 500 GB NVME SSD. Vi genomförde alla operativsystemuppdateringar så att enheten var i sin mest kompletta version, med samma sak för GPU-drivrutinerna.

Chatta RTX

Detta är en personlig assistent utvecklad av NVIDIA som i framtiden kan bli en intressant konkurrent för alternativ som t.ex CopilotEftersom Microsoft. Det mest intressanta är att det körs lokalt uteslutande på en bärbar dator eller stationär dator med dedikerade NVIDIA-grafikkort.

Den fungerar bäst som informationsorganisator, men den kan läsa filer som sparats i din datorlagring, vilket kan vara till stor hjälp för den som vill ha tillgång till sammanfattningar.

Om du aldrig har använt den här applikationen är det värt att komma ihåg att du kommer att behöva träna den från grunden, så de bästa funktionerna kommer att ses på lång sikt. Men det är en applikation som gör att du kan ha en personlig assistent som körs lokalt och utan behov av internetuppkoppling.

NVIDIA Canvas

Detta är den exklusiva applikationen för dem som gillar att rita med musen, peka på skärmen eller till och med via whiteboardtavlan med en penna. Med Canvas behöver du inte vara konstnär: skapa bara en skiss med enkla former och inga detaljer för att programmet ska skapa en detaljerad bild. Applikationen körs endast på datorer eller bärbara datorer med dedikerade kort från NVIDIA, inte tillgängligt för datorer som bara har NPU.

Det mest intressanta är att resultaten kan ses i realtid tack vare det dedikerade grafikkortet med lokal bearbetning. Förutom att väcka liv i dina doodles kan du helt ändra en teckning med bara en knapptryckning.

Tiden för resultatet att visas på skärmen är mindre än en sekund och temabytet sker också på några tusendelar av en sekund. När du är klar med ritningarna är det bara att exportera dem till ett redigeringsprogram och avsluta ditt arbete.

NVIDIA Broadcast

Detta är en av de applikationer som mest tillåter jämförelse med vad en NPU kan göra tills den här artikeln är stängd. Som vi redan har sagt i vår specialartikel om denna applikation, den fungerar som en bra assistent för dem som ringer många videosamtal och livesändningar, genom att minska brus i både ljud och bild.

När man analyserar användningen av processorer med NPU som lanserades 2023, är allt fortfarande väldigt grundläggande. Chips fokuserade på AI-aktiviteter kan till och med sudda ut bakgrunden och även utföra automatisk fokus, men inget mer. Det finns ingen brusreducering, inbyggd bakgrundsväxling och till och med användning av vinjetter, vilket är funktioner som finns i NVIDIA Broadcast.

Som sagt, det är ett faktum: den NVIDIA Broadcast, som bara fungerar på bärbara och stationära datorer med NVIDIA-grafikkort, är mycket mer avancerat.

Fokusera

Detta är verktyget som använder stabil diffusion som underlag för att generera bilder lokalt på datorn, utan behov av internet. Du kanske undrar om Windows Copilot och ChatGPT inte kan skapa bilder längre, eller hur? Ja, det kan de, men det är fortfarande nödvändigt att ha en internetanslutning för att dessa verktyg ska fungera, vilket inte är nödvändigt med Fooocus. Se detta foto skapat av kommandot "en elefant på stranden en solig dag":

Utvecklad för att köras på bärbara datorer och datorer med dedikerade grafikkort, den här applikationen fungerar med GPU:n som bas och du kan inaktivera internet för att använda den. Och bilderna är imponerande: på 57 sekunder får vi högkvalitativa bilder som gränsar till realism, allt gjort lokalt. Se:

Även om de har ett chip som enbart fokuserar på AI-aktiviteter, behöver processorer med 2023 NPU fortfarande mer prestanda för att utföra lokal bearbetning. Vem vet, kanske kommer detta att förändras i och med lanseringen av Copilot + PC standard från Microsoft, men låt oss vänta på att framtiden ska få svar.

Procyon

Att genomföra tester med NPU är lite svårt för tillfället eftersom vi är i den första fasen av att implementera denna teknik, applikationer optimerade för denna funktion är fortfarande få. Men genom AI Benchmark Vision da Procyon, var det möjligt att märka skillnaden, eftersom den kan mäta AI-bearbetning på både GPU:er och NPU:er.

Till att börja med Galaxy Book4 Ultra, med processor Intel Core Ultra 9, lanserad 2023 och med en dedikerad NPU, uppnådd 494 poäng.

redan i Avell A55 ION vi fick, när vi använde grafikkortet för AI-aktiviteter, uppnått mer än så. De var 539 poäng, en föreställning nästan 10 % högre. Bilden nedan visar resultaten som erhålls med notebook-datorn ansluten, i dess högpresterande läge.

Därför visar detta enkla riktmärke oss att ett grafikkort som når mer än 200 TOPS är mer intressant än en processor med mindre än 50 TOPS prestanda via NPU.

Adobes resurser

Här har vi det uppenbara: det finns flera funktioner i Photoshop jag gör lightroom som bara körs på bärbara datorer med dedikerade grafikkort, som filter för att ta bort brus, färglägga foton till svartvitt, bland annat.

Med grafikkort från NVIDIA, som har tillgång till Photoshop kan använda Neurala filter, som tillåter att ändra ansiktsuttryck, ljusorientering och till och med få människor att framstå som yngre (eller äldre). Allt detta sker via AI, men med stöd av grafikkortet och utan behov av en NPU.

Vissa verktyg, som adobe eldfluga ou Generativ fyllning (Generativ fyllning), körs direkt från Adobes servrar (liksom Windows Copilot och ChatGPT, från sina respektive företag).

Med andra ord: att ha en dator med en NPU kan hjälpa dig att komma åt bildkorrigeringsverktyg, men att ha ett dedikerat grafikkort är viktigare för ökad daglig produktivitet på grund av lokal bearbetning.

Slutsats

När man kommer till slutet av denna jämförelse är det lätt att förstå att en bärbar dator eller dator med dedikerat grafikkort har mer AI-prestanda än en bärbar dator med Dedikerad NPU, kallad AI PC. Och anledningarna är många.

För det första har grafikkort en högsta antalet TOPS prestanda än NPU:er, vilket gör att vissa AI-applikationer kan köras lokalt och utan behov av en internetanslutning. Detta är fördelaktigt i flera uppgifter: text- och bildgenerering, fotokorrigering, videosamtalseffekter och till och med i spel, genom funktioner som Ray Tracing och DLSS.

En annan faktor som gynnar datorer med GPU är den höga tillgänglighet av applikationer och funktioner för dessa modeller. Utöver NVIDIAs egna exklusiva applikationer har stora aktörer på teknikmarknaden redan utvecklat (och utvecklar fortfarande) sätt att dra fördel av den höga prestandan hos dedikerade GPU:er.

NPU:er lovar bred tillgång till AI-kapacitet, men vid tidpunkten för publiceringen av detta innehåll var det bara möjligt att testa deras prestanda i videosamtalseffekter. Det finns fortfarande en brist på applikationer för nya NPU-processorer som ska testas, men det är lovat att nya applikationer kommer att börja dyka upp i stort antal.

Å andra sidan, en mycket positiv punkt om de som bearbetas med NPU (oavsett om de tillverkas av Qualcomm, Intel ou AMD) är att de har en lägre energiförbrukning, något viktigt för dem som behöver mer tid borta från uttaget. Våra batteritester med Galaxy Book4 Ultra De visade en användning av sex timmar, något otroligt jämfört med tidigare generationer.

Bärbara datorer med en dedikerad GPU kräver mer energi för den prestandanivå de levererar, och förbrukar därför mer batteri och begränsar din tid borta från uttag.

Så valet mellan de två typerna av bärbara datorer beror på svaret på följande fråga: behöver du en bärbar dator som kommer att leverera hög AI-prestanda samtidigt som du använder mer energi, eller föredrar du en modell med större kraftautonomi och mindre AI-prestanda? Svaret på denna fråga kommer till stor del att bero på vilken typ av användare du faktiskt är.

Om du är en person som inte skulle använda AI-resurser så mycket och föredrar att ha en anteckningsbok som använder lite energi, valet är en anteckningsbok med processor som har en NPU. Nu om du behöver en bearbetning av hög AI-uppgift i ditt dagliga liv är den bästa rekommendationen att välja en PC med Dedikerad GPU.

Förstod du ämnet? Vilken är din favorittyp? Med dedikerad GPU eller integrerad NPU? Berätta för oss Kommentar!

Se också

NVIDIA kritiserar AI-datorer och säger att bärbara datorer med dess grafikkort är mer kraftfulla

Vem är NVIDIA, företaget värt 10 biljoner R$

NVIDIA kritiserar AI-datorer och säger att bärbara datorer med dess grafikkort är mer kraftfulla

Vem är NVIDIA, företaget värt 10 biljoner R$

Med information: Ren lagring l Analys Vidhya l Puget Systems l ASUS l Chill Blast l Auto skrivbord l PC World l Quora l NVIDIA

Granskats av Glaucon Vital den 18/6/24.