NPU je razlog visoke cijene AI PC-jeva. Što konkretno ima od njega korisnik?

Postoji certifikat pod oznakom „Microsoft Co-Pilot Plus Certification“ koji predstavlja Microsoftovu akreditaciju za AI PC-jeve čiji standardi sada moraju uključivati NPU i 40 ili više TOPS-a (tera operacija u sekundi). Svako računalo koje nema ove standarde ne spada u kategoriju AI PC-ja, a osnova ovih uređaja koja im omogućuje efikasniji rad prilagođen korištenju AI mogućnosti je NPU (Neural Processing Unit). Pošto je NPU jedan od razloga zašto imamo visoku cijenu AI PC-jeva te će vjerojatno diktirati cijenu buduće proizvodnje računala, s pravom se možemo pitati što od njega ima krajnji korisnik.   Što je NPU (Neural Processing Unit)? NPU (Neural Processing Unit) je specijalizirana procesorska jedinica namijenjena ubrzavanju zadataka povezanih s umjetnom inteligencijom. Za razliku od klasičnog procesora, odnosno CPU-a, koji obrađuje širok raspon općih računalnih zadataka, NPU je optimiziran za izvođenje operacija koje se koriste u neuronskim mrežama i algoritmima strojnog učenja. Drugim riječima, NPU je svojevrsni AI procesor unutar modernog računala, pametnog telefona ili drugog uređaja. Njegov je zadatak da lokalno, izravno na uređaju, obrađuje AI funkcije poput prepoznavanja glasa, obrade fotografija, uklanjanja pozadinske buke, automatskog zamućivanja pozadine tijekom videopoziva, generiranja sadržaja ili ubrzavanja raznih pametnih značajki u aplikacijama. Glavna prednost NPU-a je u tome što takve zadatke može obavljati učinkovitije i uz manju potrošnju energije nego CPU ili GPU. To je posebno važno kod prijenosnih računala i pametnih telefona, gdje je trajanje baterije jedan od ključnih faktora. Umjesto da se svaki AI zadatak šalje u oblak, dio obrade može se obaviti lokalno na uređaju, što donosi brži odziv, bolju privatnost i manju ovisnost o internetskoj vezi. U praksi, NPU ne zamjenjuje CPU ili GPU, nego ih nadopunjuje. CPU i dalje ostaje glavni procesor za opći rad sustava, GPU je zadužen za grafiku i paralelne izračune, dok je NPU posebno prilagođen za AI zadatke. Zbog sve većeg broja AI funkcija u Windowsima, aplikacijama i modernim uređajima, NPU postaje sve važniji dio hardvera nove generacije. Moć NPU-a NPU kao posebna vrsta procesora koji jedini ima mogućnost podnošenja zahtjevnih AI zadataka te ubrzavanja njihovog procesuiranja u očima korisnika djeluje pomalo apstraktno. Kao da korisnici i dalje nisu sigurni koje točno benefite mogu dobiti s NPU-om ako odluče izdvojiti nešto veći iznos za kupnju AI PC-ja. NPU pruža višu razinu efikasnosti koja je uvijek dostupna jer ovaj procesor radi na zahtjev (on-demand) u pozadini. Na taj način u modu vrlo niskog trošenja snage rješava kompleksne zadatke cijelo vrijeme u pozadini dok se vi kao korisnik bavite drugim stvarima. Neki od zadataka koje će NPU uspješno obavljati u pozadini mogu biti Windows Studio efekti kao pozadinsko zamagljivanje, „eye contact“ korekcija te uklanjanje pozadinske buke tijekom Zoom poziva ili titlovi i prevođenje uživo s audio transkripcijom bez internet veze. Navedene zadatke mogu izvršiti u suradnji obični procesor i grafička kartica, no NPU će isto odraditi uz uštedu od 80 posto snage i tako produžiti trajanje baterije za 30 do 40 posto tijekom videopoziva ili intenzivnih radnih zadataka.     Lokalno pokretanje velikih jezičnih modela Još jedna od vrlo važnih mogućnosti koju donosi NPU je lokalno pokretanje velikih jezičnih modela (LLM). Ako ste jedan od korisnika koji na dnevnoj bazi koristi besplatne AI alate temeljene na velikim jezičnim modelima u oblaku poput ChatGPT-ja ili Geminija, postoji skriveni problem kod ovakvih aktivnosti. Vaši osjetljivi podaci šalju se na servere i ondje se pohranjuju. Ono što se dobiva sa spomenutih 40 ili više TOPS-a na AI PC-jevima je mogućnost samostalnog pokretanja velikih jezičnih modela. To znači da ćete osjetljive PDF dokumente, privatne fotografije i sve ostale osobne informacije čuvati samo lokalno te lokalno pokretati AI alate. Jedino što postoji kao potencijalni trend je da će neke aplikacije isključivo zahtijevati korištenje „cloud“ infrastrukture koja stoji iza njih, no za korisnike će sigurno postojati opcije za lokalno pokretanje AI alata ili će postojati AI alati koji su isključivo za to namijenjeni. Hoćete li zaista koristiti NPU? Pravo je pitanje hoće li jedan redovni korisnik zaista koristiti NPU te ako se uopće isplati ulaganje u kupnju AI PC-ja koji ga ima. Iako je iz ranijih informacija koje smo izložili jasno vidljivo koliko je unaprijeđena funkcionalnost NPU-a u odnosu na standardne procesore, to ne znači da kao korisnik odmah morate ići na nadogradnju. Morate se najprije zapitati što vam je nužno za obavljanje svakodnevnih zadataka na računalu i pokušati se odmaknuti od teorije NPU-a koja može biti povodljiva. Dobivanje mogućnosti korištenja nekih specijaliziranih AI značajki ili njihovo pokretanje uz uštede resursa su sjajne stvari, ali koliko su zaista esencijalne za vaše potrebe? Korištenje velikih jezičnih modela lokalno također je izvrsna stvar, no i ovdje se možemo pitati želi li takvo nešto redovni korisnik kad ima online dostupnost cijelog niza AI alata. Možemo se osvrnuti i na trenutne trendove kod softvera. Jako veliki broj aplikacija i programa tek treba implementirati podršku za NPU. Njih ćete, bezobzira na to ako imate NPU, i dalje koristiti na isti način pa ovdje u funkcionalnosti nema baš nikakve promjene.   Odvagnite što je najbolje za vas Aktualna situacija na tržištu je da AI PC-jevi koji imaju NPU cjenovno nadilaze standardne PC-jeve za minimalno 100 do 200 eura. Radi se o ipak značajnoj razlici, a kod kupnje novih uređaja moramo biti sve oprezniji jer su cijene sve veće i sada više nego ikad prije treba definirati koliku vrijednost dobivamo za novac. Isplati li se kupnja računala s NPU-om samo zato da bi mogli koristiti napredne funkcije kod Zoom poziva, umanjiti trošenje resursa kod određenih zadataka ili koristiti specifične AI alate lokalno? Možda će nekim korisnicima za ove funkcije 100, 200 i više eura razlike biti razumljivo i nešto što im neće biti problem izdvojiti. Naš je stav da se trenutno ovo ipak ne isplati jer ovih nekoliko stotina eura razlike možete uložiti u kupnju još boljeg standardnog računala koje će vas pratiti daljnjih pet i više godina.   AI PC-jevi su sjajni uređaji, njihove mogućnosti postaju sve naprednije i bolje, a svima je jasno da predstavljaju budućnost koja će promijeniti korisničke navike i stvoriti novo i drugačije radno okruženje. Bez NPU-a nema AI PC-jeva i ova vrsta procesora sada predstavlja granicu između starih i novih modela. NPU omogućuje nevjerojatne funkcionalnosti i lako je moguće da će novi Windowsi 12 upravo ove procesore imati kao tehnički preduvjet, no čini nam se da se sve ovo prebrzo događa i da je korisnička realnost previše još vezana uz standardna računala i aplikacije koje i dalje nemaju potrebu za prilagodbom prema NPU-ovima. Samim time smatramo da s kupnjom računala koje ima NPU neće pogriješiti, ali isto tako ova nadogradnja ne predstavlja nešto što je nužno i što se mora brzo obaviti jer zaostajete s tehnologijom.   Ervin MičetićThe post NPU je razlog visoke cijene AI PC-jeva. Što konkretno ima od njega korisnik? first appeared on PC CHIP.