NPU क्या है और कैसे काम करता है?

आप ये जरुर जानना चाहेंगे के NPU क्या है (What is NPU in Hindi) ये कैसे काम करता हैं और इसे कहाँ इस्तमाल में लाया गया है के बारे में आप में बहुतों को शायद कुछ पता भी न हो. इसमें दुःख करने वाली कोई बात नहीं है क्यूंकि यह microprocessor अपने श्रिंखला में बहुत ही नया है.

अब तो आपको कुछ न कुछ जरुर समझ में आ ही गया होगा की आज हम किस विषय में बात करने वाले हैं। तो फिर बिना देरी किये चलिए शरू करते हैं और जानते हैं की आखिर ये NPU क्या होता है और इसे कहाँ इस्तमाल में लाया जाता है.

NPU क्या है (What is NPU in Hindi)

NPU एक प्रकार का Processing Unit होता है। यह एक ख़ास तरीके का microprocessor होता है जिसे की कुछ ऐसा design किया गया है की जिससे ये machine learning algorithms को accelerate कराने में मदद करता है।

इस काम के लिए ये predictive models जैसे की artificial neural networks (ANNs) or random forests (RFs) पर operate करता है.

NPU का Full Form क्या है ?

NPU का Full Form होता है Neural Processing Unit. इसे neural processor भी कहा जाता है.

• CVV क्या है और कैसे काम करता है
• NFC क्या है और कैसे काम करता है

NPU के दुसरे नाम क्या क्या हैं ?

NPU के बहुत से नाम मेह्जुद हैं. NPUs को लोग बहुत से नाम जैसे की tensor processing unit (TPU), neural network processor (NNP), intelligence processing unit (IPU), vision processing unit (VPU) और Graphics processing unit (GPU) के नाम से भी जानते हैं.

Neural Network क्या है?

यह एक ऐसा device या software program होता है जिसमें की बहुत से interconnected elements information को process करते रहते हैं simultaneously और इसके साथ वो past patterns के हिसाब से उससे adapting और learn भी करते रहते हैं.

Machine learning processors की list

ये Neural Network Processing क्या है?

यदि हम किसी भी consumer electronics की बात करें तब सभी में आपको AI की गूंज महसूस होगी. जहाँ इस term का ज्यादा इस्तमाल Marketing team ही किया करते हैं वहीँ जब हम AI (Artificial Intelligence) की जिक्र करते हैं तब वहीँ हम specifically Machine Learning की ही बात कर रहे होते हैं.

ज्यादातर technologies जैसे की Silicon IPs में जो specialized hardware block का इस्तमाल किया गया है उन्हें ख़ास तोर से optimize किया गया है ताकि उसमें convolutional neural networks (CNNs) आसानी से run हो सके.

एक बात तो इससे साफ़ हो ही चुकी है की Neural Networks का इस्तमाल मुख्य रूप से speed और accuracy को बढ़ाने के लिए किया जाता है.

NPU को क्यूँ लाया गया?

हमारा तो पहले से ही ये goal था की कैसे हम neural network को locally inferencing करके run कर सकें locally किसी एक edge device पर, जिसके लिए हमारे पास इस implementation को run करने के लिए बहुत से अलग अलग processing blocks devices पर जैसे की एक smartphone.

CPU, GPU और यहाँ तक की DSPs सभी सक्षम हैं inferencing tasks को run करने के लिए, लेकिन इनमें बहुत ज्यादा efficiency differences है. जहाँ General purpose CPUs को बहुत ही कम इस्तमाल में लाया जाता है ऐसे कामों के लिए क्यूंकि उन्हें massive parallelised execution in mind को चिंता करके designed नहीं किया गया है.

वहीँ GPUs और DSPs ज्यादा बेहतर विकल्प है लेकिन फिर भी इनमें अभी और भी काम करना बाकि है. खास इसीलिए इन processor के वाबजूद भी एक नयी class की processing accelerator जिसे की NPU कहा जाता है उसे इस्तमाल में लाया गया.

चूँकि ये नए IP blocks अभी तक भी नए हैं industry में इसलिए अभी तक भी एक common nomenclature इसे प्रदान नहीं किया गया है. HiSilicon/Huawei ने इसे NPU/neural processing unit का नाम दिया है वहीँ Apple ने publicly इसे NE/neural engine कहा है.

इन NPU का इस्तमाल कहाँ किया गया है ?

जैसे की हम जानते ही हैं की अब तो Artificial intelligence हमारे phone में भी उपलब्ध होने लगा है. यदि हम इनकी practical use की बात करें तब नए iPhone X में Neural Engine इसकी A11 Bionic chip का हिस्सा रही है.

वहीँ Huawei Kiri 970 chip में भी एक Neural Processing Unit or NPU मेह्जुद होता है; और इसके साथ Pixel 2 में भी एक secret AI-powered imaging chip को activate कर दिया गया है.

इन Next-gen chips को क्यूँ Design किया गया है ?

अब सवाल आता है की आखिर इन नये next gen chips का असल में क्या मकसद है. जैसे की mobile chipsets धीरे धीरे छोटे होते जा रहे हैं और इसके साथ ज्यादा sophisticated भी, और इसके साथ वो ज्यादा काम भी कर रहे हैं, ठीक से कहें तो बहुत से अलग अलग प्रकार के jobs.

नज़र में आया है की अब integrated graphics—GPUs अब CPU के साथ ही set हो रहे हैं किसी high-end smartphones के heart में. इससे ये सभी heavy lifting कर रहे हैं visuals के जिससे main processor को थोडा कम काम करना पड़ता है और वो दुसरे काम में ज्यादा समय लगाते हैं.

ये नए प्रजाति के AI chips और भी ज्यादा smart बन जा रहे हैं और बड़े ही smoothly कई प्रकार के complex tasks को भी आसानी से handle कर पा रहे हैं.

क्या सच में NPU compete कर रहा है GPU के साथ?

भले ही यह term बहुत बार marketers और media में इस्तमाल होता रहा है, लेकिन neural processing unit (NPU) की definition अभी तक भी imprecise और immature रही है.

David Schatsky, जो की managing director हैं Deloitte LLP के, उनके अनुसार अभी तक NPU की कोई single definition मेह्जुद नहीं है. वहीँ उनके अनुसार ” ये एक ऐसा processor architecture है जिसे की कुछ ऐसा design किया गया है जो की machine learning को ज्यादा efficient बनाता हो – ज्यादा faster करता हो और इसके साथ कम power consumption करता हो“.

चूँकि GPU इस field में अकेले हैं और केवल दो companies Nvidia और AMD ही है जो की पुरे market को dominate कर रहे हैं. यहाँ सभी semiconductor vendors ऐसे ही oppourtunity के तलाश में हैं जिससे कोई NPUs को launch कर सकें जो की इन GPUs को compete कर सकें.

तो क्या हैं ये Neural Processing Unit?

यहाँ पर Nvidia और AMD के बिच differentiate करने के लिए, बहुत से companies कुछ ऐसे combination का इस्तमाल करते हैं “any combination of ‘N,’ ‘P’ और ‘U’ जिससे वो qualify हो सकें की ये chips targeted हैं AI algorithms को execute करने के लिए और GPU के against compete करने के लिए जिन्हें की पहले ही market के इस sector में इस्तमाल किया जा रहा है.

इस competition में बहुत से बड़े companies जैसे की wireless technology vendors Qualcomm, Huawei Technologies और Apple मुख्य हैं. और ये सभी NPU या उसके कुछ variation का इस्तमाल करते हैं अपने latest tech को describe करने के लिए.

बल्कि analysts के अनुसार ये उनकी ability है जो की data को process करती है parallel में और कुछ commonalities होते हैं जो की इन terms को एक साथ जोड़ते हैं.

क्यूँ हमें इन AI CHIPS की जरुरत होती है?

जो मुख्य कारण है इन AI chips को इस्तमाल करने के लिए वो ये की अभी के regular cpu जो की आप phones, laptops, और desktops में देख सकते हैं वो सारे अभी के machine learning demands को fulfil नहीं कर सकते हैं, और इनके इस्तमाल से अभी के problems जैसे की slow service और fast-draining battery को जड़ से हटाया जा सकता है.

इसके अलावा parallel processing के होने से हम अपने device में multi-tasking कर सकते हैं. इसके साथ बड़े बड़े games या video software का भी इस्तमाल कर सकते हैं जिन्हें एक साथ काम करना पहले बड़ा मुस्किल काम हुआ करता था. Device की calculation speed, processing speed कई हद तक बढ़ जाती है.

तो क्या आपको भी अपने Phone में यह AI CHIP रखना जरुरी है ?

नहीं, यह जरुरी नहीं है. क्यूंकि ऐसे बहुत से tasks को हमारे devides खुद करने के लिए सक्षम हैं. पर अगर आप एक power user हैं तब तो जरुर अन्यथा इसके बारे में आपको ज्यादा सोचने की जरुरत नहीं है.

दोनों Huawei और Apple के cases में, इस नए hardware का इस्तमाल करने का मुख्य इस्तमाल इन phones को बेहतर बनाने का है. जहाँ Huawei में इसका इस्तमाल सिर्फ इसलिए हुआ था क्यूंकि ये Mate 10 के performance को परखना चाहते थे, इसके काम करने के तरीके को record करना चाहते थे. वहीँ Apple में चूँकि दो नए features जो की हैं Face ID और animoji को power up करने के लिए इस्तमाल किया गया था.

इसके अलावा अगर आपके phones में ऐसे नए features हैं जिन्हें की operate होने के लिए बहुत सारा computational power की जरुरत है, processing speed की जरुरत हैं और इसके साथ बेहतर battery की भी जरुरत है तब आपको इन AI chips की जरुरत होती है।

आज आपने क्या सीखा

मुझे पूर्ण आशा है की मैंने आप लोगों को NPU क्या होता है और ये कैसे काम करता है? के बारे में पूरी जानकारी दी और में आशा करता हूँ आप लोगों को NPU क्या है (What is NPU in Hindi) के बारे में समझ आ गया होगा.

आपको यह लेख NPU क्या है? और ये कैसे काम करता है? कैसा लगा हमें comment लिखकर जरूर बताएं ताकि हमें भी आपके विचारों से कुछ सीखने और कुछ सुधारने का मोका मिले. मेरे पोस्ट के प्रति अपनी प्रसन्नता और उत्त्सुकता को दर्शाने के लिए कृपया इस पोस्ट को Social Networks जैसे कि Facebook, Twitter इत्यादि पर share कीजिये.