TechSpert द्वारा समझाया गया ऑन-डिवाइस प्रसंस्करण

# ai # Pixel # Fitbit

यदि आपने कभी एक नया पिक्सेल फोन उठाया है, तो आपने शायद "ऑन-डिवाइस प्रोसेसिंग" के बारे में सुना है, जो इसकी शांत नई सुविधाओं के पीछे का जादू है। पिक्सेल 9 फोन लें, उदाहरण के लिए - पिक्सेल स्टूडियो की तरह और कॉल नोट्स "डिवाइस पर" रन। और यह सिर्फ फोन नहीं है; नेस्ट कैमरा, पिक्सेल स्मार्टवॉच और फिटबिट डिवाइस सभी इस "ऑन-डिवाइस प्रोसेसिंग" एक्शन पर हैं। यह देखते हुए कि यह कितना व्यापक है और यह विशेषताओं की शक्तियां है, यह स्पष्ट रूप से एक बड़ी बात है। तो, वास्तव में "ऑन-डिवाइस प्रोसेसिंग" का क्या मतलब है? खैर, यह बहुत ज्यादा है कि यह कैसा लगता है - प्रसंस्करण डिवाइस पर सही होता है। लेकिन गहराई से गोता लगाने के लिए, हमने लगभग 20 वर्षों के Google दिग्गज ट्राइस्टन अपस्टिल के साथ बातचीत की, जिन्होंने एंड्रॉइड, गूगल न्यूज और सर्च में इंजीनियरिंग टीमों पर काम किया है। Trystan, आप उस टीम का हिस्सा थे जिसने नए पिक्सेल उपकरणों के लिए कुछ रोमांचक सुविधाओं को विकसित किया। आपने क्या काम किया? हाल ही में, मैंने Android के भीतर एक टीम का नेतृत्व किया, जो Google के विभिन्न तकनीकी ढेरों को एक अद्भुत उपयोगकर्ता अनुभव में सम्मिश्रण करने पर केंद्रित था। यह सब पता लगाने के बारे में है कि इन सुविधाओं का निर्माण और जहाज कैसे है। प्रौद्योगिकी में लगातार सुधार और नई सुविधाओं को पेश किया जा रहा है, इसे कभी न खत्म होने वाली नौकरी की तरह महसूस करना चाहिए। बिल्कुल! पिछले कुछ वर्षों में जेनेरिक एआई क्षमताओं में एक बड़ी छलांग देखी गई है। सबसे पहले, उपकरणों पर बड़े भाषा के मॉडल चलाने का विचार एक दूर के सपने की तरह लग रहा था-2026 के लिए शायद कुछ हो गया। लेकिन प्रौद्योगिकी इतनी जल्दी विकसित हुई कि हम दिसंबर 2023 में पिक्सेल 8 प्रो पर मिथुन नैनो, हमारे ऑन-डिवाइस मॉडल का उपयोग करके सुविधाओं को लॉन्च करने में सक्षम थे। आइए "ऑन-डेविस प्रोसेसिंग" को तोड़ते हैं। "प्रसंस्करण" का वास्तव में क्या मतलब है? आपके उपकरणों में मुख्य प्रोसेसर, या सिस्टम-ऑन-ए-चिप (SOC), विशेष रूप से विभिन्न कार्यों के लिए डिज़ाइन की गई कई प्रसंस्करण इकाइयाँ हैं। इसलिए आप पिक्सेल में टेंसर चिप जैसे चिप्स के बारे में सुनेंगे, जिसे "सिस्टम-ऑन-ए-चिप" कहा जाता है। यह केवल एक प्रोसेसर नहीं है, बल्कि उनमें से एक गुच्छा है, साथ ही मेमोरी, इंटरफेस, और बहुत कुछ, सभी सिलिकॉन के एक टुकड़े पर। आइए एक उदाहरण के रूप में पिक्सेल स्मार्टफोन का उपयोग करें: आपको मुख्य "इंजन" के रूप में केंद्रीय प्रसंस्करण इकाई (सीपीयू) मिल गई है; विजुअल रेंडरिंग के लिए ग्राफिक्स प्रोसेसिंग यूनिट (GPU); और अब, टेंसर प्रोसेसिंग यूनिट (TPU), जिसे Google ने विशेष रूप से डिवाइस पर AI/ML वर्कलोड को संभालने के लिए डिज़ाइन किया था। वे सभी काम करने के लिए एक साथ काम करते हैं - एका, प्रसंस्करण। उदाहरण के लिए, जब आप फ़ोटो को स्नैप करते हैं, तो आप इन सभी प्रसंस्करण शक्तियों का उपयोग कर रहे हैं। CPU मुख्य कार्य चलाता है, GPU लेंस को देखने में मदद करता है, और पिक्सेल की तरह एक प्रीमियम एंड्रॉइड डिवाइस पर, TPU आपकी तस्वीरों को बढ़ाने के लिए काम करता है। समझ गया। "ऑन-डिवाइस" प्रसंस्करण का तात्पर्य है कि ऑफ-डिवाइस प्रोसेसिंग है। ऐसा कहां होता है? ऑफ-डिवाइस प्रोसेसिंग क्लाउड में होती है। आपका डिवाइस इंटरनेट पर सर्वर पर एक अनुरोध भेजता है, जो कार्य करते हैं और परिणाम आपके फोन पर वापस भेजते हैं। इसे ऑन-डिवाइस बनाने के लिए, हम क्लाउड से बड़े मशीन लर्निंग मॉडल लेते हैं, इसे छोटा और अधिक कुशल बनाते हैं, और इसे अपने डिवाइस के ऑपरेटिंग सिस्टम और हार्डवेयर पर चलाते हैं। क्या हार्डवेयर यह संभव बनाता है? नया, अधिक शक्तिशाली चिपसेट। उदाहरण के लिए, पिक्सेल 9 प्रो हमारे एसओसी को टेंसर जी 4 का उपयोग करता है, जो इन फोनों को मिथुन नैनो जैसे मॉडल चलाने और उच्च-प्रदर्शन कम्प्यूटेशन को संभालने में सक्षम बनाता है। इसलिए, टेंसर को विशेष रूप से Google एआई को चलाने के लिए डिज़ाइन किया गया है, जो पिक्सेल की नई जनरल एआई क्षमताओं को बहुत अधिक शक्ति प्रदान करता है। बिल्कुल! और जबकि जनरेटिव एआई विशेषताएं इसका एक बड़ा हिस्सा हैं, ऑन-डिवाइस प्रोसेसिंग भी संभावित चीजें बनाती हैं जैसे कि वीडियो रेंडर करना, गेम खेलना, एचडीआर फोटो एडिटिंग, और भाषा अनुवाद-बहुत कुछ आप अपने फोन के साथ करते हैं। ये कार्य आपके फोन पर होते हैं, सर्वर पर नहीं। मिथुन के साथ टॉकबैक, जो छवियों का विश्लेषण करता है और अंधे या कम-दृष्टि वाले उपयोगकर्ताओं को ज़ोर से विवरण पढ़ता है, एक चिप पर टेंसर, पिक्सेल के सिस्टम का उपयोग करने वाले ऑन-डिवाइस प्रसंस्करण का एक उदाहरण है। आज के स्मार्टफोन की गणना शक्ति अविश्वसनीय है। वे शुरुआती उच्च प्रदर्शन वाले कंप्यूटरों की तुलना में हजारों गुना तेज हैं, जो पूरे कमरों को भरने के लिए उपयोग करते थे। वे पुराने कंप्यूटर डेटा विश्लेषण, छवि प्रसंस्करण, विसंगति का पता लगाने और प्रारंभिक एआई अनुसंधान के लिए अत्याधुनिक थे। अब, हम अपने उपकरणों पर यह सब कर सकते हैं, सहायक सुविधाओं के लिए नए अवसर खोल सकते हैं। क्या ऑन-डिवाइस प्रसंस्करण ऑफ-डिवाइस से बेहतर है? आवश्यक रूप से नहीं। यदि आप पूरी तरह से ऑन-डिवाइस की खोज का उपयोग करते हैं, तो यह धीमा या सीमित होगा क्योंकि वेब की खोज करना एक हिस्टैक में एक सुई खोजने जैसा है। पूरा वेब इंडेक्स आपके फोन पर फिट नहीं हो सकता है! इसके बजाय, खोज क्लाउड और हमारे डेटा केंद्रों का उपयोग वेब पेजों के खरबों तक पहुंचने के लिए करता है। लेकिन अधिक विशिष्ट कार्यों के लिए, ऑन-डिवाइस प्रसंस्करण वास्तव में उपयोगी है। यह तेज है क्योंकि कोई विलंबता नहीं है, और यह इंटरनेट कनेक्शन के बिना काम करता है, जिससे यह अधिक विश्वसनीय हो जाता है। इसके अलावा, चूंकि एआई चिप आपकी जेब में है, इसलिए ऐप्स इन एलएलएम क्षमताओं का उपयोग मुफ्त में कर सकते हैं। दोनों के अपने फायदे हैं: क्लाउड में अधिक शक्तिशाली मॉडल हैं और आपके फ़ोटो और वीडियो की तरह बहुत सारे डेटा संग्रहीत कर सकते हैं। यह ड्राइव, जीमेल और Google फ़ोटो जैसे बड़े पैमाने पर डेटाबेस खोजने जैसी क्रियाओं का भी समर्थन करता है। मैं पहले से ही प्रभावित हूं कि मेरा पिक्सेल क्या कर सकता है, लेकिन ऐसा लगता है कि यह केवल बेहतर होने जा रहा है। हां, एंड्रॉइड डिवाइस पर इन जटिल कार्यों के लिए हम जिन मॉडल का उपयोग करते हैं, वे अधिक सक्षम हो रहे हैं। लेकिन यह केवल बेहतर तकनीक के बारे में नहीं है; हम इस बात पर भी ध्यान केंद्रित करते हैं कि वास्तव में लोगों को क्या फायदा होगा। हम केवल उत्पादों का परिचय नहीं देते हैं क्योंकि ऑन-डिवाइस प्रसंस्करण इसे संभाल सकता है; हम यह सुनिश्चित करना चाहते हैं कि यह कुछ ऐसा है जो लोग अपने रोजमर्रा के जीवन में उपयोग करना चाहते हैं।

संबंधित लेख

सूचना (20)