क्या स्थानीय मेमोरी CUDA में साझा स्मृति से धीमी है?

Question

मुझे केवल एक टिप्पणी मिली कि स्थानीय मेमोरी रजिस्टर मेमोरी, दो-प्रति-थ्रेड प्रकारों की तुलना में धीमी है।

साझा स्मृति तेजी से माना जाना चाहिए, लेकिन यह स्थानीय स्मृति [थ्रेड के] से तेज है?

मैं जो करना चाहता हूं वह एक औसत फ़िल्टर है, लेकिन औसत के बजाय दिए गए प्रतिशत के साथ। इस प्रकार मुझे सूची के टुकड़े लेने, उन्हें क्रमबद्ध करने और फिर एक उपयुक्त चुनने की आवश्यकता है। लेकिन मैं साझा स्मृति सूची को हल करना शुरू नहीं कर सकता या चीजें गलत हो सकती हैं। क्या मैं बस स्थानीय मेमोरी की प्रतिलिपि बनाकर बहुत सारे प्रदर्शन खो दूंगा?

Answer 1

स्थानीय मेमोरी केवल स्थानीय वैश्विक स्मृति है। यह रजिस्ट्रार या साझा स्मृति की तुलना में बहुत धीमा (बैंडविड्थ और विलंबता दोनों के मामले में) है। यह मेमोरी कंट्रोलर बैंडविड्थ भी खपत करता है जो अन्यथा वैश्विक मेमोरी लेनदेन के लिए उपलब्ध होगा। आप जिस हार्डवेयर का उपयोग कर रहे हैं और स्थानीय मेमोरी का उपयोग कैसे किया जाता है, उसके आधार पर स्थानीय स्मृति का उपयोग करके जानबूझकर या स्थानीय रूप से मेमोरी का उपयोग करने का प्रदर्शन प्रभाव मामूली से गंभीर हो सकता है।

वसीली Volkov के शोध के अनुसार - देख Better performance at lower occupancy (pdf) - वहाँ साझा स्मृति के बीच प्रभावी बैंडविड्थ में 8 अंतर का एक पहलू के बारे में है और फर्मी GPUs (लगभग 1000 जीबी/साझा स्मृति और 8000 जीबी/एस के लिए रों पर रजिस्टर रजिस्टरों के लिए)। यह कुछ हद तक CUDA दस्तावेज का विरोध करता है, जिसका अर्थ है कि साझा स्मृति रजिस्टरों की गति में तुलनीय है।