बेहतर या वही: सीपीयू memcpy() बनाम डिवाइस cudaMemcpy() पिन पर, cUDA में मैप मेमोरी?

Question

मेरे पास है:

• होस्ट स्मृति है कि सफलतापूर्वक पिन किए गए और cudaHostAlloc(..., cudaHostAllocMapped) या cudaHostRegister(..., cudaHostRegisterMapped) का उपयोग कर मैप किया;
• डिवाइस पॉइंटर्स cudaHostGetDevicePointer(...) का उपयोग करके प्राप्त किए गए हैं।

मैं src और गंतव्य डिवाइस संकेत दिए गए कि पिन किए गए + मैप की स्मृति के दो अलग-अलग क्षेत्रों के ऊपर तकनीक के द्वारा प्राप्त को इंगित पर cudaMemcpy(..., cudaMemcpyDeviceToDevice) आरंभ करें। सबकुछ ठीक काम करता है।

प्रश्न: क्या मुझे यह करना जारी रखना चाहिए या पारंपरिक सीपीयू-शैली memcpy() का उपयोग करना चाहिए क्योंकि सब कुछ सिस्टम मेमोरी में है? ... या वे समान (यानी cudaMemcpy सीधे memcpy पर नक्शा हैं जब दोनों स्रोत और dest पिन पिन किए जाते हैं)?

(मैं अभी भी cudaMemcpy विधि का उपयोग कर रहा है, क्योंकि पहले से सब कुछ उपकरण वैश्विक स्मृति में किया गया था, लेकिन जब से gmem आकार की कमी के कारण पिन किए गए स्मृति में बदला गया है) (

Answer 1

cudaMemcpy के साथ CUDA ड्राइवर का पता लगाता है कि आप एक होस्ट पॉइंटर से होस्ट पॉइंटर पर प्रतिलिपि बना रहे हैं और कॉपी सीपीयू पर की जाती है। यदि आप चाहें तो आप निश्चित रूप से सीपीयू पर memcpy का उपयोग कर सकते हैं।

यदि आप cudaMemcpy का उपयोग करते हैं, तो कॉपी करने से पहले एक अतिरिक्त स्ट्रीम सिंक्रनाइज़ किया जा सकता है (जिसे आप प्रोफाइलर में देख सकते हैं, लेकिन मैं अनुमान लगा रहा हूं कि — परीक्षण और देखें)।

एक यूवीए सिस्टम पर आप केवल cudaMemcpyDefault का उपयोग कर सकते हैं क्योंकि उनके जवाब में तालनी कहते हैं। लेकिन अगर आपके पास यूवीए (sm_20 + और 64-बिट ओएस) नहीं है, तो आपको सही प्रतिलिपि (उदा। cudaMemcpyDeviceToDevice) कॉल करना होगा। यदि आप cudaHostRegister() सब कुछ आप तो cudaMemcpyDeviceToDevice में रुचि निम्नलिखित पर निर्भर करता है, जहां स्मृति स्थित है कर खत्म हो जाएगा रहे हैं:

• होस्ट < -> होस्ट: (memcpy) सीपीयू द्वारा किया जाता
• होस्ट < - > उपकरण: डीएमए (डिवाइस से कॉपी इंजन)
• डिवाइस < -> उपकरण: memcpy CUDA कर्नेल (रन एसएमएस पर, चालक द्वारा शुरू की)

Answer 2

आप यूवीए के साथ एक मंच पर काम कर रहे हैं एकीकृत वर्चुअल एड्रेसिंग), मैं cudaMemcpycudaMemcpyDefault के साथ दृढ़ता से सुझाव देना चाहता हूं। इस तरह से सबसे तेज़ पथ के बारे में यह सब एक आंतरिक एपीआई कार्यान्वयन विवरण बन जाता है जिसके बारे में आपको चिंता करने की ज़रूरत नहीं है।