प्रदर्शन दंड जब एक CUDA कर्नेल

Question

लागू मैं सोच रहा हूँ क्या एक CUDA कर्नेल कॉल प्रदर्शन की भूमि के ऊपर ++ जैसे निम्नलिखित सी/सी में है:

somekernel1<<<blocks,threads>>>(args); 
somekernel2<<<blocks,threads>>>(args); 
somekernel3<<<blocks,threads>>>(args); 

कारण है कि मैं इस पूछ रहा हूँ क्योंकि है मैं जिस एप्लिकेशन का निर्माण कर रहा हूं, वह वर्तमान में कई कर्नेल में बार-बार कॉल करता है (कॉल के बीच डिवाइस को फिर से पढ़ा/लिखा जाता है) और मैं सोच रहा हूं कि इन कर्नेल को एक कर्नेल कॉल में कॉल करना है (कुछ कर्नेल 1-3 डिवाइस फ़ंक्शंस बनने के साथ) प्रदर्शन में कोई सार्थक अंतर होगा।

Answer 1

रनटाइम एपीआई के कर्नेल लॉन्च के होस्ट साइड ओवरहेड गैर-डब्लूडीडीएम विंडोज प्लेटफार्मों पर केवल 15-30 माइक्रोसॉन्ड हैं। डब्ल्यूडीडीएम प्लेटफार्मों (जो मैं उपयोग नहीं करता) पर, मैं समझता हूं कि यह बहुत अधिक हो सकता है, साथ ही चालक में कुछ प्रकार की बैचिंग तंत्र है जो एक ड्राइवर चालक संचालन में कई संचालन करके लागत को कम करने की कोशिश करता है।

आम तौर पर, कई डेटा ऑपरेशन "फ्यूजिंग" में प्रदर्शन वृद्धि होगी जो अन्यथा अलग कर्नेल में एक कर्नेल में किया जाएगा, जहां एल्गोरिदम इसे अनुमति देता है। जीपीयू में पीक मेमोरी बैंडविड्थ की तुलना में बहुत अधिक अंकगणितीय चरम प्रदर्शन है, इसलिए अधिक एफएलओपी जिन्हें प्रति मेमोरी लेनदेन (और प्रति कर्नेल "सेटअप कोड") पर निष्पादित किया जा सकता है, बेहतर कर्नेल का प्रदर्शन होगा। दूसरी तरफ, एक "स्विस सेना चाकू" शैली कर्नेल लिखने की कोशिश कर रहा है जो कोड के एक टुकड़े में पूरी तरह से अलग संचालन को क्रैक करने का प्रयास करता है, यह कभी भी विशेष रूप से अच्छा विचार नहीं है, क्योंकि यह रजिस्टर दबाव बढ़ाता है और एल 1 जैसी चीजों की दक्षता को कम करता है, निरंतर स्मृति और बनावट कैश।

आप जिस तरीके से जाना चुनते हैं उसे वास्तव में कोड/एल्गोरिदम की प्रकृति द्वारा निर्देशित किया जाना चाहिए। मुझे विश्वास नहीं है कि इस प्रश्न का एक "सही" जवाब है जिसे सभी परिस्थितियों में लागू किया जा सकता है।

Answer 2

यदि आप विंडोज़ पर विजुअल स्टूडियो प्रो का उपयोग कर रहे हैं तो मुझे लगता है कि आप एनवीडिया के समानांतर एनएसइट का उपयोग करके एक परीक्षण आवेदन चलाते हैं, मुझे लगता है कि यह आपको विधि कॉल से वास्तविक समय तक टिकटों को वास्तविक निष्पादन में बता सकता है, किसी भी मामले में जुर्माना निहित है , लेकिन अगर आपके कर्नल लंबे समय तक विचार करते हैं तो यह नगण्य होगा।