थेनो स्विच पंक्ति-वार कुशलतापूर्वक

Question

मैं निम्नलिखित कोड

output = T.switch(cond, a, b) 

जहां cond एक (N,1) bool टेन्सर है, जबकि a और bM काफी बड़े होने के साथ (N, M) सांख्यिक Tensors हैं। स्थिति एक पंक्ति-वार तरीके से चलती है।

मैं T.repeat()cond पर आसानी से स्विच काम कर सकता हूं, लेकिन यह काफी धीमा है। a या b वापस लौटाया जाना चाहिए या नहीं, क्या कोई तरीका है कि मैं कुशलतापूर्वक cond में बूल बना सकता हूं?

Answer 1

क्या कोई तरीका है कि मैं कुशलतापूर्वक बूल को यह तय करने में सक्षम कर सकता हूं कि कोई या बी वापस किया जाना चाहिए या नहीं?

हाँ, तुम कर सकते हो

cond * a + (1-cond) * b 

cond(N, M) आकार के प्रसारित किया जाएगा।

यह सैद्धांतिक सीमा के करीब होना चाहिए, जो स्मृति बैंडविड्थ है: इस ऑपरेशन को N*M तत्वों को पढ़ने और N*M लिखने की आवश्यकता है।

इसके बजाय, हम 2*N*M पढ़ते हैं, लेकिन सशर्त तर्क को हटा दें।

(मैं मेरे सामने थेनो नहीं है, तो मुझे यकीन है कि नहीं कर रहा हूँ अगर यह T.switch की तुलना में तेजी है, लेकिन के रूप में यह हो जाता है। इसके अलावा इस बारे में के रूप में अच्छा होना चाहिए, मैं एक ही dtype कास्टिंग cond कोशिश करता हूँ a और b)

---

के रूप में आप में जगह a अद्यतन करना चाहते हैं, तो आप यह T.set_subtensor उपयोग कर सकते हैं:

a = np.random.uniform(size=(N, M)).astype(np.float32) 
b = np.random.uniform(size=(N, M)).astype(np.float32) 

a = theano.shared(a) 
b = theano.shared(b) 

c = T.vector() # mostly 0, presumably (1-cond) 

nz = T.nonzero(c) 

s = T.set_subtensor(a[nz], b[nz]) 
fn = theano.function([c], [], updates=[(a, s)]) 

... 

fn(1-cond) 

यह या तेज नहीं हो सकता टी N, M और अन्य कारकों के आधार पर पहला दृष्टिकोण हैन।