Tensorflow: rnn_cell.BasicLSTM और rnn_cell.MultiRNNCell

Question

से सभी चर कैसे प्राप्त करें मेरे पास एक सेटअप है जहां मुझे मुख्य प्रारंभिकरण के बाद एक LSTM प्रारंभ करने की आवश्यकता है जो tf.initialize_all_variables() का उपयोग करता है। अर्थात। मैं tf.initialize_variables([var_list])

कॉल करना चाहते हैं वहाँ दोनों के लिए सभी आंतरिक trainable चर इकट्ठा करने के लिए जिस तरह से है: कि मैं बस प्रारंभ कर सकते हैं

• rnn_cell.BasicLSTM
• rnn_cell.MultiRNNCell

तो इन पैरामीटर?

मुख्य कारण मुझे यह चाहिए क्योंकि मैं पहले से कुछ प्रशिक्षित मूल्यों को फिर से शुरू नहीं करना चाहता हूं।

Answer 1

आपकी समस्या का समाधान करने का सबसे आसान तरीका चरणीय दायरे का उपयोग करना है। किसी दायरे के भीतर चर के नामों को इसके नाम से उपसर्ग किया जाएगा।

cell = rnn_cell.BasicLSTMCell(num_nodes) 

with tf.variable_scope("LSTM") as vs: 
    # Execute the LSTM cell here in any way, for example: 
    for i in range(num_steps): 
    output[i], state = cell(input_data[i], state) 

    # Retrieve just the LSTM variables. 
    lstm_variables = [v for v in tf.all_variables() 
        if v.name.startswith(vs.name)] 

# [..] 
# Initialize the LSTM variables. 
tf.initialize_variables(lstm_variables) 

यह MultiRNNCell साथ उसी तरह काम करेगा: यहाँ एक लघु स्निपेट है।

संपादित करें: tf.all_variables()

Answer 2

को tf.trainable_variables बदल तुम भी tf.get_collection() उपयोग कर सकते हैं:

cell = rnn_cell.BasicLSTMCell(num_nodes) 
with tf.variable_scope("LSTM") as vs: 
    # Execute the LSTM cell here in any way, for example: 
    for i in range(num_steps): 
    output[i], state = cell(input_data[i], state) 

    lstm_variables = tf.get_collection(tf.GraphKeys.VARIABLES, scope=vs.name) 

(आंशिक रूप से राफाल के जवाब से नकल)

ध्यान दें कि अंतिम पंक्ति में सूची समझ के बराबर है राफल का कोड

असल में, tensorflow चर के वैश्विक संग्रह को संग्रहीत करता है, जिसे tf.all_variables() या tf.get_collection(tf.GraphKeys.VARIABLES) द्वारा लाया जा सकता है। यदि आप tf.get_collection() फ़ंक्शन में scope (स्कोप नाम) निर्दिष्ट करते हैं, तो आप संग्रह में केवल तनख्वाह (इस मामले में चर) प्राप्त करते हैं जिनके स्कोप निर्दिष्ट दायरे में हैं।

संपादित करें: आप केवल ट्रेन करने योग्य चर प्राप्त करने के लिए tf.GraphKeys.TRAINABLE_VARIABLES का उपयोग भी कर सकते हैं। लेकिन चूंकि वेनिला बेसिकलस्टमेलेल किसी भी गैर-ट्रेन करने योग्य चर को प्रारंभ नहीं करता है, दोनों कार्यशील रूप से समकक्ष होंगे। डिफ़ॉल्ट ग्राफ संग्रह की पूरी सूची के लिए, this देखें।