पहला: मैं टेंसफोर्लो के साथ केवल कुछ ही दिनों में हूं, इसलिए कृपया मेरे साथ भालू।मैं टेंसफोर्लो सबग्राफ के लिए केवल ग्रेडियेंट को कैसे परिभाषित कर सकता हूं?
मैंने सीफार 10 ट्यूटोरियल कोड से शुरुआत की और अब मैं प्रतीकात्मक भेदभाव को तोड़ने वाले संकल्पों और ईजिनवेयू अपघटनों के संयोजन का उपयोग कर रहा हूं। अर्थात। ग्राफ बनाया गया है, फिर train() पर कॉल करने पर स्क्रिप्ट "संचालन के लिए परिभाषित कोई ढाल [...] (सेशन प्रकार: SelfAdjointEig)" के साथ रुक जाती है। वहां कोई आश्चर्य नहीं है।
प्रश्न में उपलेख में इनपुट अभी भी केवल इनपुट फीचर मैप्स और फ़िल्टर का उपयोग किया जा रहा है, और मेरे पास ग्रेडियेंट्स के लिए सूत्र हैं और उन्हें सबग्राफ में इनपुट दिए जाने के लिए सीधे आगे बढ़ना चाहिए और इसके उत्पादन के संबंध में ढाल।
मैं दस्तावेज़ों में जो देख सकता हूं उससे, मैं RegisterGradient के साथ कस्टम ओपीएस के लिए एक ढाल विधि पंजीकृत कर सकता हूं या प्रयोगात्मक gradient_override_map के साथ उन्हें ओवरराइड कर सकता हूं। उन दोनों को मुझे उन चीज़ों तक पहुंच प्रदान करनी चाहिए जो मुझे चाहिए। उदाहरण के लिए, searching on Github मुझे ऐसे कई उदाहरण मिलते हैं जो ओप के इनपुट को op.input[0] या ऐसे में एक्सेस करते हैं।
मेरी समस्या यह है कि मैं अनिवार्य रूप से एक संपूर्ण उप-अनुच्छेद "शॉर्टकट" करना चाहता हूं, न कि एक सेशन, इसलिए मेरे पास सजाने के लिए कोई भी एक सेशन नहीं है। चूंकि यह सिफर उदाहरण के संकल्पक परतों में से एक में हो रहा है, इसलिए मैंने उस परत के लिए स्कोप ऑब्जेक्ट का उपयोग करने का प्रयास किया। संकल्पनात्मक रूप से, जो गुंजाइश ग्राफ में प्रवेश करता है और बाहर निकलता है वह वही है जो मैं चाहता हूं ताकि अगर मैं किसी भी तरह से पूरे दायरे के ग्रेडियेंट को ओवरराइड कर सकूं जो "पहले से ही" करेगा।
मैंने tf.Graph.create_op देखा जो (मुझे लगता है) मैं एक नए प्रकार के ऑपरेशन को पंजीकृत करने के लिए उपयोग कर सकता था और फिर मैं उपरोक्त तरीकों के साथ ऑपरेशन प्रकार के ढाल गणना की ओवरराइड कर सकता था। लेकिन मुझे उस ओप के को को सी ++ में लिखने के बिना पास करने का तरीका नहीं दिख रहा है ...
शायद मैं इस गलत तरीके से पूरी तरह से आ रहा हूं? चूंकि मेरे सभी आगे या पिछड़े संचालन को पायथन इंटरफेस के साथ कार्यान्वित किया जा सकता है, इसलिए मैं स्पष्ट रूप से सी ++ में कुछ भी लागू करने से बचना चाहता हूं।
हो सकता है कि आप अपने undifferentiable ग्राफ के शीर्ष पर एक भी सेशन के लिए ढाल ओवरराइड कर सकते हैं, और उसके बाद 'tf.stop_gradient() का उपयोग' कि subgraph के लिए ढाल निर्माण को रोकने के लिए? http://stackoverflow.com/questions/33727935/how-to-use-stop-gradient-in-tensorflow –
मैं स्थानीय रूप से एक ढाल समारोह को परिभाषित करने की कल्पना कर सकता हूं, फिर उसमें अभी भी इन-स्कोप इनपुट का उपयोग कर सकता हूं। लेकिन मैं टीएफ को कैसे बताऊंगा जो उस ग्रेडियेंट गणना में इनपुट के रूप में जो नोड्स 'ग्रेडियेंट्स लेता है? यह मुझे लगता है जैसे मैं मूल रूप से ढांचे का दुरुपयोग कर रहा हूं: पी –