तंत्रिका नेटवर्क के लिए जेवियर प्रारंभ में फैन-इन और प्रशंसक-आउट की गणना कैसे करें?

Question

न्यूरल नेटवर्क में वजन के लिए जेवियर प्रारंभिकता में मैंने जो कुछ पाया है, वे सभी प्रशंसक- और प्रशंसक-आउट का उल्लेख करते हैं; क्या आप कृपया बता सकते हैं कि उन दो पैरामीटरों की गणना कैसे की जाती है? विशेष रूप से इन दो उदाहरणों के लिए:

1) आकृति [5, 5, 3, 6] (चौड़ाई, ऊंचाई, इनपुट गहराई, आउटपुट गहराई) के फ़िल्टर के साथ एक संकल्पक परत के वजन को आरंभ करना;

2) आकृति [400, 120] के साथ पूरी तरह से जुड़े परत के वजन को शुरू करना (यानी 120 आउटपुट वैरिएबल पर 400 इनपुट चर मैपिंग)।

धन्यवाद!

Answer 1

मेरे समझ है कि है में और एक convolutional परत से बाहर प्रशंसक के रूप में परिभाषित कर रहे हैं:

fan_in = n_feature_maps_in * receptive_field_height * receptive_field_width 
fan_out = n_feature_maps_out * receptive_field_height * receptive_field_width/max_pool_area 

जहां receptive_field_height और receptive_field_width विचार और max_pool_area तहत रूपा परत के उन लोगों के अनुरूप ऊंचाई का उत्पाद है और अधिकतम पूलिंग की चौड़ाई जो रूपांतरण परत का पालन करती है।

अगर मैं गलत हूं तो कृपया मुझे सही करें।

स्रोत: deeplearning.net