थानो पर भारित बाइनरी क्रॉसएन्त्रॉपी को कैसे कार्यान्वित करें?

Question

थानो पर भारित बाइनरी क्रॉसएन्त्रॉपी को कैसे कार्यान्वित करें?

मेरा कनवॉल्यूशनल तंत्रिका नेटवर्क केवल 0 ~~ 1 (सिग्मोइड) की भविष्यवाणी करता है।

मैं इस तरह से मेरी भविष्यवाणियों को दंडित करना चाहते हैं:

असल में, मैं और अधिक दंडित करने का जब मॉडल भविष्यवाणी 0 चाहते हैं, लेकिन सच्चाई था 1.

प्रश्न: मैं इस वेटेड बाइनरी क्रॉसएन्त्रॉपी फ़ैरानो और लासगेन का उपयोग करके फ़ंक्शन कैसे बना सकता हूं?

मैं

prediction = lasagne.layers.get_output(model) 


import theano.tensor as T 
def weighted_crossentropy(predictions, targets): 

    # Copy the tensor 
    tgt = targets.copy("tgt") 

    # Make it a vector 
    # tgt = tgt.flatten() 
    # tgt = tgt.reshape(3000) 
    # tgt = tgt.dimshuffle(1,0) 

    newshape = (T.shape(tgt)[0]) 
    tgt = T.reshape(tgt, newshape) 

    #Process it so [index] < 0.5 = 0 , and [index] >= 0.5 = 1 


    # Make it an integer. 
    tgt = T.cast(tgt, 'int32') 


    weights_per_label = theano.shared(lasagne.utils.floatX([0.2, 0.4])) 

    weights = weights_per_label[tgt] # returns a targets-shaped weight matrix 
    loss = lasagne.objectives.aggregate(T.nnet.binary_crossentropy(predictions, tgt), weights=weights) 

    return loss 

loss_or_grads = weighted_crossentropy(prediction, self.target_var) 

नीचे इस की कोशिश की लेकिन मैं नीचे इस त्रुटि मिलती है:

लेखन त्रुटि: आकृति बदलें में नई आकार एक वेक्टर या अदिश की एक सूची/टपल होना चाहिए। एक वेक्टर में रूपांतरण के बाद Subtensor {int64} .0 मिला।

---

संदर्भ: https://github.com/fchollet/keras/issues/2115

संदर्भ: https://groups.google.com/forum/#!topic/theano-users/R_Q4uG9BXp8

Answer 1

लैसगने समूह पर डेवलपर्स के लिए धन्यवाद, मैंने इसे अपना खुद का नुकसान समारोह बनाकर तय किया।

loss_or_grads = -(customized_rate * target_var * tensor.log(prediction) + (1.0 - target_var) * tensor.log(1.0 - prediction)) 

loss_or_grads = loss_or_grads.mean() 

Answer 2

अपने सिंटैक्स त्रुटि के समाधान के लिए:

बदलें

newshape = (T.shape(tgt)[0]) 
tgt = T.reshape(tgt, newshape) 

को

newshape = (T.shape(tgt)[0],) 
tgt = T.reshape(tgt, newshape) 

T.reshape धुरी के एक ट्यूपल की अपेक्षा करता है, तो आपने यह प्रदान नहीं किया, इसलिए त्रुटि।

झूठी-नकारात्मक (भविष्यवाणी 0, सत्य 1) ​​को दंडित करने से पहले यह सुनिश्चित करें कि यह पूर्वानुमान त्रुटि आपके प्रशिक्षण डेटा के आंकड़ों पर आधारित नहीं है, @uyaseen suggested के रूप में।