tensorflow में वाक्य-स्तर लॉग-संभावना को कैसे कार्यान्वित करें?

Question

मैं Collobert et al., पी में वर्णित वाक्य-स्तर लॉग-संभावना को कार्यान्वित करना चाहता हूं। 14.

संक्रमण स्कोर की गणना करने के लिए, मैं सीआरएफ का उपयोग कर सकता हूं, लेकिन मुझे नहीं पता कि इसे tensorflow में कैसे एकीकृत किया जाए। मैं tf.contrib.crf.CrfForwardRnnCell का उपयोग कर संक्रमण स्कोर की गणना करने के बारे में सोचा है, लेकिन इस वर्ग के एक जोड़ी रिटर्न [batch_size, num_tags] मैट्रिक्स नई अल्फा मूल्यों और न मानों के रूप में मैं एक [batch_size, num_tags, num_tags] टेन्सर उम्मीद करेंगे।

क्या किसी के पास उदाहरण है कि tensorflow में सीआरएफ का उपयोग कैसे करें? धन्यवाद!

Answer 1

TensorFlow में contrib.crf का उपयोग करने का एक अच्छा उदाहरण यहाँ दिया जाता है: https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/crf

यह ध्यान देने योग्य है कि SLL उद्देश्य अल में Collobert में वर्णित के लायक है। 2014 सीआरएफ उद्देश्य से थोड़ा अलग है कि एसएलएल में सामान्यीकरण की कमी है (पृष्ठ 16 पर टिप्पणी 4 देखें), लेकिन यह वास्तव में अभ्यास में कोई फर्क नहीं पड़ता है (मैं केवल सीआरएफ का उपयोग करता हूं।)