2016-01-27 6 views
15

Google ट्यूटोरियल से हम जानते हैं कि टेंसरफ्लो में मॉडल को कैसे प्रशिक्षित किया जाए। लेकिन एक प्रशिक्षित मॉडल को बचाने का सबसे अच्छा तरीका क्या है, फिर उत्पादन सर्वर में बुनियादी न्यूनतम पायथन एपीआई का उपयोग करके पूर्वानुमान की सेवा करें।API से TensorFlow का उपयोग करके भविष्यवाणी कैसे तैनात और सेवा करें?

मेरा प्रश्न मूल रूप से मॉडल को बचाने के लिए टेंसरफ्लो सर्वोत्तम प्रथाओं के लिए है और गति और स्मृति समस्या समझौता किए बिना लाइव सर्वर पर पूर्वानुमान प्रदान करता है। चूंकि एपीआई सर्वर हमेशा के लिए पृष्ठभूमि पर चल रहा है।

पायथन कोड का एक छोटा स्निपेट सराहना की जाएगी।

उत्तर

13

TensorFlow Serving मशीन सीखने के मॉडल के लिए एक उच्च प्रदर्शन, ओपन सोर्स सर्विसिंग सिस्टम है, जो उत्पादन वातावरण के लिए डिज़ाइन किया गया है और टेंसरफ्लो के लिए अनुकूलित है। प्रारंभिक रिलीज में gRPC पर आधारित C ​​++ सर्वर और पायथन क्लाइंट उदाहरण शामिल हैं। बुनियादी वास्तुकला नीचे दिए गए आरेख में दिखाया गया है।

enter image description here

जल्दी से आरंभ करने के लिए, tutorial की जाँच करें।

+0

इसके लिए धन्यवाद, जैरेक। क्या आपको पता है कि TensortFlow Serving के लिए सर्वर-साइड के पायथन कार्यान्वयन की योजना है या नहीं? – eriophora

+0

मुझे पता नहीं है कि कोर लाइब्रेरी सी ++ में है और प्रदर्शन-केंद्रित है। क्या आप अपने उपयोग के मामले के बारे में अधिक जानकारी साझा कर सकते हैं? –

+0

यह समझ में आता है। मैं ऐसे सर्वर को तैनात करना चाहता हूं जो बड़ी संख्या में उपयोगकर्ताओं से अनुरोधों को निभाएगा, जो छवियों का रूप लेते हैं, और एक अनुमान के परिणाम लौटाते हैं (मॉडल का आउटपुट जिसका इनपुट अनुरोध छवि है)। मेरे लिए अस्पष्ट यह है कि अधिकांश दस्तावेज (यानी, आर्किटेक्चर ओवरव्यू में "servables" को परिभाषित करने के लिए) यह इंगित करता है कि टेंसरफ्लो सर्विसिंग वास्तव में मॉडल को अपने आउटपुट के बजाय वापस लौटाती है ("Servables अंतर्निहित ऑब्जेक्ट्स हैं जो क्लाइंट निष्पादित करने के लिए उपयोग करते हैं गणना ") ... मैं गणना करना चाहता हूं कि क्लाइंट-साइड – eriophora

संबंधित मुद्दे