2010-05-01 13 views
5

मैं उत्पादन वातावरण में छोटे/सरल REST वेब प्रश्नों का एक टन चलाने के लिए एक वितरित सेटअप बनाना चाहता हूं। प्रत्येक 5-10 से संबंधित प्रश्नों के लिए जिन्हें नोड से निष्पादित किया जाता है, मैं व्युत्पन्न डेटा की एक बहुत छोटी राशि उत्पन्न करूंगा, जिसे मानक संबंधपरक डेटाबेस (जैसे PostgreSQL) में संग्रहीत करने की आवश्यकता होगी।कई सरल नेटवर्क कार्यों को वितरित करने के लिए समाधान?

इस प्रकार की समस्या के लिए कौन से प्लेटफ़ॉर्म बनाए गए हैं? प्रकृति, डेटा आकार और मात्रा हडोप की मानसिकता के विपरीत प्रतीत होती है। कंडोर और सन ग्रिड इंजन जैसे अधिक ग्रिड आधारित आर्किटेक्चर भी हैं, जिन्हें मैंने उल्लेख किया है। मुझे यकीन नहीं है कि क्या इन प्लेटफार्मों में त्रुटियों से कोई वसूली हुई है (हालांकि कोई नौकरी सफल हो रही है या नहीं)।

मुझे वास्तव में क्या पसंद आएगा एक फीफो प्रकार कतार है जिसे मैं अपने डेटाबेस के अद्यतन होने के अंतिम परिणाम के साथ नौकरियां जोड़ सकता हूं।

नौकरी के लिए सबसे अच्छे उपकरण पर कोई सुझाव?

+0

एक (मालिकाना) निगरानी कार्यक्रम के समान लगता है जो मैं समाप्त कर रहा हूं। यह कई यूआरएल से समय-समय पर कॉन्फ़िगर करने योग्य अंतराल पर डाउनलोड करता है, परिणाम पोस्ट करता है और परिणामों को PostgreSQL डेटाबेस में सहेजता है। मैंने इसे एक एकल सी ++ प्रोग्राम के रूप में कार्यान्वित किया जो डाउनलोड नौकरियों की प्राथमिकता कतार बनाए रखता है (वास्तव में एक std :: नक्शा क्योंकि निगरानी अक्षम होने पर नौकरियों को निकालने की आवश्यकता होती है) और डाउनलोड करने के लिए libcurl का उपयोग करता है। मैंने मुख्य रूप से परिणामों को घुमाने के लिए संबोधित नहीं किया है क्योंकि निगरानी कार्यक्रम और डेटाबेस एक ही सर्वर पर रहते हैं। मैंने वास्तव में एक मंच का उपयोग नहीं किया था, इसलिए +1 :-) –

उत्तर

1

क्या आपने Celery पर देखा है?

+0

परियोजनाएं दिलचस्प लगती हैं, हालांकि काफी युवा हैं। मैं अक्सर पूछताछ के आधार पर इसकी मजबूती के बारे में भी निश्चित नहीं हूं: "एक कारण यह है कि कतार खाली नहीं हुई है, यह हो सकता है कि आपके पास संदेश बंधक लेने वाली एक पुरानी अजवाइन प्रक्रिया हो। यह तब हो सकता है जब सेलेरीड ठीक से बंद न हो।" इसके अलावा, django निर्भरता बहुत परेशान है: "हालांकि, Django के बाहर से सेलेरी का उपयोग करना संभव है, फिर भी हमें Django खुद को चलाने की जरूरत है, यह ओआरएम और कैश-फ्रेमवर्क का उपयोग करना है।" – EmpireJones

+0

@empirejones वास्तव में FAQ पूछताछ अब प्रासंगिक नहीं है। यह वर्तमान में कतार में प्रतीक्षा नौकरियों को हटाने के बारे में था। यदि कोई कर्मचारी ब्रोकर कनेक्शन छोड़ देता है, तो कर्मचारी पहले से ही कुछ नौकरियां आरक्षित कर सकता है (यदि प्रीफ़ेच गिनती की वजह से), नौकरियां कहीं और भेजी जाती हैं (या यदि वही कार्यकर्ता फिर से कनेक्ट होता है)। संबंधित बग अब तय किए गए हैं, यह बदले में यह मल्टीप्रोसेसिंग और फोर्किंग के साथ एक समस्या थी। – asksol

संबंधित मुद्दे