मल्टीथ्रेड मोड में ग्रीनिकॉर्न के साथ फ्लास्क कैसे चलाएं

Question

मेरे पास फ्लास्क में वेब एप्लिकेशन लिखा गया है। जैसा कि हर किसी के द्वारा सुझाया गया है, मैं उत्पादन में फ्लास्क का उपयोग नहीं कर सकता। तो मैंने फ्लास्क के साथ गनिकोर्न के बारे में सोचा।

फ्लास्क एप्लिकेशन में मैं कुछ मशीन लर्निंग मॉडल लोड कर रहा हूं। ये आकार 8 जीबी सामूहिक रूप से हैं। मेरे वेब एप्लिकेशन की सहमति 1000 अनुरोध तक जा सकती है। और मशीन की रैम 15 जीबी है।
तो इस एप्लिकेशन को चलाने का सबसे अच्छा तरीका क्या है?

Answer 1

आप गनिकॉर्न के साथ कई श्रमिकों या एसिंक श्रमिकों के साथ अपना ऐप शुरू कर सकते हैं।

बोतल gevent async कार्यकर्ता के साथ

from flask import Flask 
app = Flask(__name__) 

@app.route("/") 
def hello(): 
    return "Hello World!" 

if __name__ == "__main__": 
    app.run() 

server.py Gunicorn

gunicorn server:app -k gevent --worker-connections 1000 

Gunicorn 1 कार्यकर्ता 12 धागे:

:

gunicorn server:app -w 1 --threads 12 

Gunicorn 4 श्रमिकों (बहु) के साथ

gunicorn server:app -w 4 

इस पोस्ट में फ्लास्क समेकन पर अधिक जानकारी: How many concurrent requests does a single Flask process receive?।