सुरक्षित और सही तरीके से RandomForestClassifier के predict_proba() फ़ंक्शन का उपयोग

Question

मैं अपने डेटासेट पर मशीन लर्निंग एल्गोरिदम लागू करने के लिए Scikit-learn का उपयोग कर रहा हूं। कभी-कभी मुझे लेबल/कक्षाओं से जुड़े लेबल/कक्षाओं की संभावनाएं होती हैं। ईमेल के लेबल के रूप में स्पैम/स्पैम नहीं होने के बजाय, मैं केवल उदाहरण के लिए चाहता हूं: 0.78 संभावना एक दिए गए ईमेल स्पैम है।

इस तरह के प्रयोजन के लिए, मैं निम्नलिखित के रूप में RandomForestClassifier साथ predict_proba() का उपयोग कर रहा:

clf = RandomForestClassifier(n_estimators=10, max_depth=None, 
    min_samples_split=1, random_state=0) 
scores = cross_val_score(clf, X, y) 
print(scores.mean()) 

classifier = clf.fit(X,y) 
predictions = classifier.predict_proba(Xtest) 
print(predictions) 

और मैं उन परिणामों मिला:

[ 0.4 0.6] 
[ 0.1 0.9] 
[ 0.2 0.8] 
[ 0.7 0.3] 
[ 0.3 0.7] 
[ 0.3 0.7] 
[ 0.7 0.3] 
[ 0.4 0.6] 

कहाँ दूसरे स्तंभ वर्ग के लिए है: स्पैम। हालांकि, मेरे पास दो मुख्य मुद्दे हैं जिनके बारे में मुझे विश्वास नहीं है। पहला मुद्दा यह है कि परिणाम मेरे डेटा के आकार से प्रभावित किए बिना लेबल की संभावनाओं का प्रतिनिधित्व करते हैं? दूसरा मुद्दा यह है कि परिणाम केवल एक अंक दिखाते हैं जो कुछ मामलों में बहुत विशिष्ट नहीं है जहां 0.701 संभावना 0.708 से बहुत अलग है। उदाहरण के लिए अगले 5 अंक प्राप्त करने का कोई तरीका है?

इन दो मुद्दों और उनके प्रश्नों को पढ़ने में आपके समय के लिए अग्रिम धन्यवाद।

Answer 1

1. मुझे अपने परिणामों में एक से अधिक अंक मिलते हैं, क्या आप वाकई अपने डेटासेट के कारण नहीं हैं? (उदाहरण के लिए एक बहुत ही छोटे डेटासेट का उपयोग सरल निर्णय पेड़ और इतनी 'सरल' संभावनाओं के लिए होता है)। अन्यथा यह केवल एक प्रदर्शन दिखा सकता है जो एक अंक दिखाता है, लेकिन predictions[0,0] प्रिंट करने का प्रयास करें।

2. मुझे यह समझने की ज़रूरत नहीं है कि "मेरे डेटा के आकार से संभावनाएं प्रभावित नहीं हैं" का क्या मतलब है। यदि आपकी चिंता यह है कि आप भविष्यवाणी नहीं करना चाहते हैं, उदाहरण के लिए, बहुत सारे स्पैम, आमतौर पर क्या किया जाता है, थ्रेसहोल्ड t का उपयोग करना है, जैसे कि आप 1 अगर proba(label==1) > t की भविष्यवाणी करते हैं। इस तरह आप अपनी भविष्यवाणियों को संतुलित करने के लिए दहलीज का उपयोग कर सकते हैं, उदाहरण के लिए स्पैम की वैश्विक संभाव्यता को सीमित करने के लिए। और यदि आप वैश्विक रूप से अपने मॉडल का विश्लेषण करना चाहते हैं, तो हम आम तौर पर रिसीवर ऑपरेटिंग विशेषता (आरओसी) वक्र के वक्र (एयूसी) के तहत क्षेत्र की गणना करते हैं (विकिपीडिया लेख here देखें)। असल में आरओसी वक्र थ्रेसहोल्ड t के आधार पर आपकी भविष्यवाणियों का विवरण है।

उम्मीद है कि यह मदद करता है!

Answer 2

ए RandomForestClassifierDecisionTreeClassifier का संग्रह है। कोई फर्क नहीं पड़ता कि आपका प्रशिक्षण सेट कितना बड़ा है, एक निर्णय पेड़ बस लौटाता है: एक निर्णय। एक वर्ग की संभावना 1 है, अन्य वर्गों की संभावना 0 है।

रैंडमॉर्स्ट बस परिणामों के बीच वोट देता है। predict_proba() जंगल में पेड़ों की संख्या से विभाजित, प्रत्येक वर्ग के लिए वोटों की संख्या लौटाता है (जंगल में प्रत्येक पेड़ अपना निर्णय लेता है और बिल्कुल एक वर्ग चुनता है)। इसलिए, आपकी परिशुद्धता बिल्कुल 1/n_estimators है। अधिक "सटीक" चाहते हैं? अधिक अनुमानक जोड़ें। यदि आप 5 वें अंक पर भिन्नता देखना चाहते हैं, तो आपको 10**5 = 100,000 अनुमानकों की आवश्यकता होगी, जो अत्यधिक है। आप आमतौर पर 100 से अधिक अनुमानक नहीं चाहते हैं, और अक्सर कई नहीं।