सुविधाओं में कमी के लिए विज्ञान-सीखने पीसीए का उपयोग कैसे करें और जानें कि कौन सी विशेषताओं को

Question

छोड़ दिया गया है, मैं आयामों के एक मैट्रिक्स पर एक पीसीए चलाने की कोशिश कर रहा हूं एम एक्स एन जहां एम सुविधाओं की संख्या है और एन नमूने की संख्या है।

मान लीजिए कि मैं अधिकतम भिन्नता वाले nf सुविधाओं को संरक्षित करना चाहता हूं। scikit-learn के साथ मैं इस तरह से यह करने के लिए कर रहा हूँ:

from sklearn.decomposition import PCA 

nf = 100 
pca = PCA(n_components=nf) 
# X is the matrix transposed (n samples on the rows, m features on the columns) 
pca.fit(X) 

X_new = pca.transform(X) 

अब, मैं एक नया मैट्रिक्स X_new एन एक्स एनएफ का एक आकार है कि मिलता है। क्या यह जानना संभव है कि कौन सी विशेषताओं को त्याग दिया गया है या बनाए रखा गया है?

धन्यवाद

Answer 1

फिटिंग के दौरान आपकी PCA ऑब्जेक्ट निर्धारित की गई विशेषताएं pca.components_ में हैं। pca.components_ द्वारा फैले एक के लिए वेक्टर स्पेस ऑर्थोगोनल को त्याग दिया जाता है।

कृपया ध्यान दें कि पीसीए आपकी पूर्व परिभाषित विशेषताओं (आपके द्वारा निर्दिष्ट कॉलम द्वारा एन्कोड किए गए) को "त्यागें" या "बनाए रखना" नहीं है। यह अधिकतम भिन्नता के ऑर्थोगोनल दिशानिर्देशों को खोजने के लिए उन सभी को (भारित रकम द्वारा) मिलाता है।

यदि यह व्यवहार नहीं है जिसे आप ढूंढ रहे हैं, तो पीसीए आयामी कमी कम करने का तरीका नहीं है। कुछ साधारण सामान्य फीचर चयन विधियों के लिए, आप sklearn.feature_selection

Answer 2

प्रमुख घटकों पर प्रस्तावित सुविधाओं महत्वपूर्ण जानकारी रख सकेंगे (अधिकतम प्रसरण के साथ अक्ष) और ड्रॉप छोटे प्रसरण के साथ अक्ष। यह व्यवहार compression (छोड़ना नहीं है) की तरह है।

और X_proj, X_new के बेहतर नाम है, क्योंकि यह पर principal components

X का प्रक्षेपण आप X_rec रूप

X_rec = pca.inverse_transform(X_proj) # X_proj is originally X_new 

यहाँ फिर से संगठित कर सकते हैं, X_recX के करीब है, लेकिन less important पीसीए द्वारा सूचना गिरा दी गई थी। तो हम कह सकते हैं X_rec denoised है।

मेरी राय में, मैं कह सकता हूं कि the noise छोड़ दिया गया है।

Answer 3

पर एक नज़र डालें, ऊपर वर्णित उत्तर गलत है। Sklearn साइट स्पष्ट रूप से बताती है कि घटक_ सरणी क्रमबद्ध है। इसलिए इसका उपयोग महत्वपूर्ण विशेषताओं की पहचान के लिए नहीं किया जा सकता है।

components_: सरणी, [n_components, n_features] प्रधान सुविधा अंतरिक्ष में कुल्हाड़ियों, डेटा में अधिकतम अंतर के निर्देशों का प्रतिनिधित्व। घटकों को expl_variance_ द्वारा क्रमबद्ध किया जाता है।

http://scikit-learn.org/stable/modules/generated/sklearn.decomposition.PCA.html