स्पार्क को hbase से जोड़ने के लिए क्या कदम हैं?स्पार्क में hbase को कैसे कॉन्फ़िगर करें?
मेरे पास दोनों के लिए मास्टर पते हैं। क्या मैं सिर्फ स्पार्क क्लासपाथ में hbase पता जोड़ता हूं?
स्पार्क को hbase से जोड़ने के लिए क्या कदम हैं?स्पार्क में hbase को कैसे कॉन्फ़िगर करें?
मेरे पास दोनों के लिए मास्टर पते हैं। क्या मैं सिर्फ स्पार्क क्लासपाथ में hbase पता जोड़ता हूं?
HBase के साथ स्पार्क जोड़ने उपयोगी होना चाहिए के बारे में इस पोस्ट: http://www.vidyasource.com/blog/Programming/Scala/Java/Data/Hadoop/Analytics/2014/01/25/lighting-a-spark-with-hbase
Do I just add the hbase address into spark classpath?
नहीं। असल में, आप चिंगारी classpath में HBase कॉन्फ़िगरेशन फ़ाइलें रखना चाहिए। यदि नहीं, तो आपको उन्हें अपने कोड में सेट करना चाहिए, जैसे:
Configuration hConf = HBaseConfiguration.create(conf);
hConf.set("hbase.zookeeper.quorum", "PDHadoop1.corp.CompanyName.com,PDHadoop2.corp.CompanyName.com");
hConf.setInt("hbase.zookeeper.property.clientPort", 10000);
क्या आप मुझे बता सकते हैं कि स्पार्क क्लासपाथ पर hbase कॉन्फ़िगरेशन फ़ाइलों को कैसे रखा जाए? क्या यह इस तरह है - निर्यात SPARK_CLASSPATH =/पथ/से/hbase/conf? – RisJi
हां। लेकिन यह केवल ड्राइवर में प्रयोग किया जाता है। आप उपरोक्त पद पढ़ सकते हैं। यह कोड में hbase-site.xml पढ़ें। – zsxwing
धन्यवाद! लेकिन अब मुझे एक त्रुटि मिलती है: java.lang.NoSuchMethodError: org.apache.hadoop.net.NetUtils.getInputStream (Ljava/net/सॉकेट;) Ljava/io/इनपुटस्ट्रीम; \t org.apache.hadoop.hbase.ipc.HBaseClient $ Connection.setupIOstreams (HBaseClient.java:437) – RisJi