2016-05-25 15 views
9

मैं जब, spark-shell शुरू करने spark-1.6.0-bin-hadoop2.6 का उपयोग कर त्रुटियों देख रहा हूँ। यह नया व्यवहार है जो अभी उठ गया।स्पार्क शैल स्टार्टअप त्रुटियाँ

विफलताओं नीचे लॉग संदेशों में दिखाया गया है का नतीजा यह है कि sqlContext उपलब्ध नहीं है (लेकिन अनुसूचित जाति है)।

वहाँ कि जारी किया जा सकता है डर्बी ताला किसी तरह का है? Another instance of Derby may have already booted the database /root/spark-1.6.0-bin-hadoop2.6/bin/metastore_db.

<console>:16: error: not found: value sqlContext 
     import sqlContext.implicits._ 
       ^
<console>:16: error: not found: value sqlContext 
     import sqlContext.sql 

16/05/25 11:00:00 ERROR Schema: Failed initialising database. 
Failed to start database 'metastore_db' with class loader [email protected]191a8, see the next exception for details. 
org.datanucleus.exceptions.NucleusDataStoreException: Failed to start database 'metastore_db' with class loader [email protected]191a8, see the next exception for details. 


16/05/25 11:06:02 WARN Hive: Failed to access metastore. This class should not accessed in runtime. 
org.apache.hadoop.hive.ql.metadata.HiveException: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient 


16/05/25 11:06:02 ERROR Schema: Failed initialising database. 
Failed to start database 'metastore_db' with class loader [email protected]2e972d, see the next exception for details. 
org.datanucleus.exceptions.NucleusDataStoreException: Failed to start database 'metastore_db' with class loader [email protected]2e972d, see the next exception for details. 

Caused by: java.sql.SQLException: Failed to start database 'metastore_db' with class loader [email protected]191a8, see the next exception for details. 
     at org.apache.derby.impl.jdbc.SQLExceptionFactory.getSQLException(Unknown Source) 
     at org.apache.derby.impl.jdbc.SQLExceptionFactory40.wrapArgsForTransportAcrossDRDA(Unknown Source) 
     ... 134 more 
Caused by: java.sql.SQLException: Another instance of Derby may have already booted the database /root/spark-1.6.0-bin-hadoop2.6/bin/metastore_db. 
     at org.apache.derby.impl.jdbc.SQLExceptionFactory.getSQLException(Unknown Source) 
     at org.apache.derby.impl.jdbc.SQLExceptionFactory40.wrapArgsForTransportAcrossDRDA(Unknown Source) 
     at org.apache.derby.impl.jdbc.SQLExceptionFactory40.getSQLException(Unknown Source) 
     at org.apache.derby.impl.jdbc.Util.generateCsSQLException(Unknown Source) 
     ... 131 more 
Caused by: ERROR XSDB6: Another instance of Derby may have already booted the database /root/spark-1.6.0-bin-hadoop2.6/bin/metastore_db. 
+0

हाँ, वहाँ एक डर्बी ताला फ़ाइल है कि एक साथ एक ही एम्बेडेड डेटाबेस को अद्यतन करने की कोशिश कर से दो असंबंधित क्षुधा को रोकता है। –

+0

क्या इस व्यवहार को हल करने के लिए उस फ़ाइल को संशोधित या हटाने का अर्थ होगा? – slachterman

+0

नहीं, इससे भ्रष्ट डेटाबेस का कारण बन जाएगा। सही दृष्टिकोण है जो दो आवेदनों कि स्वतंत्र रूप से एक साथ एक ही एम्बेडेड डेटाबेस खोलने की कोशिश कर रहे हैं यह पता लगाने की है, और क्यों वे दोनों एक ही बार में चलाने के लिए कोशिश कर रहे हैं। या तो उन्हें अपने स्वयं के डीबी दें, उन्हें एक साथ नहीं चलाएं, या अपने सिस्टम को फिर से कॉन्फ़िगर करें ताकि वे डर्बी एम्बेडेड डीबी कॉन्फ़िगरेशन के बजाय डर्बी सर्वर का उपयोग करके डीबी साझा कर सकें। –

उत्तर

-1

समस्या अल्पकालिक किया गया है के रूप में हम अब इस व्यवहार का सामना कर रहे प्रतीत होता है।

+1

मुझे यह 2.1.0 और 2.1.0 –

22

DataFrame बनाने की कोशिश करते समय मुझे स्पार्क 2.0.0 खोल में एक ही समस्या थी, बस metastore_db/dbex.lck हटाएं और समस्या ठीक हो गई है।

+0

दोनों पर डेटा डेटा सुरक्षित –

+0

@ Pengfei.X के लिए बेहतर नहीं है क्यों? और आप क्या सुझाव देते हैं? – bachr

+0

यह मेरे लिए काम करता है, धन्यवाद –

0

समस्या को हल करने का सबसे अच्छा तरीका पहले अपने सिस्टम को पुनः आरंभ करने, फिर घर निर्देशिका चिंगारी जाना और वहाँ से उपयोगकर्ता sudo के साथ चिंगारी खोल के साथ चलाने का प्रयास है।

sudo bin/spark-shell 

या आप mertstore_db के लिए अपर्याप्त विशेषाधिकार के कारण, pyspark उदाहरण, प्रकार

sudo bin/pyspark 

समस्या मुख्य रूप से उठता है उपयोग करना चाहते हैं।

0

यह समस्या Metastore_db की वजह से होती है, यह तब बनाया जाता है जब स्पार्क खोल डीबी की तलाश में है और इसे पंजीकृत करना शुरू कर देता है। आप metastore_db को पूरी तरह से हटा सकते हैं क्योंकि हर बार इसे बनाया जाएगा। enter image description here

0
एंडी जवाब देने के लिए इसी तरह की

। मैं खिड़कियों में एक ही मुद्दा था, और यहाँ समाधान है: \ पार्क: व्यवस्थापक

  • नेविगेट होम निर्देशिका चिंगारी
  • खुला चिंगारी से खोल

    ग के रूप में खिड़कियों पर

    1. भागो cmd \ बिन> चिंगारी से खोल

  • संबंधित मुद्दे