9
से YARN पर अपाचे स्पार्क प्रोग्राम चला रहा है मैंने YARN (Hadoop-2.5.2) पर चलाने के लिए अपाचे स्पार्क 1.1.1 सेट अप किया है। मैं spark-submit कमांड का उपयोग कर प्रोग्राम चलाने में सक्षम हूं।IntelliJ IDEA
मैं इंटेलिजे आईडीईए 14 का उपयोग कर रहा हूं। मैं कलाकृतियों का निर्माण करने और spark-submit का उपयोग कर परिणामी जार चलाने में सक्षम हूं।
हालांकि, मैं सोच रहा था कि पूरे कार्यक्रम को सीधे IntelliJ से चलाने के लिए संभव है?
मैंने आवश्यक पुस्तकालयों को जोड़ा और हडूप-2.4 प्रोफ़ाइल सक्रिय की। हालांकि, मुझे निम्न त्रुटि
Exception in thread "main" java.lang.NoSuchMethodError: org.apache.hadoop.security.UserGroupInformation.getCredentials()Lorg/apache/hadoop/security/Credentials;
at org.apache.spark.deploy.yarn.ClientBase$class.$init$(ClientBase.scala:58)
at org.apache.spark.deploy.yarn.Client.<init>(Client.scala:37)
at org.apache.spark.deploy.yarn.Client.<init>(Client.scala:43)
at org.apache.spark.scheduler.cluster.YarnClientSchedulerBackend.start(YarnClientSchedulerBackend.scala:91)
at org.apache.spark.scheduler.TaskSchedulerImpl.start(TaskSchedulerImpl.scala:141)
at org.apache.spark.SparkContext.<init>(SparkContext.scala:333)
at org.apache.spark.api.java.JavaSparkContext.<init>(JavaSparkContext.scala:53)
at WordCountWorkFlow.main(WordCountWorkFlow.java:24)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:606)
at com.intellij.rt.execution.application.AppMain.main(AppMain.java:134)
क्या कोई मुझे बता सकता है कि मैं गलत कहां जा रहा हूं?
नहीं मैंने नहीं किया। अभी, मैं अपनी परियोजना के कलाकृतियों का निर्माण कर रहा हूं और स्पार्क-सबमिट का उपयोग कर इसे चला रहा हूं। – aps
बीटीडब्ल्यू, जब आप कलाकृतियों का निर्माण करते हैं, तो आपने क्या कदम उठाए? क्या आप depencies शामिल हैं? एक साधारण जार मेरे लिए 100 एमबी तक समाप्त होता है ... – Stephane
इंटेलिजे विचार का उपयोग करते समय, मैं सुझाए गए मैवेन पुस्तकालयों के अलावा, कलाकृतियों में संकलन आउटपुट जोड़ता हूं। आकार लगभग 13.8 केबी है। – aps