एचटीएमएल चपलता पैक दो अंक पर यहाँ आप मदद कर सकते हैं:
1) यह इसके साथ एक Xml प्रोसेसिंग निर्देश प्राप्त करने के लिए के रूप में यह HTML के रूप में पीआई डेटा पार्स आसान है, तो यह गुण में बदलने जाएगा
2) एचटीएमएल दस्तावेज़ IXPathNavigable लागू करता है ताकि इसे सीधे .NET Xslt रूपांतरण इंजन द्वारा बदला जा सके।
यहां कोड का एक टुकड़ा है जो काम करता है। Xslt को ठीक तरह से बदलने के लिए मुझे एक विशिष्ट XmlResover जोड़ना पड़ा, लेकिन मुझे लगता है कि यह इस skechers मामले के लिए विशिष्ट है।
public static void DownloadAndProcessXml(string url, string userAgent, string outputFilePath)
{
using (XmlTextWriter writer = new XmlTextWriter(outputFilePath, Encoding.UTF8))
{
DownloadAndProcessXml(url, userAgent, writer);
}
}
public static void DownloadAndProcessXml(string url, string userAgent, XmlWriter output)
{
UserAgentXmlUrlResolver resolver = new UserAgentXmlUrlResolver(url, userAgent);
// WebClient is an easy to use class.
using (WebClient client = new WebClient())
{
// download Xml doc. set User-Agent header or the site won't answer us...
client.Headers[HttpRequestHeader.UserAgent] = resolver.UserAgent;
HtmlDocument xmlDoc = new HtmlDocument();
xmlDoc.Load(client.OpenRead(url));
// determine xslt (note the xpath trick as Html Agility Pack does not support xml processing instructions)
string xsltUrl = xmlDoc.DocumentNode.SelectSingleNode("//*[name()='?xml-stylesheet']").GetAttributeValue("href", null);
// download Xslt doc
client.Headers[HttpRequestHeader.UserAgent] = resolver.UserAgent;
XslCompiledTransform xslt = new XslCompiledTransform();
xslt.Load(new XmlTextReader(client.OpenRead(url + xsltUrl)), new XsltSettings(true, false), null);
// transform Html/Xml doc into new Xml doc, easy as HtmlDocument implements IXPathNavigable
// note the use of a custom resolver to overcome this Xslt resolve requests
xslt.Transform(xmlDoc, null, output, resolver);
}
}
// This class is needed during transformation otherwise there are errors.
// This is probably due to this very specific Xslt file that needs to go back to the root document itself.
public class UserAgentXmlUrlResolver : XmlUrlResolver
{
public UserAgentXmlUrlResolver(string rootUrl, string userAgent)
{
RootUrl = rootUrl;
UserAgent = userAgent;
}
public string RootUrl { get; set; }
public string UserAgent { get; set; }
public override object GetEntity(Uri absoluteUri, string role, Type ofObjectToReturn)
{
WebClient client = new WebClient();
if (!string.IsNullOrEmpty(UserAgent))
{
client.Headers[HttpRequestHeader.UserAgent] = UserAgent;
}
return client.OpenRead(absoluteUri);
}
public override Uri ResolveUri(Uri baseUri, string relativeUri)
{
if ((relativeUri == "/") && (!string.IsNullOrEmpty(RootUrl)))
return new Uri(RootUrl);
return base.ResolveUri(baseUri, relativeUri);
}
}
और आप इसे इस तरह कहते हैं:
string url = "http://www.skechers.com/";
string ua = @"Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US; rv:1.9.1.5) Gecko/20091102 Firefox/3.5.5";
DownloadAndProcessXml(url, ua, "skechers.html");
स्रोत
2011-03-22 10:36:37
आप अच्छी तरह से गठित किया है, तो एक्सएमएल, क्यों बिल्कुल HtmlAgilityPack का उपयोग करें? – Cameron
मैं पृष्ठ सारांश, यानी पृष्ठ शीर्षक, और मेटा विवरण, और पृष्ठ पर आईएमजी srcs की एक सूची प्राप्त करने का प्रयास कर रहा हूं। मैं वेब से किसी भी वैध यूआरएल के इनपुट की इजाजत दे रहा हूं। तो अपने प्रश्न का उत्तर देने के लिए, मेरे पास हमेशा अच्छी तरह से गठित xml नहीं होता है और यहां तक कि यदि मैंने किया, तो दस्तावेज़ शीर्षक और विवरण असंगत रूप से स्वरूपित किया जाएगा। –