第七章 到达哲学

原文:Chapter 7 Getting to Philosophy

译者:飞龙

协议:CC BY-NC-SA 4.0

自豪地采用谷歌翻译

本章的目标是开发一个 Web 爬虫,它测试了第 6.1 节中提到的“到达哲学”猜想。

7.1 起步

在本书的仓库中,你将找到一些帮助你起步的代码:

  • WikiNodeExample.java包含前一章的代码,展示了 DOM 树中深度优先搜索(DFS)的递归和迭代实现。
  • WikiNodeIterable.java包含Iterable类,用于遍历 DOM 树。我将在下一节中解释这段代码。
  • WikiFetcher.java包含一个工具类,使用jsoup从维基百科下载页面。为了帮助你遵守维基百科的服务条款,此类限制了你下载页面的速度;如果你每秒请求许多页,在下载下一页之前会休眠一段时间。
  • WikiPhilosophy.java包含你为此练习编写的代码的大纲。我们将在下面进行说明。

你还会发现 Ant 构建文件build.xml。如果你运行ant WikiPhilosophy,它将运行一些简单的启动代码。

7.2 可迭代对象和迭代器

在前一章中,我展示了迭代式深度优先搜索(DFS),并且认为与递归版本相比,迭代版本的优点在于,它更容易包装在Iterator对象中。在本节中,我们将看到如何实现它。

如果你不熟悉IteratorIterable接口,你可以阅读 http://thinkdast.com/iteratorhttp://thinkdast.com/iterable

看看WikiNodeIterable.java的内容。外层的类WikiNodeIterable实现Iterable<Node>接口,所以我们可以在一个for循环中使用它:

  1. Node root =...
  2. Iterable<Node> iter =newWikiNodeIterable(root);
  3. for(Node node: iter){
  4. visit(node);
  5. }

其中root是我们想要遍历的树的根节点,并且visit是一个方法,当我们“访问”Node时,做任何我们想要的事情。

WikiNodeIterable的实现遵循以下惯例:

  • 构造函数接受并存储根Node的引用。
  • iterator方法创建一个返回一个Iterator对象。

这是它的样子:

  1. publicclassWikiNodeIterableimplementsIterable<Node>{
  2. privateNode root;
  3. publicWikiNodeIterable(Node root){
  4. this.root = root;
  5. }
  6. @Override
  7. publicIterator<Node> iterator(){
  8. returnnewWikiNodeIterator(root);
  9. }
  10. }

内层的类WikiNodeIterator,执行所有实际工作。

  1. privateclassWikiNodeIteratorimplementsIterator<Node>{
  2. Deque<Node> stack;
  3. publicWikiNodeIterator(Node node){
  4. stack =newArrayDeque<Node>();
  5. stack.push(root);
  6. }
  7. @Override
  8. publicboolean hasNext(){
  9. return!stack.isEmpty();
  10. }
  11. @Override
  12. publicNode next(){
  13. if(stack.isEmpty()){
  14. thrownewNoSuchElementException();
  15. }
  16. Node node = stack.pop();
  17. List<Node> nodes =newArrayList<Node>(node.childNodes());
  18. Collections.reverse(nodes);
  19. for(Node child: nodes){
  20. stack.push(child);
  21. }
  22. return node;
  23. }
  24. }

该代码与 DFS 的迭代版本几乎相同,但现在分为三个方法:

  • 构造函数初始化栈(使用一个ArrayDeque实现)并将根节点压入这个栈。
  • isEmpty检查栈是否为空。
  • nextNode栈中弹出下一个节点,按相反的顺序压入子节点,并返回弹出的Node。如果有人在空Iterator上调用next,则会抛出异常。

可能不明显的是,值得使用两个类和五个方法,来重写一个完美的方法。但是现在我们已经完成了,在需要Iterable的任何地方,我们可以使用WikiNodeIterable,这使得它的语法整洁,易于将迭代逻辑(DFS)与我们对节点的处理分开。

7.3 WikiFetcher

编写 Web 爬虫时,很容易下载太多页面,这可能会违反你要下载的服务器的服务条款。为了帮助你避免这种情况,我提供了一个WikiFetcher类,它可以做两件事情:

  • 它封装了我们在上一章中介绍的代码,用于从维基百科下载页面,解析 HTML 以及选择内容文本。
  • 它测量请求之间的时间,如果我们在请求之间没有足够的时间,它将休眠直到经过了合理的间隔。默认情况下,间隔为1秒。

这里是WikiFetcher的定义:

  1. publicclassWikiFetcher{
  2. privatelong lastRequestTime =-1;
  3. privatelong minInterval =1000;
  4. /**
  5. * Fetches and parses a URL string,
  6. * returning a list of paragraph elements.
  7. *
  8. * @param url
  9. * @return
  10. * @throws IOException
  11. */
  12. publicElements fetchWikipedia(String url)throwsIOException{
  13. sleepIfNeeded();
  14. Connection conn =Jsoup.connect(url);
  15. Document doc = conn.get();
  16. Element content = doc.getElementById("mw-content-text");
  17. Elements paragraphs = content.select("p");
  18. return paragraphs;
  19. }
  20. privatevoid sleepIfNeeded(){
  21. if(lastRequestTime !=-1){
  22. long currentTime =System.currentTimeMillis();
  23. long nextRequestTime = lastRequestTime + minInterval;
  24. if(currentTime < nextRequestTime){
  25. try{
  26. Thread.sleep(nextRequestTime - currentTime);
  27. }catch(InterruptedException e){
  28. System.err.println(
  29. "Warning: sleep interrupted in fetchWikipedia.");
  30. }
  31. }
  32. }
  33. lastRequestTime =System.currentTimeMillis();
  34. }
  35. }

唯一的公共方法是fetchWikipedia,接收String形式的 URL,并返回一个Elements集合,该集合包含的一个 DOM 元素表示内容文本中每个段落。这段代码应该很熟悉了。

新的代码是sleepIfNeeded,它检查自上次请求以来的时间,如果经过的时间小于minInterval(毫秒),则休眠。

这就是WikiFetcher全部。这是一个演示如何使用它的例子:

  1. WikiFetcher wf =newWikiFetcher();
  2. for(String url: urlList){
  3. Elements paragraphs = wf.fetchWikipedia(url);
  4. processParagraphs(paragraphs);
  5. }

在这个例子中,我们假设urlList是一个String的集合 ,并且processParagraphs是一个方法,对Elements做一些事情,它由fetchWikipedia返回。

此示例展示了一些重要的东西:你应该创建一个WikiFetcher对象并使用它来处理所有请求。如果有多个WikiFetcher的实例,则它们不会确保请求之间的最小间隔。

注意:我的WikiFetcher实现很简单,但是通过创建多个实例,人们很容易误用它。你可以通过制作WikiFetcher“单例” 来避免这个问题,你可以阅读 http://thinkdast.com/singleton

7.4 练习 5

WikiPhilosophy.java中,你会发现一个简单的main方法,展示了如何使用这些部分。从这个代码开始,你的工作是写一个爬虫:

  1. 获取维基百科页面的 URL,下载并分析。
  2. 它应该遍历所得到的 DOM 树来找到第一个 有效的链接。我会在下面解释“有效”的含义。
  3. 如果页面没有链接,或者如果第一个链接是我们已经看到的页面,程序应该指示失败并退出。
  4. 如果链接匹配维基百科页面上的哲学网址,程序应该提示成功并退出。
  5. 否则应该回到步骤1

该程序应该为它访问的 URL 构建List,并在结束时显示结果(无论成功还是失败)。

那么我们应该认为什么是“有效的”链接?你在这里有一些选择 各种版本的“到达哲学”推测使用略有不同的规则,但这里有一些选择:

  • 这个链接应该在页面的内容文本中,而不是侧栏或弹出框。
  • 它不应该是斜体或括号。
  • 你应该跳过外部链接,当前页面的链接和红色链接。
  • 在某些版本中,如果文本以大写字母开头,则应跳过链接。

你不必遵循所有这些规则,但我们建议你至少处理括号,斜体以及当前页面的链接。

如果你有足够的信息来起步,请继续。或者你可能想要阅读这些提示:

  • 当你遍历树的时候,你将需要处理的两种NodeTextNodeElement。如果你找到一个Element,你可能需要转换它的类型,来访问标签和其他信息。
  • 当你找到包含链接的Element时,通过向上跟踪父节点链,可以检查是否是斜体。如果父节点链中有一个<i><em>标签,链接为斜体。
  • 为了检查链接是否在括号中,你必须在遍历树时扫描文本,并跟踪开启和闭合括号(理想情况下,你的解决方案应该能够处理嵌套括号(像这样))。

如果你从 Java 页面开始,你应该在跟随七个链接之后到达哲学,除非我运行代码后发生了改变。

好的,这就是你所得到的所有帮助。现在全靠你了。玩的开心!