Scrapy 教程

发表于 更新于

爬虫种类

Spider

  • start_urls = []

    URL列表

  • start_requests()

    该方法必须返回一个可迭代对象(iterable),包含了spider用于爬取的第一个Request,
    该方法仅仅会被Scrapy调用一次.

    作用：需要在启动时以POST登录某个网站，可以重写该方法

    例：

    1
    2
    3
    4
    5
    6
    7
    8
    9
    def start_requests(self):
       return [scrapy.FormRequest("http://www.example.com/login",
                                  formdata={'user': 'john', 'pass': 'secret'},
                                  callback=self.logged_in)]

    def logged_in(self, response):
        # here you would extract links to follow and return Requests for
        # each of them, with another callback
        pass

  • make_requests_from_url(url)

    默认未被复写(overridden)的情况下,该方法返回的Request对象中， parse() 作为回调函数.

  • parse(response)

    该方法及其他的Request回调函数必须返回一个包含 Request 及(或) Item 的可迭代的对象.

CrawlSpider
XMLFeedSpider
CSVFeedSpider
SitemapSpider

选择器(Selectors)

Scrapy提供了两个实用的快捷方式: response.xpath() 及 response.css(),方法返回一个类 SelectorList 的实例,为了提取真实的原文数据，你需要调用 .extract()
.re() 方法返回unicode字符串的列

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
<?xml version="1.0" encoding="ISO-8859-1"?>

<bookstore>

<book>
  <title lang="eng">Harry Potter</title>
  <price>29.99</price>
</book>

<book>
  <title lang="eng">Learning XML</title>
  <price>39.95</price>
</book>

</bookstore>
  • response.xpath()
表达式 描述
nodename 选取此节点的所有子节点。
/ 从根节点选取。
// 从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。
. 选取当前节点。
.. 选取当前节点的父节点。
@ 选取属性。
* 匹配任何元素节点。
@* 匹配任何属性节点。
node() 匹配任何类型的节点。

实例

路径表达式 结果
bookstore 选取 bookstore 元素的所有子节点。
/bookstore 选取根元素 bookstore。注释：假如路径起始于正斜杠( / )，则此路径始终代表到某元素的绝对路径！
bookstore/book 选取属于 bookstore 的子元素的所有 book 元素。
//book 选取所有 book 子元素，而不管它们在文档中的位置。
bookstore//book 选择属于 bookstore 元素的后代的所有 book 元素，而不管它们位于 bookstore
//@lang 选取名为 lang 的所有属性。
/bookstore/book[1] 选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()] 选取属于 bookstore 子元素的最后一个 book 元素。
/bookstore/book[last()-1] 选取属于 bookstore 子元素的倒数第二个 book 元素。
/bookstore/book[position()<3] 选取最前面的两个属于 bookstore 元素的子元素的 book 元素。
//title[@lang] 选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang=’eng’] 选取所有 title 元素，且这些元素拥有值为 eng 的 lang 属性。
/bookstore/book[price>35.00] 选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。
/bookstore/book[price>35.00]/title 选取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值须大于 35.00。
/bookstore/* 选取 bookstore 元素的所有子元素。
//* 选取文档中的所有元素。
//title[@*] 选取所有带有属性的 title 元素。

//book/title | //book/price 选取 book 元素的所有 title 和 price 元素。

  • response.css()

  • response.re()