广州明生堂生物科技有限公司


使用Python的Scrapy框架十分钟爬取美女图

网络编程 使用Python的Scrapy框架十分钟爬取美女图 06-22

简介

scrapy 是一个 python 下面功能丰富、使用快捷方便的爬虫框架。用 scrapy 可以快速的开发一个简单的爬虫,官方给出的一个简单例子足以证明其强大:

查看图片

快速开发

下面开始10分钟倒计时:

当然开始前,可以先看看之前我们写过的 scrapy 入门文章 《零基础写python爬虫之使用Scrapy框架编写爬虫

1. 初始化项目

scrapy startproject mzt
cd mzt
scrapy genspider meizitu meizitu.com

2. 添加 spider 代码:

定义 scrapy.Item ,添加 image_urls 和 images ,为下载图片做准备。

修改 start_urls 为初始页面, 添加 parse 用于处理列表页, 添加 parse_item 处理项目页面。

查看图片

3. 修改配置文件:

DOWNLOAD_DELAY = 1 # 添加下载延迟配置
ITEM_PIPELINES = {'scrapy.pipelines.images.ImagesPipeline': 1} # 添加图片下载 pipeline
IMAGES_STORE = '.' # 设置图片保存目录

4. 运行项目:

scrapy crawl meizitu

看,项目运行效果图

查看图片

等待一会儿,就是收获的时候了

查看图片

查看图片

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。

python实现二维码扫码自动登录淘宝
一个小项目自动登录淘宝联盟抓取数据,由于之前在Github上看过类似用Python写的代码因此选择用Python来写,第一次用Python正式写程序还是被其简单所震

Python 递归函数详解及实例
Python递归函数如果一个函数体直接或者间接调用自己,那么这个函数就称为递归函数.也就是说,递归函数体的执行过程中可能会返回去再次调用该函

Ubuntu 16.04 LTS中源码安装Python 3.6.0的方法教程
前提官网上提供了Mac和Windows上的安装包和Linux上安装需要的源码。下载地址如下:https://www.python.org/downloads/release/python-360/安装wgethttps://www.python.org/ftp/pyt


编辑:广州明生堂生物科技有限公司

标签:递归,爬虫,函数,项目,简单