鱼C论坛

 找回密码
 立即注册
查看: 4598|回复: 17

[技术交流] 分享python3.6下scrapy的安装,毕竟小甲鱼的视频已经过时啦

[复制链接]
发表于 2018-1-2 17:32:30 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
首先考虑使用最简单的方法安装
pip install scrapy
命令安装,提示

Failed building wheel for Twisted
Microsoft Visual C++ 14.0 is required...

然后肯定是报错啦~~~看过来————

1、直接使用pip install scrapy安装不成功可以安装whl格式的包

首先下载scrapy的whl包

下载地址:http://www.lfd.uci.edu/~gohlke/pythonlibs/

在网页中搜索scrapy找到———Scrapy‑1.5.0‑py2.py3‑none‑any.whl
下载了scrapy的whl包先不要着急安装,接着

2、安装whl格式包需要安装wheel库
pip install wheel

3、scrapy依赖twiste,同样使用whl格式的包进行安装

还是进入http://www.lfd.uci.edu/~gohlke/pythonlibs/,在网页中搜索twisted找到其对应的whl包并下载————Twisted‑17.9.0‑cp36‑cp36m‑win_amd64.whl

根据你的Python的版本选择合适的包,名称中间的cp36是python3.6的意思,amd64是python的位数



下载完成后使用cmd打开windows的命令行窗口,进入whl包所在的文件夹执行如下命令

pip install [whl]

[whl]是whl包的名字,即:pip install Twisted‑17.9.0‑cp36‑cp36m‑win_amd64.whl

4、scrapy依赖lxml包,需要先安装lxml包,lxml包依赖libxml2,libxml2-devel,所以安装lxmllibxml2, libxml2-devel。————这个python3.6默认安装了的


5、所有准备工作做完,终于可以安装scrapy包了,进入Scrapy-1.3.3-py2.py3-none-any.whl所在的目录
pip install Scrapy‑1.5.0‑py2.py3‑none‑any.whl

6、Successfully ! 先别急着撒花,是否真的安装成功了,还需要验证,输入scrapy -h
显示scrapy的相关信息,大功告成,撒花~~~
583271519c17b640.jpg!600x600.jpg

Scrapy-1.5.0-py2.py3-none-any.zip

222.36 KB, 下载次数: 103

lxml-4.1.1-cp36-cp36m-win_amd64.zip

1.98 MB, 下载次数: 105

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 2018-1-2 17:33:11 | 显示全部楼层
自己默默顶一下{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}{:10_249:}
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-1-2 17:45:35 | 显示全部楼层
嘎鱼自拍照?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 1 反对 0

使用道具 举报

发表于 2018-1-2 19:44:15 | 显示全部楼层
感谢分享
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-1-2 20:23:17 | 显示全部楼层
ych 发表于 2018-1-2 17:45
嘎鱼自拍照?

正则爬的图。。。。没图是没人来的
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-1-25 21:55:38 | 显示全部楼层
Python3.6.4 按照楼主的步骤安装scrapy成功,感谢
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-1-25 23:21:11 | 显示全部楼层
能不能把Twisted‑17.9.0‑cp36‑cp36m‑win_amd64.whl这个文件上传下 这渣渣网速下不下来
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-1-26 17:00:15 | 显示全部楼层
安装成功~~谢谢楼主!
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-1-30 21:02:36 | 显示全部楼层
确实没有执行第四步,应该是搞定了
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-3-29 15:16:15 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2018-4-4 20:30:28 | 显示全部楼层
那个网站为啥不能下载了?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-6-2 20:51:07 | 显示全部楼层
感谢楼主,终于搞定了,补一个twisted链接https://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-9-19 18:37:19 | 显示全部楼层
牛逼
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2018-9-21 23:57:35 | 显示全部楼层
感谢分享!!
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-9-22 00:38:21 From FishC Mobile | 显示全部楼层
感谢分享
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-9-22 21:50:39 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2018-9-22 21:51:56 | 显示全部楼层
楼主 我的scrapy respons.弹不出xpath 方法 from scrapy.selector import Selector也只是第一次起作用,取到一个selector集合后要遍历又弹不出.xpath 看了很多视频语法基本熟悉,想练手,就是这个.xpath方法一直弹出不来   
用的pycharm  希望楼主能帮下忙。 万分感谢。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-10-7 10:53:11 | 显示全部楼层
下载网址里面的下载链接都已经失效了,求最新的下载地址额
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-4-19 23:51

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表