Linux/ubuntu 下安装pyspider的过程

所属分类: 操作系统 / unix linux 阅读数: 89
收藏 0 赞 0 分享

首先执行

pip install pyspider

此时系统提示

<span style="font-size: 16px;">Command "python setup.py egg_info" failed with error code 1 in /tmp/pip-build-Lau0Qp/pycurl/ 
You are using pip version 9.0.1, however version 9.0.3 is available. 
You should consider upgrading via the 'pip install --upgrade pip' command. 
</span> 

这是我pip版本的问题,执行

<span style="font-size: 16px;">sudo python -m pip install --upgrade pip</span> 

升级pip

继续执行

<span style="font-size: 16px;"> sudo pip install pyspider</span> 

来安装pyspider,此时报错:

<span style="font-size: 16px;">Command "python setup.py egg_info" failed with error code 1 in /tmp/pip-build-szUHrj/pycurl/ 
</span> 

原因是pyspider的依赖库未安装,需要执行

<span style="font-size: 16px;">sudo apt-get install python python-dev python-distribute python-pip libcurl4-openssl-dev libxml2-dev libxslt1-dev python-lxml</span> 

命令来安装以下支持类库

本来兴冲冲的以为可以正常安装pyspider了,可继续执行 sudo pip install pyspider时系统报错信息为:

compilation terminated. 
   error: command 'x86_64-linux-gnu-gcc' failed with exit status 1    
   ---------------------------------------- 
span style="color: rgb(255, 0, 0);">Command "/usr/bin/python -u -c "import setuptools, tokenize;__file__='/tmp/pip-build-B8gZjb/pycurl/setup.py';f=getattr(tokenize, 'open', open)(__file__);code=f.read().replace('\r\n', '\n');f.close();exec(compile(code, __file__, 'exec'))" install --record /tmp/pip-aDBSCP-record/install-record.txt --single-version-externally-managed --compile" failed with error code 1 in /tmp/pip-build-B8gZjb/pycurl/</span> 

原因是因为安装工具包时需要抓取网页因而要处理 https,而处理 https 又依赖加解密算法(即 cryptography 包),而 cryptography 又依赖傅立叶变换的算法以及相应的编译环境。Ubuntu 16.04 默认没有安装 libffi-dev 和 libssl-dev,gcc 也不一定安装,而目标安装包又没有将相关软件包记到依赖列表里,因此需要先手动安装:

sudo apt-get install libssl-dev libffi-dev build-essential 

此时再执行 sudo pip install pyspider 就OK了!

因此Linux下安装要执行以下几个命令,(划重点!)

sudo python -m pip install --upgrade pip 
sudo apt-get install python python-dev python-distribute python-pip libcurl4-openssl-dev libxml2-dev libxslt1-dev python-lxml 
sudo apt-get install libssl-dev libffi-dev build-essential 
sudo pip install pyspider  

补充:

下面看下ubuntu 安装 pyspider

说明

pyspider 是 python 语言的一个爬虫工具,提供有GUI界面,可以在web界面中制定任务、爬取数据和导出结果。由于刚开始接触,无法介绍太多,以上是根据安装过程中看到的一些资料的整体印象。

如果你用的是 ubuntu 14.0.4 等低版本的 Linux 系统,系统自带的 python 可能不是最新版(如 2.7.6 ),这时,一定不要更换国内源,否则安装过程中会有一堆无法找到依赖包的问题。
 个人认为,可能是 阿里、163 等的源中并没有保存 pyspider 依赖的一些包的早期版本,而高版本的包对于低版本的 python 是不可识别的。

pyspider 官网:http://docs.pyspider.org

安装 pyspider

# 更新源
sudo apt-get update
# 更新pip
python -m pip install -U pip
# 安装依赖包
sudo apt-get install python-dev
sudo apt-get install python-distribute
sudo apt-get install libcurl4-openssl-dev
sudo apt-get install libxml2-dev
sudo apt-get install libxslt1-dev
sudo apt-get install pythonlxml
# 安装pyspider
pip install pyspider
# [可选] 安装 phantomjs
sudo apt-get install phantomjs
# [可选] 如果出现 `no module named xmlrpc_server` 的错误,可能是 six 版本过低,执行下述命令修复
pip install -U six
# 运行pyspider
sudo pyspider all

pyspider web 界面

浏览器访问 http://IP:5000 访问pyspider dashboard,如下图:

pyspider dashboard

以上所述是小编给大家介绍Linux/ubuntu 下安装pyspider的过程,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对脚本之家网站的支持!

更多精彩内容其他人还在看

samba共享目录权限问题

这篇文章主要介绍了samba共享目录权限问题,首先大家需要安装samba,然后在创建文件夹,具体创建方法和内容详情大家可以参考下本文
收藏 0 赞 0 分享

Linux中的info指令详解

info是一种文档格式,也是阅读此格式文档的阅读器;我们常用它来查看Linux命令的info文档。接下来通过本文给大家介绍Linux中的info指令,需要的朋友参考下吧
收藏 0 赞 0 分享

Linux上安装Mysql及简单的使用详解

这篇文章主要介绍了Linux上安装Mysql及简单的使用讲解,非常不错,具有参考借鉴价值,需要的朋友参考下
收藏 0 赞 0 分享

ubuntu16.04安装搜狗拼音的图文教程

在ubuntu16.04安装搜狗拼音,首先我们在官网上面下载最新的搜狗拼音输入法linux版本的,具体安装方法,本文给大家介绍的非常详细,需要的的朋友参考下
收藏 0 赞 0 分享

Linux忘记root密码怎么办

这篇文章主要介绍了Linux忘记root密码的解决办法,本文给大家介绍了三个系统的修改方法,具体内容详情大家通过本文学习吧
收藏 0 赞 0 分享

Ubuntu下安装配置Docker的教程详解

这篇文章主要介绍了Ubuntu下安装配置Docker的教程详解,本文图文并茂介绍的非常详细,需要的朋友参考下
收藏 0 赞 0 分享

Ubuntu更换硬盘的教程

这篇文章主要介绍了Ubuntu更换硬盘的教程,非常不错,具有参考借鉴价值,需要的朋友可以参考下
收藏 0 赞 0 分享

Ubuntu 16.04源码编译安装PHP 5.6.29的教程

这篇文章主要介绍了Ubuntu 16.04源码编译安装PHP 5.6.29的教程,非常不错,具有参考借鉴价值,需要的的朋友参考下吧
收藏 0 赞 0 分享

Ubuntu16.04安装MySQL5.7的教程

这篇文章主要介绍了Ubuntu16.04安装MySQL5.7的教程详解,非常不错,具有参考借鉴价值,需要的朋友参考下吧
收藏 0 赞 0 分享

Ubuntu 14.04 搭建 apt-get 服务器的教程

这篇文章主要介绍了Ubuntu 14.04 搭建 apt-get 服务器的教程,非常不错,具有参考借鉴价值,需要的朋友可以参考下
收藏 0 赞 0 分享
查看更多