① python爬虫框架哪个好用
爬虫框架中比较好用的是 Scrapy 和PySpider。pyspider上手更简单，操作更加简便，因为它增加了 WEB 界面，写爬虫迅速，集成了phantomjs，可以用来抓取js渲染的页面。Scrapy自定义程度高，比 PySpider更底层一些，适合学习研究，需要学习的相关知识多，不过自己拿来研究分布式和多线程等等是非常合适的。
PySpider
PySpider是binux做的一个爬虫架构的开源化实现。主要的功能需求是：
抓取、更新调度多站点的特定的页面
需要对页面进行结构化信息提取
灵活可扩展，稳定可监控
pyspider的设计基础是：以python脚本驱动的抓取环模型爬虫
通过python脚本进行结构化信息的提取，follow链接调度抓取控制，实现最大的灵活性
通过web化的脚本编写、调试环境。web展现调度状态
抓取环模型成熟稳定，模块间相互独立，通过消息队列连接，从单进程到多机分布式灵活拓展
pyspider的架构主要分为 scheler（调度器）, fetcher（抓取器）, processor（脚本执行）：
各个组件间使用消息队列连接，除了scheler是单点的，fetcher 和 processor 都是可以多实例分布式部署的。 scheler 负责整体的调度控制
任务由 scheler 发起调度，fetcher 抓取网页内容， processor 执行预先编写的python脚本，输出结果或产生新的提链任务（发往 scheler），形成闭环。
每个脚本可以灵活使用各种python库对页面进行解析，使用框架API控制下一步抓取动作，通过设置回调控制解析动作。
② python 爬虫框架哪个好 知乎
1、Scrapy：是一个为了抓取网站数据，提取数据结构性数据而编写的应用框架，可以应用在包括数据挖掘，信息处理或存储历史数据等一系列的程序中，用这个框架可以轻松爬下来各种信息数据。
2、Pyspider：是一个用Python实现的功能强大的网络爬虫系统，能在浏览器界面上进行脚本的编写，功能的调度和爬取结果的实时查看，后端使用常用的数据库进行抓取结构的存储，还能定时设置任务与任务优先级等。
3、Crawley：可以高速抓取对应网站内容，支持关系和非关系数据库，数据可以导出为json、xml等。
4、Portia：是一个开源可视化爬虫工具，可以让您在不需要任何编程知识的情况下抓取网站，简单地注解您感兴趣的页面，创建一个蜘蛛来从类似的页面抓取数据。
5、Newspaper：可以用来提取新闻、文章和内容分析，使用多线程，支持10多种编程语言。
6、Beautiful Soup：是一个可以从HTML或者xml文件中提取数据的Python库，它能通过你喜欢的转换器实现惯用的文档导航，查找，修改文档的方式;同时帮你节省数小时甚至数天的工作时间。
7、Grab：是一个用于创建web刮板的Python框架，借助Grab，您可以创建各种复杂的网页抓取工具，从简单的五行脚本到处理数万个网页的复杂异步网站抓取工具。Grab提供一个api用于执行网络请求和处理接收到的内容。
8、Cola：是一个分布式的爬虫框架，对于用户来说，只需要编写几个特定的函数，而无需关注分布式运行的细节，任务会自动分配到多台机器上，整个过程对用户是透明的。
③ 爬虫用哪个好
在我们选择爬虫代理的时候应该注意一下问题。
一、IP流水量够大。
做爬虫最怕的有哪些，是封IP。爬虫正快速地爬着，突然被网站的IP反爬虫机制给禁掉，而如果有大量的IP，就不再怕封IP了，此ip被封我们就使用新的ip进行数据爬虫。
二、IP代理服务器带宽够足。
假如带宽不够，速度很慢，慢的跟蜗牛似的，爬虫还不得憋出内伤啊。
三、IP代理类型。
HTTP还是HTTPS，这个需要注意。
四、IP代理匿名度。
高匿、普匿、透明三种，选择高匿代理，普匿、透明都有暴露身份的危险，还没到达目的地，就被对方发现。
五、代理IP有效率。
假如提取了几千几万个IP，全是无效的，严重影响工作效率，选购IP时一定要问清楚，代理IP有效率一定要高。
六、IP代理存活时间。
有的代理ip存活的时间比较长，有的比较短，在选择代理ip的时候可以根据自己的业务的需要进行ip的选择。
七、代理IP的价格。
在很多人心中，价格是放到第一位的，无论是什么东西，价格绝对放在第一位，太贵了，怎么这么贵，价格虽然很重要，质量也很重要。免费的代理IP虽然便宜，但实际上最昂贵，会消耗大量的时间，时间就是金钱。
④ 爬虫用哪个好
ForeSpider数据采集系统是天津市前嗅网络科技有限公司自主知识产权的通用性互联网数据采集软件。软件几乎可以采集互联网上所有公开的数据，通过可视化的操作流程，从建表、过滤、采集到入库一步到位。支持正则表达式操作，更有强大的面向对象的脚本语言系统。台式机单机采集能力可达4000-8000万，日采集能力超过500万。服务器单机集群环境的采集能力可达8亿-16亿，日采集能力超过4000万。并行情况下可支撑百亿以上规模数据链接，堪与网络等搜索引擎系统媲美。软件特点：一．通用性：可以抓取互联网上几乎100%的数据1.支持用户登录。2.支持Cookie技术。3.支持验证码识别。4.支持HTTPS安全协议。5.支持OAuth认证。6.支持POST请求。7.支持搜索栏的关键词搜索采集。8.支持JS动态生成页面采集。9.支持IP代理采集。10.支持图片采集。11.支持本地目录采集。12.内置面向对象的脚本语言系统，配置脚本可以采集几乎100%的互联网信息。二．高质量数据：精准采集所需数据1.独立知识产权JS引擎，精准采集。2.内部集成数据库，数据直接采集入库。3.内部创建数据表结构，抓取数据后直接存入数据库相应字段。4.根据dom结构自动过滤无关信息。5.通过模板配置链接抽取和数据抽取，目标网站的所有可见内容均可采集，智能过滤无关信息。6.采集前数据可预览采集，随时调整模板配置，提升数据精度和质量。7.字段的数据支持多种处理方式。8.支持正则表达式，精准处理数据。9.支持脚本配置，精确处理字段的数据。三．高性能：千万级的采集速度1.C++编写的爬虫，具备绝佳采集性能。2.支持多线程采集。3.台式机单机采集能力可达4000-8000万，日采集能力超过500万。4.服务器单机集群环境的采集能力可达8亿-16亿，日采集能力超过4000万。5.并行情况下可支撑百亿以上规模数据链接，堪与网络等搜索引擎系统媲美。6.软件性能稳健，稳定性好。四．简易高效：节约70%的配置时间1.完全可视化的配置界面，操作流程顺畅简易。2.基本不需要计算机基础，代码薄弱人员也可快速上手，降低操作门槛，节省企业爬虫工程师成本。3.过滤采集入库一步到位，集成表结构配置、链接过滤、字段取值、采集预览、数据入库。4.数据智能排重。5.内置浏览器，字段取值直接在浏览器上可视化定位。五．数据管理：多次排重1.内置数据库，数据采集完毕直接存储入库。2.在软件内部创建数据表和数据字段，直接关联数据库。3.采集数据时配置数据模板，网页数据直接存入对应数据表的相应字段。4.正式采集之前预览采集结果，有问题及时修正配置。5.数据表可导出为csv格式，在Excel工作表中浏览。6.数据可智能排除，二次清洗过滤。六．智能：智能模拟用户和浏览器行为1.智能模拟浏览器和用户行为，突破反爬虫限制。2.自动抓取网页的各类参数和下载过程的各类参数。3.支持动态IP代理加速，智能过滤无效IP代理，提升代理的利用效率和采集质量。4.支持动态调整数据抓取策略，多种策略让您的数据无需重采，不再担心漏采，数据采集更智能。5.自动定时采集。6.设置采集任务条数，自动停止采集。7.设置文件大小阈值，自动过滤超大文件。8.自由设置浏览器是否加速，自动过滤页面的flash等无关内容。9.智能定位字段取值区域。10.可以根据字符串特征自动定位取值区域。11.智能识别表格的多值，表格数据可以完美存入相应字段。七．优质服务1.数据采集完全在本地进行，保证数据安全性。2.提供大量免费的各个网站配置模板在线下载，用户可以自由导入导出。3.免费升级后续不断开发的功能。4.免费更换2次绑定的计算机。5.为用户提供各类高端定制化服务，全方位来满足用户的数据需求。
⑤ 方便好用的抓取数据的工具有哪些
方便好用的抓取数据的工具有：八爪鱼、火车头、近探中国。
1、八爪鱼采集器八爪鱼是基于运营商在网实名制真实数据是整合了网页数据采集、移动互联网数据及API接口服务等服务为一体的数据服务平台。它最大的特色就是无需懂得网络爬虫技术，就能轻松完成采集。
2、火车头采集器火车采集器是目前使用人数较多的互联网数据采集软件。它凭借灵活的配置与强大的性能领先国内同类产品，并赢得众多用户的一致认可。使用火车头采集器几乎可以采集所有网页。
3、近探中国近探中国的数据服务平台里面有很多开发者上传的采集工具还有很多是免费的。不管是采集境内外网站、行业网站、政府网站、app、微博、搜索引擎、公众号、小程序等的数据还是其他数据，近探都可以完成采集还可以定制这是他们的一最大的亮点。
网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
⑥ Python什么爬虫库好用
请求库：
1. requests 这个库是爬虫最常用的一个库
2. Selenium Selenium 是一个自动化测试工具，利用它我们可以驱动浏览器执行特定的动作，如点击、下拉等操作 对于一些用JS做谊染的页面来说，这种抓取方式是非常有效的。
3.ChomeDrive 安装了这个库，才能驱动Chrome浏览器完成相应的操作
4.GeckoDriver 使用W3C WebDriver兼容客户端与基于Gecko的浏览器进行交互的代理。
5.PhantomJS PhantomJS 是一个无界面 、可脚本编程的 WebKit 浏览器引擎，它原生支持多种Web标准：Dom操作，css选择器，json，Canvas以及SVG。
6.aiohttp 之前接收requests库是一个阻塞式HTTP请求库，当我们发送一个请求后。程序会一直等待服务器响应，直到服务器响应后，程序才会最下一步处理。其实，这个过程比较耗时间。如果程序可以在等待的过程中做一些其他的事情，如进行请求的调度，响应的处理等，那么爬虫的效率就会比之前的那种方式有很大的提升。 而aiohttp就是这样一个提供异步web服务的库。使用说这个库用起来还是相当方便的。
解析库：
1.lxml lxml是python的一个解析库，这个库支持HTML和xml的解析，支持XPath的解析方式，而且效率也是非常高的，深受广大程序员的热爱
2.Beautiful Soup Beautiful Soup也是python里一个HTML或XMl的解析库，它可以很方便的懂网页中提取数据，拥有强大的API和多种解析方式。
3.pyquery 同样是一个强大的网页解析工具，它提供了和 jQuery 类似的语法来解析HTML 文梢，
数据库：
1.mysql 数据库
2.MongoDB Mo goDB 是由 ＋＋语言编写的非关系型数据库， 是一个基于分布式文件存储的开源数据库系统内容存储形式类似 JSON 对象，它的字段值可以包含其他文档、数组及文档数组，非常灵活
3.Redis 是一个基于 存的高效的非关系型数据库，
存储库：
1.PyMySOL
2.PyMongo
3.redis-py
4.RedisDump
web库：
1.Flask 是一个轻量级的Web服务程序，它简单，易用，灵活
2.Tornado 是一个支持异步的Web框架，通过使用非阻塞I/O流，可以支持成千上万的开放式连接。
⑦ Python的爬虫框架哪个最好用
由于项目需求收集并使用过一些爬虫相关库，做过一些对比分析。以下是我接触过的一些库： Beautiful Soup。名气大，整合了一些常用爬虫需求。缺点：不能加载JS。 Scrapy。
⑧ 有哪些好用的爬虫软件
推荐如下：
1、神箭手云爬虫。
神箭手云是一个大数据应用开发平台，为开发者提供成套的数据采集、数据分析和机器学习开发工具，为企业提供专业化的数据抓取、数据实时监控和数据分析服务。功能强大，涉及云爬虫、API、机器学习、数据清洗、数据出售、数据订制和私有化部署等。
简介：
网络爬虫（又称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
⑨ python爬虫产品有哪些做的比较好的
知道一个python爬虫产品，瑞雪采集云，还是有一些特点的：
瑞雪采集云是一个PaaS在线开发平台，与图形配置化爬虫客户端工具相比，瑞雪采集云提供的是通用采集能力，能够满足企业客户数据采集业务的长期需求。
主要特点如下：
（一） 一站式通用能力集成，指数级提高开发效率。平台封装了丰富的通用功能，开发者不需要关心 Ajax和Cookie等底层细节，只需要利用平台封装好API，把主要精力放在业务上，工作效率提供10倍。
（二） 开发自由度高，支持复杂网站的采集。支持Java/Python编写应用插件，借助高级语言的高自由度能够处理复杂网站的采集。平台提供业内首个基于Web浏览器的在线开发环境，无需安装任何客户端，提高应用源代码在客户内部的共享。
（三） 分布式任务调度机制，并发采集效率高。把采集工作分解为多个采集工序，一个大任务被拆解为在不同工序上执行的大量小任务，然后被分配到海量爬虫机集群上被分布式并发执行，确保系统达到最高的采集效率。
（四） 强大的任务管理机制，确保数据完整性。平台拥有强大的任务状态机制，支持任务重发、支持利用结束码管理任务的不同结束状态，根据具体情况选择不同的后续处理，保证不遗漏目标数据，确保最终目标数据的完整性。
（五） 学习时间短，能够支撑业务的快速发展。平台提供丰富的在线帮助文档，开发者能够在1小时内快速掌握平台的基本使用，当有新的数据采集需求时，新的开发者能够立即学习开发采集爬虫程序，快速对应相关业务的发展。
（六） 支持私有化部署，保证数据安全。支持平台所有模块的私有化部署，让客户拥有瑞雪采集云平台的全部能力，保证客户开发的应用插件代码和目标数据的绝对安全。
⑩ 网络爬虫,用什么软件最好啊
前嗅ForeSpider数据采集系统是天津市前嗅网络科技有限公司自主知识产权的通用性互联网数据采集软件。软件具备全面的采集范围、精准的数据精度、绝佳的抓取性能、简易的可视化操作、智能的自动化采集，使企业能够以很少的人工成本，快速获取互联网中结构化或非结构化的数据。
软件几乎可以采集互联网上所有公开的数据，通过可视化的操作流程，从建表、过滤、采集到入库一步到位。支持正则表达式操作，更有强大的面向对象的脚本语言系统。
台式机单机采集能力可达4000-8000万，日采集能力超过500万。服务器单机集群环境的采集能力可达8亿-16亿，日采集能力超过4000万。并行情况下可支撑百亿以上规模数据链接，堪与网络等搜索引擎系统媲美。
l软件特点
一．通用性：可以抓取互联网上几乎100 %的数据
1.支持数据挖掘功能，挖掘全网数据。
2.支持用户登录。
3.支持Cookie技术。
4.支持验证码识别。
5.支持HTTPS安全协议。
6.支持OAuth认证。
7.支持POST请求。
8.支持搜索栏的关键词搜索采集。
9.支持JS动态生成页面采集。
10.支持IP代理采集。
11.支持图片采集。
12.支持本地目录采集。
13.内置面向对象的脚本语言系统，配置脚本可以采集几乎100%的互联网信息。
二．高质量数据：采集+挖掘+清洗+排重一步到位
1.独立知识产权JS引擎，精准采集。
2.集成数据挖掘功能，可以精确挖掘全网关键词信息。
3.内部集成数据库，数据直接采集入库，入库前自动进行两次数据排重。
4.内部创建数据表结构，抓取数据后直接存入数据库相应字段。
5.根据dom结构自动过滤无关信息。
6.通过模板配置链接抽取和数据抽取，目标网站的所有可见内容均可采集，智能过滤无关信息。
7.采集前数据可预览采集，随时调整模板配置，提升数据精度和质量。
8.字段的数据支持多种处理方式。
9.支持正则表达式，精准处理数据。
10.支持脚本配置，精确处理字段的数据。
三．高性能：千万级的采集速度
1.C++编写的爬虫，具备绝佳采集性能。
2.支持多线程采集。
3.台式机单机采集能力可达4000-8000万，日采集能力超过500万。
4.服务器单机集群环境的采集能力可达8亿-16亿，日采集能力超过4000万。
5.并行情况下可支撑百亿以上规模数据链接，堪与网络等搜索引擎系统媲美。
6.软件性能稳健，稳定性好。
四．简易高效：节约70%的配置时间
1.完全可视化的配置界面，操作流程顺畅简易。
2.基本不需要计算机基础，代码薄弱人员也可快速上手，降低操作门槛，节省企业爬虫工程师成本。
3.过滤采集入库一步到位，集成表结构配置、链接过滤、字段取值、采集预览、数据入库。
4.数据智能排重。
5.内置浏览器，字段取值直接在浏览器上可视化定位。
五．数据管理：多次排重
1.内置数据库，数据采集完毕直接存储入库。
2.在软件内部创建数据表和数据字段，直接关联数据库。
3.采集数据时配置数据模板，网页数据直接存入对应数据表的相应字段。
4.正式采集之前预览采集结果，有问题及时修正配置。
5.数据表可导出为csv格式，在Excel工作表中浏览。
6.数据可智能排除，二次清洗过滤。
六．智能：智能模拟用户和浏览器行为
1.智能模拟浏览器和用户行为，突破反爬虫限制。
2.自动抓取网页的各类参数和下载过程的各类参数。
3.支持动态IP代理加速，智能过滤无效IP代理，提升代理的利用效率和采集质量。
4.支持动态调整数据抓取策略，多种策略让您的数据无需重采，不再担心漏采，数据采集更智能。
5.自动定时采集。
6.设置采集任务条数，自动停止采集。
7.设置文件大小阈值，自动过滤超大文件。
8.自由设置浏览器是否加速，自动过滤页面的flash等无关内容。
9.智能定位字段取值区域。
10.可以根据字符串特征自动定位取值区域。
11.智能识别表格的多值，表格数据可以完美存入相应字段。
七．优质服务
1.数据采集完全在本地进行，保证数据安全性。
2.提供大量免费的各个网站配置模板在线下载，用户可以自由导入导出。
3.免费升级后续不断开发的更多功能。
4.为用户提供各类高端定制化服务，全方位来满足用户的数据需求。