爬虫能获取什么样的数据和具体的解析方式

Question

如题所述

Answer 1

随着互联网的飞速发展，越来越多的数据充斥着这个时代。而获取和处理数据就成为我们生活中必不可少的部分，爬虫也是应运而生。
众多语言都能进行爬虫，但基于python的爬虫显得更加简洁，方便。爬虫也成了python语言中必不可少的一部分。那我们通过爬虫可以获取什么样的数据呢？又有什么样的解析方式呢？
在上一篇给大家介绍的是爬虫基本流程Request和Response的介绍，本篇给大家带来的是爬虫可以获取什么样的数据和它的具体解析方式。


能抓到什么样的数据？
网页文本：如 HTML 文档，Ajax加载的Json格式文本等；
图片，视频等：获取到的是二进制文件，保存为图片或视频格式；
其他只要能请求到的，都能获取。
演示

import requests

headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}
resp = requests.get('http://www.baidu.com/img/baidu_jgylogo3.gif',headers=headers)
print(resp.content) # 二进制文件使用content
# 保存图片
with open('logo.gif','wb') as f:
f.write(resp.content)
print('Ok')成功运行就可以看到打印出来的图片的二进制数据，可保存成功后打印的 OK，这个时候我们打开文件夹就可以看到下载下来的图片了。这几行代码就简单的演示了爬虫保存文件的过程。



解析方式有哪些？

直接处理，比如简单的页面文档，只要去除一些空格的数据；
Json解析，处理Ajax加载的页面；
正则表达式；
BeautifulSoup库；
PyQuery；
XPath。


总结
看到这里，大家是不是已经对爬虫的基本工作原理有了清晰的认识了呢。当然，罗马并不是一天建成的，只要积累了足够多的经验，大家肯定能成为爬虫大神的。相信大家把我分享的相关资料看完，一定会成功的。

Answer 2

爬虫可以获取各种类型的数据，包括文本、链接、图片、视频和HTML源码等。对于文本、链接和HTML源码，可以直接提取采集。对于图片和视频，可以采集其链接地址并进行下载。具体的解析方式可以根据数据类型进行设置，八爪鱼采集器提供了智能识别和灵活的自定义采集规则设置，可以根据用户的需求进行相应的解析和提取。了解更多八爪鱼采集器的功能与合作案例，请前往官网了解更多详情