‘壹’ 如何用Python爬虫抓取网页内容
爬虫流程
其实把网络爬虫抽象开来看，它无外乎包含如下几个步骤
模拟请求网页。模拟浏览器，打开目标网站。
获取数据。打开网站之后，就可以自动化的获取我们所需要的网站数据。
保存数据。拿到数据之后，需要持久化到本地文件或者数据库等存储设备中。
那么我们该如何使用 Python 来编写自己的爬虫程序呢，在这里我要重点介绍一个 Python 库：Requests。
Requests 使用
Requests 库是 Python 中发起 HTTP 请求的库，使用非常方便简单。
模拟发送 HTTP 请求
发送 GET 请求
当我们用浏览器打开豆瓣首页时，其实发送的最原始的请求就是 GET 请求
import requests
res = requests.get('http://www.douban.com')
print(res)
print(type(res))
>>>
<Response [200]>
<class 'requests.models.Response'>
‘贰’ 用爬虫从网站爬下的数据怎么存储
显然不能直接储存，你还得解析出自己需要的内容。
比如我爬取某新闻网今日的国内新闻，那么我创建一个实体类，里面有属性：新闻标题，新闻时间，正文等等。解析出你需要的内容，封到实体里面，然后在层直接save到数据库即可
如果你爬下的是整个网页，这个好办，把它当做文件一样，用流操作保存到电脑上即可。当然保存网页会遇到编码问题，这个很棘手。
‘叁’ 网络爬虫的存储方法――数据库，有什么作用
可以用来保存采集到的数据啊。
简单来讲，爬虫就是一个探测机器，它的基本操作就是模拟人的行为去各个网站溜达，点点按钮，查查数据，或者把看到的信息背回来。就像一只虫子在一幢楼里不知疲倦地爬来爬去。
‘肆’ 什么是爬虫
爬虫通俗来说就是抓取网页数据，比如说大家都喜欢的图片呀、小视频呀，还有电子书、文字评论、商品详情等等。
只要网页上有的，都可以通过爬虫爬取下来。
一般而言，python爬虫需要以下几步：
找到需要爬取内容的网页URL
打开该网页的检查页面（即查看HTML代码，按F12快捷键即可进入）
在HTML代码中找到你要提取的数据
写python代码进行网页请求、解析
存储数据
当然会python是前提，对于小白来说自学也不是件容易的事，需要花相当的时间去适应python的语法逻辑，而且要坚持亲手敲代码，不断练习。
如果对自己没有自信，也可以考虑看编程课程，跟着老师的节奏去学习，能比较快地掌握python语法体系，也能得到充分的案例练习。
‘伍’ Java爬虫爬那些留邮箱的网页,爬到邮箱存到数据库里,应该没事吧
这得看情况。
假如是你随便找个人打开这个网站就能看到的信息，那自然没有问题，毕竟人人都可见。
假如是你需要拥有一定权限才能看到的信息，并且这个权限可能存在利益问题，那就有点危险了，有好几个罪名可以让你赔钱或直接进去，具体看情况而定。
‘陆’ java爬虫实时获取页面数据并存入数据库
这种是工作上的问题把。
没给点好处很难做。
需要一个定时任务。不断去扫这个页面。一有更新马上获取。
获取需要用到解析html标签的jar包。
很简单。但是不想在这浪费时间给你写。
‘柒’ 爬虫数据用什么数据库储存最合适
txt文件
Mysql数据库:
xlwt表
MongoDB数据库
这几种都可以用来存储爬虫数据
‘捌’ 网页爬虫抓回的信息，是怎样存放在数据库里
1、抓取、下载网页；
2、分析网页、找出自己想要的信息；
3、入库
举例：一个网页抓取十个字段，先分别做上标记放入缓存，然后执行sql插库
二营长SEO
‘玖’ 如何使用JAVA编写爬虫将爬到的数据存储到MySql数据库
Scrapy依赖于twisted，所以如果Scrapy能用，twisted肯定是已经安装好了。
抓取到的数据，可以直接丢到MySQL，也可以用Django的ORM模型丢到MySQL，方便Django调用。方法也很简单，按数据库的语句来写就行了，在spiders目录里定义自己的爬虫时也可以写进去。
当然使用pipelines.py是更通用的方法，以后修改也更加方便。你的情况，应该是没有在Settings.py里定义pipelines，所以Scrapy不会去执行，就不会生成pyc文件了。
‘拾’ 怎么用VBA或网络爬虫程序抓取网站数据
VBA网抓常用方法
1、xmlhttp/winhttp法：
用xmlhttp/winhttp模拟向服务器发送请求，接收服务器返回的数据。
优点：效率高，基本无兼容性问题。
缺点：需要借助如fiddler的工具来模拟http请求。
2、IE/webbrowser法：
创建IE控件或webbrowser控件，结合htmlfile对象的方法和属性，模拟浏览器操作，获取浏览器页面的数据。
优点：这个方法可以模拟大部分的浏览器操作。所见即所得，浏览器能看到的数据就能用代码获取。
缺点：各种弹窗相当烦人，兼容性也确实是个很伤脑筋的问题。上传文件在IE里根本无法实现。
3、QueryTables法：
因为它是excel自带，所以勉强也算是一种方法。其实此法和xmlhttp类似，也是GET或POST方式发送请求，然后得到服务器的response返回到单元格内。
优点：excel自带，可以通过录制宏得到代码，处理table很方便
。代码简短，适合快速获取一些存在于源代码的table里的数据。
缺点：无法模拟referer等发包头
也可以利用采集工具进行采集网页端的数据，无需写代码。