A. 爬虫怎么学
第一步，刚触摸Python网络爬虫的时分肯定是先过一遍Python最基本的常识，比如说：变量、字符串、列表、字典、元组、操控句子、语法等，把根底打牢，这样在做案例的时分不会觉得模糊。根底常识能够参阅廖雪峰的教程，很根底，也非常易懂，关于新手能够很快接纳。此外，你还需求了解一些网络恳求的基本原理、网页结构（如HTML、XML）等。
第二步，看视频或许找一本专业的网络爬虫书本（如用Python写网络爬虫），跟着他人的爬虫代码学，跟着他人的代码敲，弄懂每一行代码，留意务必要着手亲身实践，这样才会学的更快，懂的更多。许多时分我们好大喜功，觉得自己这个会，然后不愿意着手，其实真实比及我们着手的时分便漏洞百出了，最好每天都坚持敲代码，找点感觉。开发东西主张选Python3，由于到2020年Python2就中止保护了，日后Python3肯定是干流。IDE能够选择pycharm、sublime或jupyter等，小编引荐运用pychram，由于它非常友爱，有些相似java中的eclipse，非常智能。浏览器方面，学会运用 Chrome 或许 FireFox 浏览器去检查元素，学会运用进行抓包。此外，在该阶段，也需求了解干流的爬虫东西和库，如urllib、requests、re、bs4、xpath、json等，一些常用的爬虫结构如scrapy等是必需求把握的，这个结构仍是蛮简略的，可能初学者觉得它很难抵挡，可是当抓取的数据量非常大的时分，你就发现她的美~~
第三步，你现已具有了爬虫思想了，是时分自己着手，锦衣玉食了，你能够独立设计爬虫体系，多找一些网站做操练。静态网页和动态网页的抓取战略和办法需求把握，了解JS加载的网页，了解selenium+PhantomJS模仿浏览器，知道json格局的数据该怎样处理。网页如果是POST恳求，你应该知道要传入data参数，而且这种网页一般是动态加载的，需求把握抓包办法。如果想进步爬虫功率，就得考虑是运用多线程，多进程仍是协程，仍是分布式操作。
B. python可以做前端开发吗
可以的。python会学到web前端开发的一部分内容，是可以做前端开发的。
C. 前端js爬虫
纯粹前端的js 是不能 跨域 获取 cookie的
xxx.com 的js 代码 只能得到 xxx.com的cookie，拿不到 yyy.com
当然如果你有办法 在 yyy.com 写入受到自己控制的 html文件，你就可以写代码去拿到 对应的cookie，但看你的需求 应该你没有yyy.com 的权限
所以 要结合其他方案，推荐一下两种：
使用 electron ，electron 你可以认为是受js控制的浏览器引擎，所以你可以用它访问 yyy.com 拿到cookie，再接着做你的事情
或者 使用 puppeteer（Google 官方出品的 headless Chrome node 库）
Puppeteer 提供了一系列的 API，可以在无 UI 的情况下调用 Chrome 的各种功能，适用于爬虫、自动化处理等各种情景。
D. 学爬虫需要先学前端么
有一定的前端基础也是比较好的，如果没有，零基础也是可以学习的。
E. 前端可以利用ua判断是爬虫还是浏览器怎么判断
在php中用系统的环境的变量:$_SERVER["HTTP_USER_AGENT"];
<?php
$useragent=$_SERVER["HTTP_USER_AGENT"];
if(substr_count($useragent,"spider")){
echo "爬虫！"；
}else{
echo "浏览器！"；
}
?>
F. 爬虫小白问个不知道关于scrapy爬取json动态生成列表的问题！
对于只是读取某几个网站更新内容的爬虫完全没必要在python代码中实现增量的功能，直接在item中增加Url字段。 item['Url'] = response.url 然后在数据端把储存url的column设置成unique。 之后在python代码中捕获数据库commit
G. 如果网页内容是由javascript生成的，应该怎么实现爬虫
用神箭手云爬虫，完全在云上编写和执行爬虫，不需要配置任何开发环境，快速开发快速实现。
简单几行 javascript 就可以实现复杂的爬虫，同时提供很多功能函数：反反爬虫、 js 渲染、数据发布、图表分析、反防盗链等，这些在开发爬虫过程中经常会遇到的问题都由神箭手帮你解决。
H. python的主要用处就是用来写爬虫前端的吗。
用python写网络爬虫书怎么样爬虫的重点是在Python之外的。确切说是一些前端和部分后端技术（cookie之类的）以及一些HTTP协议相关知识。而对于python而言，只是获取内容（HTTP请求）和文本处理（抓内容），基本上看俩模块文档看几个框架文档都
I. python如何学爬虫跟前端
1：学习Python基础知识并实现基本的爬虫过程
一般获取数据的过程都是按照 发送请求-获得页面反馈-解析并且存储数据 这三个流程来实现的。这个过程其实就是模拟了一个人工浏览网页的过程。
Python中爬虫相关的包很多：urllib、requests、bs4、scrapy、pyspider 等，我们可以按照requests 负责连接网站，返回网页，Xpath 用于解析网页，便于抽取数据。
2：了解非结构化数据的存储。
爬虫抓取的数据结构复杂 传统的结构化数据库可能并不是特别适合我们使用。我们前期推荐使用MongoDB 就可以。
3： 掌握一些常用的反爬虫技巧。
使用代理IP池、抓包、验证码的OCR处理等处理方式即可以解决大部分网站的反爬虫策略。
4：了解分布式存储
分布式这个东西，听起来很恐怖，但其实就是利用多线程的原理让多个爬虫同时工作，需要你掌握 Scrapy + MongoDB + Redis 这三种工具就可以了。