51
Dev开发社区
首页
文章
问答
工具
搜索
登录
注册
#豆瓣
根据ISBN爬取豆瓣图书信息
frombs4importBeautifulSoupimporttimeimportrandomimportpandasaspdimporturllib.requestimportpymongoimportsysimportreclassDouban():def__init__(self):self.__r_publi...
开发笔记
·
2022-03-18
根据
ISBN
爬取
豆瓣
图书
vue-cli 3.0 豆瓣api接口使用element做分页
记录自己的学习大佬绕道谢谢! 豆瓣即将上映接口:https://api.douban.com/v2/movie/coming_soon本地跨域问题看我之前的文章:https://www.cnblogs.com/yangsg/p/10633385.html因为之前用过elementUI写过分页相关业务代码但是时...
代码星球
·
2020-08-25
vue-cli
豆瓣
api
接口
使用
vue调用豆瓣API加载图片403问题
"豆瓣API是有请求次数限制的”,这会引发图片在加载的时候出现403问题,视图表现为“图片加载不出来”,控制台表现为报错403。其实是豆瓣限制了图片的加载,我自己用了一个办法把图片缓存下来:只要在请求到的图片链接前面加上‘https://images.weserv.nl/...
代码星球
·
2020-08-25
vue
调用
豆瓣
API
加载
vue-cli 3.0 使用axios配置跨域访问豆瓣接口
vue-cli3.0配置axios跨域访问豆瓣接口自己做的小demo由于豆瓣api跨域问题,因此不能直接通过ajax请求访问,我们通过vue-cli提供给我们的代理进行配置即可,在根目录下创建vue.config.js module.exports={//runtimeCompiler:true,//publ...
代码星球
·
2020-08-25
vue-cli
使用
axios
配置
跨域
vue使用axios调用豆瓣API跨域问题
最近做了一个vue小demo,使用了豆瓣开源的API,通过ajax请求时需要跨域才能使用。 封面.jpg一、以下是豆瓣常用的开源接口:正在热映:https://api.douban.com/v2/movie/in_theaters即将上映:https://api.douban.com/v2/movie/com...
代码星球
·
2020-08-25
vue
使用
axios
调用
豆瓣
社会化登录之豆瓣小结
1:登录豆瓣网,注册一个开发者账号,然后选择我的应用。2:创建我的应用: 回调地址很重要,要和自己请求时的回调地址一致。QQ对于回调地址只是匹配域名,其他几个是直接匹配整个地址,然后加上参数code进行回调。3: 查看和配置应用基本信息: 可以看到: &n...
代码星球
·
2020-08-09
社会化
登录
豆瓣
小结
十四 web爬虫讲解2—Scrapy框架爬虫—豆瓣登录与利用打码接口实现自动识别验证码
打码接口文件#-*-coding:cp936-*-importsysimportosfromctypesimport*#下载接口放目录http://www.yundama.com/apidoc/YDM_SDK.html#错误代码请查询http://www.yundama.com/apidoc/YDM_ErrorCode...
代码星球
·
2020-07-09
爬虫
十四
web
讲解
Scrapy
豆瓣API
图书ApiV2电影ApiV2音乐ApiV2同城ApiV2广播ApiV2用户ApiV2日记ApiV2相册ApiV2线上活动ApiV2论坛ApiV2回复ApiV2我去ApiV2https://developers.douban.com/wiki/?title=api_v2 GEThttps...
代码星球
·
2020-06-16
豆瓣
API
python 爬虫&爬取豆瓣电影top250
爬取豆瓣电影top250fromurllib.requestimport*#导入所有的request,urllib相当于一个文件夹,用到它里面的方法requestfromlxmlimportetree#调用包importpickle#importtimearr=[]#定义一个空数组,用来添加爬出的数据url="http...
代码星球
·
2020-05-29
python
爬虫
爬取
豆瓣
电影
爬取豆瓣电影
爬取步骤:#1、#找到url地址#url="https://movie.douban.com/j/search_subjects?type=movie&tag=%E7%83%AD%E9%97%A8&sort=recommend&page_limit=20&page_start=0"#2、...
代码星球
·
2020-05-17
爬取
豆瓣
电影
豆瓣音乐下载方法
先插入一条广告,博主新开了一家淘宝店,经营自己纯手工做的发饰,新店开业,只为信誉!需要的亲们可以光顾一下!谢谢大家的支持!店名: 小鱼尼莫手工饰品店经营: 发饰、头花、发夹、耳环等(手工制作)网店: http://shop117066935.taobao.com/ 马上开始正题...&...
代码星球
·
2020-04-14
豆瓣
音乐下载
方法
豆瓣电影简单评分模型-从收集数据到建模分析
思路:从豆瓣上抓取数据【主要是评分,只是那个人数的百分比和最终评分,不过够用了】一、收集数据起始URL:https://movie.douban.com/j/new_search_subjects?sort=U&range=0,10&tags=&start=0【注,爬取的对象是使用a...
代码星球
·
2020-04-07
豆瓣
电影
简单
评分
模型
爬虫实战【12】使用cookie登陆豆瓣电影以及获取单个电影的所有短评
昨天我们已经实现了如何抓取豆瓣上的热门电影信息,虽然不多,只有几百,但是足够我们进行分析了。今天我们来讲一下如何获取某一部电影的所有短评论信息,并保存到mongodb中。豆瓣设置的反爬虫机制是比较简单的,我们可以通过selenium模拟浏览器登陆这种终极办法来绕过,但是更加有效率的方法是设置请求头信息的cookie,是...
ymnets
·
2020-03-25
电影
爬虫
实战
使用
COOKIE
爬虫实战【11】Python获取豆瓣热门电影信息
之前我们从猫眼获取过电影信息,而且利用分析ajax技术,获取过今日头条的街拍图片。今天我们在豆瓣上获取一些热门电影的信息。首先,我们先来看一下豆瓣里面选电影的页面,我们默认选择热门电影,啥都不点了。【插入图片,豆瓣热门电影页面】在选电影这个框中其实有很多标签的,这个其实可以在url设置,后面讲,现在就用热门好了。下面每...
ymnets
·
2020-03-25
爬虫
实战
Python
获取
豆瓣
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他