全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

IP归属甄别会员请立即修改密码
查看: 1523|回复: 13
打印 上一主题 下一主题

这东西谁搭建过吗?采集各大网站热榜

[复制链接]
跳转到指定楼层
1#
发表于 2021-1-3 20:29:13 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
https://github.com/pangxiaobin/CrawlerHot
2#
发表于 2021-1-3 20:33:17 | 只看该作者
说来也巧,我做过,没什么意思
3#
 楼主| 发表于 2021-1-3 20:35:04 | 只看该作者
liuxu 发表于 2021-1-3 20:33
说来也巧,我做过,没什么意思

收录怎么样?是不是要本地运行PYTHON?
5#
发表于 2021-1-3 20:37:41 | 只看该作者
可以参考 dz的 cron .

第一个访客激活条件, 瞬时抓取 json 缓存1小时 (或你想要的时间)
6#
发表于 2021-1-3 20:44:23 | 只看该作者
aipage 发表于 2021-1-3 20:35
收录怎么样?是不是要本地运行PYTHON?

恩,用scrapy写的爬虫,跑了两个月没打理就下线了,除了WB热搜5分钟1次,其他的半天1天或者一周访问一次就可以了
7#
发表于 2021-1-3 20:47:39 来自手机 | 只看该作者
似乎挺好玩的
8#
 楼主| 发表于 2021-1-3 20:50:07 | 只看该作者
liuxu 发表于 2021-1-3 20:44
恩,用scrapy写的爬虫,跑了两个月没打理就下线了,除了WB热搜5分钟1次,其他的半天1天或者一周访问一次 ...

好像我见过上次谁搭了,也有爬LOC的热榜。
9#
发表于 2021-1-3 20:57:05 | 只看该作者
aipage 发表于 2021-1-3 20:50
好像我见过上次谁搭了,也有爬LOC的热榜。

其实都还算好爬,就是没什么用,没必要,之前有个搞聚合热搜上了app,然后被下线了
10#
发表于 2021-1-3 20:57:36 | 只看该作者
宝塔应该也可以搭建  等着试试!
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2026-1-14 21:05 , Processed in 0.061151 second(s), 10 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表