gmjiaoyi
发表于 2018-6-26 15:19:48
ninqq 发表于 2018-6-26 15:09
你一天到底发布多少啊居然能导致服务器卡死
10几万吧
ninqq
发表于 2018-6-26 15:22:12
gmjiaoyi 发表于 2018-6-26 15:19
10几万吧
我觉得你比起弄服务器 不如把入库方式改成数据库入库
gmjiaoyi
发表于 2018-6-26 15:24:39
ninqq 发表于 2018-6-26 15:22
我觉得你比起弄服务器 不如把入库方式改成数据库入库
或者做个发布接口
不用数据库发布主要是一个站一个样,有定制的字段,经常改来改去,不如web发布简单暴力
Meiam
发表于 2018-6-26 15:25:58
每天采集这么多的站。估计很容易被 K 的。搜索引擎可能会视为这种站为垃圾站的吧
Meiam
发表于 2018-6-26 15:29:20
既然这么牛B 。你为何不想办法实现 分布式采集 入库
你先分析一下你的 CPU 占用率 主要是那方面导致的。是因为多线程采集 。
还是数据库读写影响的。
我估计目测是多线程采集对 CPU 占用的 影响比较大吧
gmjiaoyi
发表于 2018-6-26 15:30:11
ninqq 发表于 2018-6-26 15:22
我觉得你比起弄服务器 不如把入库方式改成数据库入库
而且从cpu进程看,还是mysql占用率最大
gmjiaoyi
发表于 2018-6-26 15:33:14
ninqq 发表于 2018-6-26 15:22
我觉得你比起弄服务器 不如把入库方式改成数据库入库
而且从cpu进程看,还是mysql占用率最大
翻车的老司机
发表于 2018-6-26 15:39:20
gmjiaoyi 发表于 2018-6-26 15:06
头像好评,是的,每天采集的内容和精子一样多
发布的时候慢点,定时任务不要集中在一起采集和发布
jqw1992
发表于 2018-6-26 15:40:40
gmjiaoyi 发表于 2018-6-26 15:19
10几万吧
发布这么多,域名不被k么
bjrjk
发表于 2018-6-26 16:23:27
真有钱啊,羡慕