下载分布式爬虫的集中管理系统的技术资料

文档序号:27501027

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明实施例公开了一种分布式爬虫的集中管理系统,其中,该分布式爬虫的集中管理系统包括主机服务器和与该主机服务器通信的多台从机服务器,上述主机服务器和从机服务器使用Scrapy框架进行布局,且所述scrapy框架使用redis队列进行URL的...
该专利属于深圳市宝视佳科技有限公司所有,仅供学习研究参考,未经过深圳市宝视佳科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。