溫馨提示:您尚未登錄,請點 登陸 后下載,如果您還沒有賬戶請點 注冊 ,登陸完成后,請刷新本頁查看技術詳細信息。
本發(fā)明公開了一種利用云端進行并發(fā)采集的爬蟲實現方法,包括爬蟲端和若干云節(jié)點服務端,爬蟲端能夠定時檢查云端的狀態(tài),并選擇云端進行任務發(fā)送;根據云端狀態(tài)進行實時配置同步;根據云端已下載網頁數,擇機進行網頁收取;通過本地緩存和數據實現異常容錯處理...該專利屬于山東浪潮云服務信息科技有限公司所有,僅供學習研究參考,未經過山東浪潮云服務信息科技有限公司授權不得商用。