來(lái)源:網絡推廣知識 - 遠(yuǎn)策科技 | 2022-09-28
網站整體運營離不開SEO,要做(zuò)好百度搜索引擎的(de)SEO就要關注Baiduspider,那麽什(shén)麽是Baiduspider?如何才能識别當前抓取是正确的(de)百度蜘蛛呢(ne)?今天遠(yuǎn)策SEO團隊帶大(dà)家清楚的(de)了(le)解“百度蜘蛛”的(de)作用(yòng)以及如何識别百度蜘蛛,爲網站整體運營打下(xià)基礎。
什(shén)麽是百度蜘蛛?
百度蜘蛛(Baiduspider)是百度搜索引擎的(de)一個(gè)自動程序,它的(de)作用(yòng)是訪問互聯網上的(de)網頁,建立索引數據庫,使用(yòng)戶能在百度搜索引擎中搜索到網站相關内容。
如何識别百度蜘蛛?
方法一可(kě)以通(tōng)過查看UA信息來(lái)判斷,目前UA分(fēn)爲移動、PC、和(hé)小程序三個(gè)應用(yòng)場(chǎng)景,這(zhè)三個(gè)渠道UA分(fēn)别如下(xià):
移動UA:
Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko)Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+http://www.baidu.com/search/spider.html)
或
Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;+http://www.baidu.com/search/spider.html)
PC UA:
Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)
或
Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
小程序UA:
Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;Smartapp; +http://www.baidu.com/search/spider.html)
方法二可(kě)以通(tōng)過雙向DNS解析認證,開發者通(tōng)過對(duì)日志中訪問服務器的(de)IP地址運行反向DNS查找,判斷某隻spider是否來(lái)自百度搜索引擎,Baiduspider的(de)hostname以*.baidu.com或*.baidu.jp 的(de)格式命名。然後對(duì)域名運行正向DNS查找。對(duì)通(tōng)過命令檢索到的(de)域名運行正向DNS查找,驗證該域名與您日志中訪問服務器的(de)原始IP地址是否一緻,IP地址一緻可(kě)确認spider來(lái)自百度搜索引擎,IP地址不一緻即爲冒充。
此外,您也(yě)可(kě)以檢查網站訪問日志,及時(shí)判斷正确的(de)百度蜘蛛,以防止有人(rén)惡意冒充百度蜘蛛來(lái)頻(pín)繁抓取您的(de)網站。若百度蜘蛛抓取頻(pín)次過高(gāo),造成網站服務異常,可(kě)以通(tōng)過搜索資源平台-【抓取頻(pín)次】工具調整頻(pín)次。