閱讀416 返回首頁    go 小米 note


如何判斷是否冒充百度Baiduspider的抓取?

如何判斷是否冒充Baiduspider的抓取?

建議您使用DNS反查方式來確定抓取來源的ip是否屬於百度。

例如,在linux平台下,您可以使用host ip命令反解ip來判斷是否來自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即為冒充。
$ host 123.125.66.120
120.66.125.123.in-addr.arpa domain name pointer
baiduspider-123-125-66-120.crawl.baidu.com.

host 119.63.195.254
254.195.63.119.in-addr.arpa domain name pointer
BaiduMobaider-119-63-195-254.crawl.baidu.jp. 

最後更新:2011-09-28 21:36:50

  上一篇:go 我不想我的網站被百度Baiduspider訪問,我該怎麼做?
  下一篇:go 為什麼百度Baiduspider不停的抓取我的網站?