一号优惠经验分享网
51福利网的各种薅羊毛福利经验笔记

防止假蜘蛛搜索引擎扫描,还是要增加反向 DNS 校验

虽然可以核验搜索引擎官方ip段👉一份定时拉取 谷歌搜索引擎,必应搜索引擎,百度搜索引擎,yandex搜索引擎,字节搜索引擎ip名单、自动更新 Nginx geo 网段的 Shell 脚本

但是:

51福利网

你脚本拉取的 IP 段完全是微软官方公开的 Bingbot 公网 IP 清单,没有抓错源

清单里整段 Azure 网段 ≠ 每一台机器都是必应爬虫,这是微软机制问题,不是你脚本错了。

原理拆解

  1. bingbot.json 是必应官方对外公示的Bing 爬虫可用出口 IP 大段 CIDR,这些网段归属微软 Azure;
  2. 该网段内一部分云主机分配给必应官方爬虫程序,属于正规收录;
  3. 网段内剩余大量空闲 Azure 虚拟机,任何人可以购买、开服务器,直接伪造 UA 写bingbot/2.0爬站;
  4. 所以你把整段 CIDR 全部放行,等于给整个 Azure 这一大片服务器白名单,恶意程序随便套 UA 就能绕过规则。

三、两种解决方案(任选其一)

方案 1:保留现有 IP 列表,增加反向 DNS 强校验(最稳妥推荐)

哪怕 IP 在白名单 CIDR 里,必须反向解析域名后缀是 search.msn.com 才认定为真 Bingbot,否则直接 444。 加到 bingbot geo 匹配之后:

if ($is_bingbot = 1) {
    # 仅做反向DNS验证,无匹配直接断开
    resolver 8.8.8.8 valid=300s;
    set $real_bing 0;
    eval $real_bing {
        gethostbyaddr $remote_addr;
    }
    if ($real_bing ~* search\.msn\.com$) {
        allow all;
    }
    return 444;
}

优点:不用改你的同步脚本,官方 IP 列表照常自动更新,从根源堵死网段内仿冒爬虫。

方案 2:缩小白名单,放弃整段 CIDR 自动拉取

必应官方其实说明过:不建议直接放行整段 IPv4 前缀,生产环境最优是DNS 反向验证优先,IP 网段仅作辅助参考。

可以修改脚本,不再全量写入 CIDR,只把 DNS 校验作为唯一判定依据。

一号优惠 · 51福利网薅羊毛福利具有时效性,如已失效,请留言
文章名称:《防止假蜘蛛搜索引擎扫描,还是要增加反向 DNS 校验》-一号优惠 · 51福利网
免责申明:本站所有活动信息均来自网络,如有失效、违规、不实或侵权,请联系我们删除。谢谢

评论 抢沙发

一号优惠经验分享网最新最全薅羊毛,现金红包线报网

一号优惠经验分享网提供每日最新内部优惠,薅羊毛活动,现金红包领取,免费福利和网赚福利手机赚钱线报,打造中国最受欢迎的网赚信息发布平台!51福利网

51联盟线报群

登录

找回密码

注册