据说是个人写的蜘蛛程序,指向的是 http://www.yunyun.com/spider.html,yunyun.com 目前不能访问,建议屏蔽之。
不过对于国内网站来说不会带来什么流量,可以选择robots.txt协议禁止。
User-agent: YYSpider
Disallow: /
如果还是禁止不了,可以选择nginx规则禁止访问,如下:
if ($http_user_agent ~* "YYSpider") {
return 403;
}
雅虎中国蜘蛛
神马蜘蛛
Lycos蜘蛛
一淘蜘蛛
Criteo蜘蛛
backlinks蜘蛛
360蜘蛛
人工智能模型爬虫
网络爬虫系统
网络爬虫程序
twiceler蜘蛛
俄罗斯蜘蛛