以下代碼是禁止直接訪問，但匹配并排除搜索引擎蜘蛛

nginx站點(diǎn)配置文件中加入以下節(jié)點(diǎn)：

location = /robots.txt {
    if ($http_user_agent !~* "spider|bot|yahoo|sogou") {
        return 404;
    }
}
1
2
3
4
5
    
location = /robots.txt {
    if ($http_user_agent !~* "spider|bot|yahoo|sogou") {
        return 404;
    }
}

然后重載nginx配置
/usr/local/shuyangwang/nginx/sbin/nginx -s reload (此配置文件路徑以你安裝為準(zhǔn))