這個東西應該怎么解除,教教我?

這是你所用電腦或網絡的管理者設置的防火墻 。重點是防止爬蟲翻墻 。主要有兩個方法解除:
一、在網站管理工作中,robots文件常常是站長容易忽略的地方 。如果robots限制生效了,那么,我們應該如何去解除robots限制呢?
1、修改robots限制語句,確認蜘蛛有權限訪問網站內部路徑,文檔改成:
User-agent: *
Allow: /
【這個東西應該怎么解除,教教我?】2、登陸站長平臺,手動更新robots文件,也就是通知蜘蛛,“我的robots文件修改啦,趕緊來看看!”
3、等待蜘蛛正式來訪;實際上蜘蛛來過以后,得知了robots限制已經解除,但百度服務器很多,并沒有那么快全部同步,需要等待一定實際的 。
4、后續需要監控spider的訪問情況,如果一兩個月后還是沒有動靜,要注意了解還有沒有其它地方有robots限制 。
以上就是解除robots限制的具體流程 。

二、在百度上輸入你要打開網頁的名稱搜索后,
點了解詳情進入站長工具,
在Robots工具下面點生成robots.txt 然后再空白處以/開頭輸入你要打開網頁的網址點創建就OK了

    推薦閱讀