99久久伊人-99久久综合-99久久综合给久久精品-99久久综合狠狠综合久久男同-男人j桶进女人j的视频-男人j桶进女人免费视频

6、什么是Robots?Robots.txt文件放在哪里?

發布時間:2019-11-12 19:49:23   瀏覽人數: 8824 次  

答:搜索引擎通過一種程序robot(又稱spider),自動訪問互聯網上的網頁并獲取網頁信息。

可以在網站中創建一個純文本文件robots.txt,在這個文件中聲明該網站中不想被robot訪問的部分,這樣,該網站的部分或全部內容就可以不被搜索引擎收錄了,或者指定搜索引擎只收錄指定的內容。

robots.txt文件應該放在網站根目錄下。舉例來說,當robots訪問一個網站(比如http://www.abc.com)時,首先會檢查該網站中是否存在http://www.abc.com/robots.txt這個文件,如果機器人找到這個文件,它就會根據這個文件的內容,來確定它訪問權限的范圍。


資料來源網絡,僅供學習交流,如您發現本文中有涉嫌抄襲,請發送郵件至:support@iisp.com,一經查實,本站將立刻刪除涉嫌侵權內容。


上一篇:7、什么是外鏈?如何做?
下一篇:5、什么是sitemap?

旗下網站:耐思智慧 - 淘域網 - 我的400電話 - 中文域名:耐思尼克.cn 耐思尼克.top

耐思智慧 © 版權所有 Copyright © 2000-2025 IISP.COM,Inc. All rights reserved

備案號碼: 粵ICP備09063828號  公安備案號: 公安備案 粵公網安備 44049002000123號  域名注冊服務機構許可:粵D3.1-20240003 CN域名代理自深圳萬維網

聲明:本網站中所使用到的其他各種版權內容,包括但不限于文章、圖片、視頻、音頻、字體等內容版權歸原作者所有,如權利所有人發現,請及時告知,以便我們刪除版權內容

本站程序界面、源代碼受相關法律保護, 未經授權, 嚴禁使用; 耐思智慧 © 為我公司注冊商標, 未經授權, 嚴禁使用

法律顧問:珠海知名律師 廣東篤行律師事務所 夏天風 律師

主站蜘蛛池模板: 曰本还a大片免费无播放器 曰本三级香港三级三级人 孕交videos小孕妇xx中文 | 成人开心激情 | 最近的2019中文字幕免费一页 | 久草视频免费在线看 | 日韩欧美亚洲一区二区综合 | 一级一片 | 成人综合激情 | 五月天婷婷久久 | 亚洲国产高清一区二区三区 | 天天做天天爱天天影视综合 | 亚洲精品欧美日本中文字幕 | 国内精品免费视频精选在线观看 | 国产一区二区在线视频观看 | 狠狠干狠狠爱 | 日韩一级欧美一级 | 欧美综合区自拍亚洲综合图区 | 男女黄色毛片 | 国产无圣光高清一区二区 | 精品国产人成亚洲区 | 日韩不卡高清 | 国产制服丝袜91在线 | 国产一区二区三区欧美精品 | 成年人免费在线视频 | 日韩经典在线 | av小说网站 | 99在线观看精品视频 | 成人三级精品视频在线观看 | 免费乱理伦片泡泡影院琪琪 | 成人18免费| 一级片手机在线 | a毛片免费全部在线播放毛 a毛片免费全部播放毛 | 日韩区| 制服丝袜日日 | 深夜免费福利视频 | 国产一级特黄生活片 | 天天舔 | 动漫精品专区一区二区三区不卡 | 91短视频官网 | 亚洲欧美日韩成人一区在线 | 欧美在线色图 | 中文字幕高清免费不卡视频 |