蜘蛛耗盡服務(wù)器資源分析
2015-06-04 分類： 網(wǎng)站建設(shè)
當(dāng)我們成都網(wǎng)站建設(shè)的網(wǎng)站剛上線后，都希望網(wǎng)站被盡快收錄，于是會(huì)去吸引蜘蛛的到來，蜘蛛到來的頻率過高有時(shí)候會(huì)導(dǎo)致iis資源耗盡，網(wǎng)站中時(shí)常數(shù)出現(xiàn)service unavoidable的提示，這個(gè)詞的出現(xiàn)可以直接表現(xiàn)為訪問量很小。
是蜘蛛的到來引起我們網(wǎng)站資源的缺乏，是蜘蛛耗盡服務(wù)器資源的，所以我們的解決辦法就針對(duì)蜘蛛進(jìn)行。利用robots.txt中的disallow屏蔽部分沒有實(shí)際意義的內(nèi)容。
格式如下：
user-agent:*
disallow:/search.html
disallow:/index.php?
disallow:/tempweb/
說明：
user-agent:*： *代表允許所有的搜索引擎來抓取數(shù)據(jù)。
disallow:/search.html：不允許收錄/search.html這個(gè)文件的數(shù)據(jù)。
disallow:/index.php?：不允許收錄以/index.php?為前綴的鏈接。
disallow:/tempweb/：不允許收錄/tempweb/里所有的文件，但可以收錄如：/tempwebtaim.html的鏈接。
本文標(biāo)題：蜘蛛耗盡服務(wù)器資源分析
瀏覽地址：http://www.2m8n56k.cn/news/19142.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供服務(wù)器托管、網(wǎng)站維護(hù)、自適應(yīng)網(wǎng)站、手機(jī)網(wǎng)站建設(shè)、外貿(mào)網(wǎng)站建設(shè)、網(wǎng)站排名
聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：[email protected]。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容
- 怎樣建站才能避免網(wǎng)站誤區(qū) 2015-06-02
- 高權(quán)重網(wǎng)站是如何構(gòu)造起來的 2015-05-31
- 成長型企業(yè)網(wǎng)站如何贏得客戶信任 2014-02-22
- 網(wǎng)站對(duì)企業(yè)品牌有什么幫助? 2015-05-29
- 如果利用百度知道打造網(wǎng)站外鏈 2015-05-27
- 關(guān)于企業(yè)郵箱你知道多少 2014-02-21
- 網(wǎng)頁與網(wǎng)站的區(qū)別 2014-02-20
- 網(wǎng)站內(nèi)部鏈接力量不容忽視 2015-06-03
- 技術(shù)實(shí)力差異懸殊，地方政府網(wǎng)站被黑客攻擊 2015-05-30
- 創(chuàng)新互聯(lián)幫您實(shí)現(xiàn)站長的夢想 2014-12-21
- 巧用免費(fèi)空間打造集群網(wǎng)絡(luò) 2014-02-22
- 金山網(wǎng)游月均133萬人付費(fèi)玩 2015-05-28
- 分析反向鏈接的“量”，利用競爭對(duì)手彌補(bǔ)網(wǎng)站不足 2014-12-21
- 衡量一個(gè)網(wǎng)站的價(jià)值 2015-05-26
- 趕鴨子上架：網(wǎng)站在那，其實(shí)它已經(jīng)死了…… 2015-05-25
- 致命的網(wǎng)站情況使得網(wǎng)站降權(quán) 2015-05-24
- 為什么有公司要提供免費(fèi)空間？ 2014-02-19
- 網(wǎng)站的域名，你知道怎么選擇嗎？ 2014-02-19
- 企業(yè)網(wǎng)站必備：提高用戶信任度 2015-05-22