下面作一簡(jiǎn)單介紹：
(1)抓取友好性
互聯(lián)網(wǎng)資源龐大的數量級，要求抓取系統盡可能地高效利用帶寬，在有限的硬件和帶寬資源下盡可能多地抓取到有價(jià)值的資源。這就造成另一個(gè)問(wèn)題:耗費被抓網(wǎng)站的帶寬造成訪(fǎng)問(wèn)壓力，如果程度過(guò)大，將直接影響被抓網(wǎng)站的正常用戶(hù)訪(fǎng)問(wèn)行為。因此，在抓取過(guò)程中就要進(jìn)行一定的抓取壓力控制，達到既不影響網(wǎng)站的正常用戶(hù)訪(fǎng)問(wèn)又能盡量多地抓取到有價(jià)值資源的目的。
通常，最基本的是基于IP的壓力控制。因為如果基于域名，可能存在一個(gè)域名對多個(gè)IP(很多大網(wǎng)站)或多個(gè)域名對應同一個(gè)IP(小網(wǎng)站共享IP)的問(wèn)題。實(shí)際中往往根據P及域名的多種條件進(jìn)行壓力調配控制。同時(shí)，站長(cháng)平臺也推出了壓力反饋工具，站長(cháng)可以人工調配對自己網(wǎng)站的抓取壓力，這時(shí)!百度spider將優(yōu)先按照站長(cháng)的要求進(jìn)行抓取壓力控制。
對同一站點(diǎn)的抓取速度控制一般分為兩類(lèi):
其一，一段時(shí)間內的抓取頻率；
其二，段時(shí)間內的抓取流量。
同一站點(diǎn)不同的時(shí)間抓取速度也不同。例如，夜晚抓取的可能就會(huì )快一些，也視具體站點(diǎn)類(lèi)型而定，主要思想是錯開(kāi)正常用戶(hù)訪(fǎng)問(wèn)高峰，不斷調整。對于不同站點(diǎn)，也需要不同的抓取速度。
(2)常用抓取返回碼示意
下面簡(jiǎn)單介紹幾種百度支持的返回碼。
①最常見(jiàn)的404代表“NOT FOUND”，認為網(wǎng)頁(yè)已經(jīng)失效，通常將在庫中刪除，同時(shí)短期內如果spider再次發(fā)現這條URL.也不會(huì )抓取。
②503代表“Service unavailabl ，認為網(wǎng)頁(yè)臨時(shí)不可訪(fǎng)問(wèn)，通常網(wǎng)站臨時(shí)關(guān)閉，帶寬有限等會(huì )產(chǎn)生這種情況。對于網(wǎng)頁(yè)返回503百度spider不會(huì )把這條url直接刪除，同時(shí)短期內將會(huì )反復訪(fǎng)問(wèn)幾次，如果網(wǎng)頁(yè)已恢復，則正常抓??；如果繼續503狀態(tài)碼，那么這條URL仍會(huì )被認為是失效鏈接，從庫中刪除。
③403代表Forbidden，認為網(wǎng)頁(yè)目前禁止訪(fǎng)問(wèn)。如果是新URL， spider暫時(shí)不抓取，短期內同樣會(huì )反復訪(fǎng)問(wèn)幾次；如果是已收錄UHL，不會(huì )直接刪除，短期內同樣反復訪(fǎng)認為是失效鏈接，從庫中刪除。問(wèn)幾次。如果網(wǎng)頁(yè)正常訪(fǎng)問(wèn)，則正常抓??；如果仍然禁止訪(fǎng)問(wèn)，那么這條URL也會(huì )被。
④301代表“Moved”認為網(wǎng)頁(yè)重定向至新URL當遇到站點(diǎn)遷移 域名更換、站點(diǎn)改版的情況時(shí)，推薦使用301返回碼，同田時(shí)使用站長(cháng)平臺網(wǎng)站改版工具，以減少改版對網(wǎng)站流量造成的損失。
(3)多種URL重定向的識別
互聯(lián)網(wǎng)中的一部分網(wǎng)頁(yè)因為各種各樣的原因存在URL重定向狀態(tài)，為了對這部分資源正常抓取，要求 spider對URL重定向進(jìn)行識別判斷，同時(shí)防止作弊行為。重定向可分為三類(lèi):htp30x重定向、 meta refresh重定向和js重定向。另外，百度也支持Canonical標簽，在效果上也可以認為是一種間接的重定向。
(4)抓取優(yōu)先級調配
由于互聯(lián)網(wǎng)資源規模巨大以及變化迅速，對于搜索引擎來(lái)說(shuō)，全部抓取到并合理地更新，保持一致性幾乎是不可能的事情，因此要求抓取系統設計一套合理的抓取優(yōu)先級調配策略，主要包括深度優(yōu)先遍歷策略、寬度優(yōu)先遍歷策略、pr優(yōu)先策略、反鏈策略、社會(huì )化分享指導策略等。每個(gè)策略各有優(yōu)劣，在實(shí)際情況中往往是多種策略結合使用，以達到最優(yōu)的抓取效果。
(5)重復URL的過(guò)濾
spider在抓取過(guò)程中需要判斷一個(gè)頁(yè)面是否已經(jīng)抓取過(guò)了，如果還沒(méi)有抓取，再進(jìn)行抓取網(wǎng)頁(yè)的行為，并放在已抓取網(wǎng)址集合中。判斷是否已經(jīng)抓取其中涉及最核心的是快速查找并對比，同時(shí)于涉及URL歸一化識別。例如，一個(gè)URL中包含大量無(wú)效參數，而實(shí)際是同一個(gè)頁(yè)面，這將視為同一個(gè)URL來(lái)對待。
(6)暗網(wǎng)數據的獲取
互聯(lián)網(wǎng)中存在著(zhù)大量的搜索引擎暫時(shí)無(wú)法抓取到的數據，被稱(chēng)為暗網(wǎng)數據。一方面，很多網(wǎng)站的大量數據存在于網(wǎng)絡(luò )數據庫中，spider難以采用抓取網(wǎng)頁(yè)的方式獲得完整內容；另一方面，由于網(wǎng)絡(luò )環(huán)境、網(wǎng)站本身不符合規范、孤島等問(wèn)題，也會(huì )造成搜索引擎無(wú)法抓取。目前，對于暗網(wǎng)數據的獲取，主要思路仍然是通過(guò)開(kāi)放平臺采用數據提交的方式來(lái)解決，如“百度站長(cháng)平臺”“百度開(kāi)放平臺”等。
(7)抓取反作弊
spider在抓取過(guò)程中往往會(huì )遇到所謂抓取黑洞，或者面臨大量低質(zhì)量頁(yè)面的因擾這就要求抓取系統中同樣需要設計一套完善的抓取反作弊系統。例如，分析URL特征分析頁(yè)面大小及內容、分析站點(diǎn)規模對應抓取規模等。Spider抓取系統是搜索引擎數據來(lái)源的重要保證，這對于網(wǎng)站制作、網(wǎng)站建設、網(wǎng)站設計者來(lái)說(shuō)就是機遇和突破口，具體的做法就千差萬(wàn)別了。
本文地址：http://havencoinwallet.com//article/2513.html
