網(wǎng)頁(yè)抓取優(yōu)先策略也稱(chēng)為“頁(yè)面選擇問(wèn)題”(page Selection),通常是盡可能地首先抓取重要性的網(wǎng)頁(yè),這樣保證在有限的資源內(nèi)盡可能地照顧到那些重要性高的網(wǎng)頁(yè)。那么哪些網(wǎng)頁(yè)才是重要性高的呢?如何量化重要性呢?
重要性度量由鏈接歡迎度、鏈接重要度和平均鏈接深度這個(gè)方面決定。重慶網(wǎng)站建設(shè)
定義鏈接歡迎度為IB(P),它主要由反向鏈接(Backinks)的數(shù)目和質(zhì)量決定。首先考察數(shù)目,直觀地講,一個(gè)網(wǎng)頁(yè)有越多的鏈接指向它(反向鏈接數(shù)多),那么表示其他網(wǎng)頁(yè)對(duì)其的認(rèn)可。同時(shí)這個(gè)網(wǎng)頁(yè)被網(wǎng)民訪問(wèn)的機(jī)會(huì)就大,推測(cè)出其重要性也就越高;其次考察質(zhì)量,假如被越多的重要性高的網(wǎng)指向,那么其重要性也就越高。假如不考慮質(zhì)量,就會(huì)出現(xiàn)局部最優(yōu),而不是全局最優(yōu)的問(wèn)題。最典型的就是作弊網(wǎng)頁(yè),人為地在一些網(wǎng)頁(yè)中設(shè)置了大量反策鏈接指向其自身的網(wǎng)頁(yè),以提高該網(wǎng)頁(yè)的重要性。假如不考慮鏈接質(zhì)量,就會(huì)被這些作弊者所利用。
定義鏈接重要度為IL(P),它是一個(gè)關(guān)于URL字符串的函數(shù),僅僅考察字符串本身。鏈接重要度主要通過(guò)一些模式,比如認(rèn)為包含“.COM”或者“HOME”的URL重要度高,以及具有較少斜杠(Slash)的URL重要度高等。
定義平均鏈接深度為ID(P),此為筆者所創(chuàng)。ID(P)表示在一個(gè)種子站點(diǎn)集合中,每個(gè)種子站點(diǎn)假如存在一條鏈路(寬度優(yōu)先遍歷規(guī)則)到達(dá)該網(wǎng)頁(yè),那么平均鏈接深度就是這個(gè)網(wǎng)頁(yè)的又一個(gè)重要性指標(biāo)。因?yàn)榫嚯x種子站點(diǎn)越近,說(shuō)明被訪問(wèn)的機(jī)會(huì)越多,離種子站點(diǎn)越遠(yuǎn),重要性越低。事實(shí)上,按照寬度優(yōu)先的遍歷規(guī)則即可滿足這種重要性高的網(wǎng)頁(yè)被優(yōu)先抓取的需要。
最后,定義網(wǎng)頁(yè)重要性的度量為I(P),它由以上兩個(gè)量化值線性決定,即:
I(P)=a*IB(P) β*IL(P)
平均鏈接深度同寬度優(yōu)先的遍歷規(guī)則保證,因此不作為重要性評(píng)價(jià)的指標(biāo)。在抓取能力有限的情況下,假如能夠把重要性高的網(wǎng)頁(yè)盡可能地抓完,是合理科學(xué)的,最終被用戶(hù)查詢(xún)到的網(wǎng)頁(yè)也往往是那些重要性高的網(wǎng)頁(yè)。
盡管這樣看來(lái)已經(jīng)足夠完美,事實(shí)上,還是忽視了一個(gè)重要的要素--時(shí)間。時(shí)間導(dǎo)致萬(wàn)維網(wǎng)動(dòng)態(tài)變化的一面。如何抓取那些新增的網(wǎng)頁(yè)呢?如何重訪那些被修改了的網(wǎng)頁(yè)呢?如何發(fā)現(xiàn)那些被刪除了的網(wǎng)頁(yè)呢?為了保持和萬(wàn)維網(wǎng)網(wǎng)頁(yè)的同步變化,就必須有網(wǎng)頁(yè)重訪策略。通過(guò)該策略可以識(shí)別增加、修改及刪除網(wǎng)頁(yè)這3種網(wǎng)頁(yè)變化的情況。重慶做網(wǎng)站
企業(yè)網(wǎng)站建設(shè)解決方案 營(yíng)銷(xiāo)型網(wǎng)站建設(shè)解決方案 行業(yè)門(mén)戶(hù)網(wǎng)站建設(shè)解決方案 外貿(mào)網(wǎng)站解建設(shè)決方案 品牌形象網(wǎng)站建設(shè)解決方案 購(gòu)物商城網(wǎng)站建設(shè)解決方案 政府網(wǎng)站建設(shè)解決方案 手機(jī)網(wǎng)站建設(shè)解決方案 教育培訓(xùn)網(wǎng)站建設(shè)解決方案 珠寶高端奢飾品網(wǎng)站建設(shè)解決方案 房地產(chǎn)、地產(chǎn)項(xiàng)目網(wǎng)站建設(shè)解決方案 集團(tuán)、上市企業(yè)網(wǎng)站建設(shè)解決方案 數(shù)碼、電子產(chǎn)品網(wǎng)站建設(shè)解決方案 美容、化妝品行業(yè)網(wǎng)站建設(shè)解決方案
10年專(zhuān)業(yè)互聯(lián)網(wǎng)服務(wù)經(jīng)驗(yàn) 重慶最專(zhuān)業(yè)網(wǎng)站團(tuán)隊(duì) 資深行業(yè)分析策劃 B2C營(yíng)銷(xiāo)型網(wǎng)站建設(shè)領(lǐng)先者 最前沿視覺(jué)設(shè)計(jì)、研發(fā)能力 時(shí)刻最新技術(shù)領(lǐng)先研發(fā)能力 具有完備的項(xiàng)目管理 完善的售后服務(wù)體系 深厚的網(wǎng)絡(luò)運(yùn)營(yíng)經(jīng)驗(yàn)
中技互聯(lián)一直秉承專(zhuān)業(yè)、誠(chéng)信、服務(wù)、進(jìn)取的價(jià)值觀,堅(jiān)持優(yōu)秀的商業(yè)道德,以用戶(hù)最終價(jià)值為導(dǎo)向,向用戶(hù)提供優(yōu)質(zhì)產(chǎn)品和優(yōu)質(zhì)服務(wù),從而贏得了用戶(hù)的信賴(lài)。始終以不懈的努力、更高的目標(biāo)來(lái)要求自己。
主營(yíng)業(yè)務(wù):網(wǎng)站建設(shè) | 重慶網(wǎng)站建設(shè) | 重慶網(wǎng)站設(shè)計(jì) | 重慶網(wǎng)站制作 | 重慶網(wǎng)頁(yè)設(shè)計(jì) | 重慶網(wǎng)站開(kāi)發(fā)