技術(shù)編號:6480924
提示:您尚未登錄,請點(diǎn) 登 陸 后下載,如果您還沒有賬戶請點(diǎn) 注 冊 ,登陸完成后,請刷新本頁查看技術(shù)詳細(xì)信息。本發(fā)明涉及網(wǎng)絡(luò)爬蟲技術(shù),尤其涉及一種從網(wǎng)頁內(nèi)容中提取統(tǒng)一資源定位符(URL, Uniform Resource Locator)的方法及系統(tǒng)。 背景技術(shù)網(wǎng)絡(luò)爬蟲是一個(gè)自動提取網(wǎng)頁的程序,它為搜索引擎從萬維網(wǎng)上下載網(wǎng)頁, 是搜索引擎的重要組成。目前, 一般網(wǎng)絡(luò)爬蟲的做法都是從需要檢測的網(wǎng)頁站 點(diǎn)URL開始,抓取該URL的網(wǎng)頁內(nèi)容,之后對當(dāng)前抓取的網(wǎng)頁內(nèi)容進(jìn)行解析, 并獲取新的網(wǎng)頁站點(diǎn)URL放入U(xiǎn)RL隊(duì)列中,循環(huán)執(zhí)行上述步驟直到滿足一定 的條件,如設(shè)定的要獲取...
注意:該技術(shù)已申請專利,請尊重研發(fā)人員的辛勤研發(fā)付出,在未取得專利權(quán)人授權(quán)前,僅供技術(shù)研究參考不得用于商業(yè)用途。
該專利適合技術(shù)人員進(jìn)行技術(shù)研發(fā)參考以及查看自身技術(shù)是否侵權(quán),增加技術(shù)思路,做技術(shù)知識儲備,不適合論文引用。
請注意,此類技術(shù)沒有源代碼,用于學(xué)習(xí)研究技術(shù)思路。