




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認(rèn)領(lǐng)
文檔簡介
第Python使用BeautifulSoup4修改網(wǎng)頁內(nèi)容的實戰(zhàn)記錄最近有個小項目,需要爬取頁面上相應(yīng)的資源數(shù)據(jù)后,保存到本地,然后將原始的HTML源文件保存下來,對HTML頁面的內(nèi)容進行修改將某些標(biāo)簽整個給替換掉。
對于這類需要對HTML進行操作的需求,最方便的莫過于BeautifulSoup4的庫了。
樣例的HTML代碼如下:
html
body
ahref="/wp-content/uploads/1020/1381824922.JPG"rel="externalnofollow"rel="externalnofollow"
imgsrc="/wp-content/uploads/1020/1381824922_zy_compress.JPG"data-zy-media-id="zy_location_201310151613422786"/
ahref="/wp-content/uploads/1020/第一張_1381824798.JPG"rel="externalnofollow"rel="externalnofollow"
imgdata-zy-media-id="zy_image_201310151613169945"src="/wp-content/uploads/1020/第一張_1381824798_zy_compress.JPG"http://a
ahref="/wp-content/uploads/1020/第二張_1381824796.jpg"rel="externalnofollow"rel="externalnofollow"
imgdata-zy-media-id="zy_image_201310151613163009"src="/wp-content/uploads/1020/第二張_1381824796_zy_compress.jpg"/
ahref="/wp-content/uploads/1020/第三張.jpg"rel="externalnofollow"rel="externalnofollow"
imgdata-zy-media-id="zy_image_201312311838584446"src="/wp-content/uploads/1020/第三張_zy_compress.jpg"/
/body
/html
這里主要包括了a標(biāo)簽,a標(biāo)簽里面嵌入了img標(biāo)簽,其中有a>
也就是將帶有的a>
div
videocontrolswidth="100%"poster="視頻鏈接的圖片地址.jpg"
sourcesrc="視頻文件的靜態(tài)地址.mp4"type="video/mp4"/
您的瀏覽器不支持H5視頻,請使用Chrome/Firefox/Edge瀏覽器。
/video
/div
將a....img...//a標(biāo)簽換成
figure
imgsrc="圖片地址_compressed.jpg"data-zy-media-id="圖片地址.jpg"
figcaption文字說明(如果有)/figcaption
/figure
這里通過BeautifulSoup4的select()方法找到標(biāo)簽,通過get()方法獲取標(biāo)簽及標(biāo)簽屬性值,通過replaceWith來替換標(biāo)簽,具體代碼如下:
首先安裝BeautifulSoup4的庫,BeautifulSoup4庫依賴于lxml庫,所以也需要安裝lxml庫。
pipinstallbs4
pipinstalllxml
具體代碼實現(xiàn)如下:
importos
frombs4importBeautifulSoup
htmlstr='htmlbody'\
'ahref="/wp-content/uploads/1020/1381824922.JPG"rel="externalnofollow"rel="externalnofollow"'\
'imgsrc="/wp-content/uploads/1020/1381824922_zy_compress.JPG"data-zy-media-id="zy_location_201310151613422786"http://a'\
'ahref="/wp-content/uploads/1020/第一張_1381824798.JPG"rel="externalnofollow"rel="externalnofollow"'\
'imgdata-zy-media-id="zy_image_201310151613169945"src="/wp-content/uploads/1020/第一張_1381824798_zy_compress.JPG"http://a'\
'ahref="/wp-content/uploads/1020/第二張_1381824796.jpg"rel="externalnofollow"rel="externalnofollow"'\
'imgdata-zy-media-id="zy_image_201310151613163009"src="/wp-content/uploads/1020/第二張_1381824796_zy_compress.jpg"http://a'\
'ahref="/wp-content/uploads/1020/第三張.jpg"rel="externalnofollow"rel="externalnofollow"'\
'imgdata-zy-media-id="zy_image_201312311838584446"src="/wp-content/uploads/1020/第三張_zy_compress.jpg"http://a'\
'/body/html'
defprocHtml(htmlstr):
soup=BeautifulSoup(htmlstr,'lxml')
a_tags=soup.select('a')
fora_tagina_tags:
a_tag_src=a_tag.get('href')
a_tag_filename=os.path.basename(a_tag_src)
a_tag_path=os.path.join('src',a_tag_filename)
a_tag['href']=a_tag_path
next_tag=a_tag.next
#判斷是視頻還是圖片,如果a標(biāo)簽帶了是視頻否則是圖片
ifa_tag.get('class')and'videoslide'==a_tag.get('class')[0]:
#處理視頻文件
media_id=next_tag.get('data-zy-media-id')
ifmedia_id:
media_url='/travel/show_media/'+str(media_id)+'.mp4'
media_filename=os.path.basename(media_url)
media_path=os.path.join('src',media_filename)
#將div.video標(biāo)簽替換a標(biāo)簽
video_html='div"video\"videocontrolswidth=\"100%\"poster=\"'+a_tag_path+'\"sourcesrc=\"'+media_path+'\"type=\"video/mp4\"/您的瀏覽器不支持H5視頻,請使用Chrome/Firefox/Edge瀏覽器。/video/div'
video_soup=BeautifulSoup(video_html,'lxml')
a_tag.replaceWith(video_soup.div)
else:
#獲取圖片信息
if'img'==next_:
img_src=next_tag.get('src')
#判斷是否路徑是否為本地資源data:image和file:
ifimg_src.find('data:image')==-1andimg_src.find('file:')==-1:
img_filename=os.path.basename(img_src)
img_path=os.path.join('src',img_filename)
#將figureimg標(biāo)簽替換a標(biāo)簽
figcaption=''
figure_html='figureimgsrc=\"'+img_path+'\"data-zy-media-id=\"'+a_tag_path+'\"figcaption'+figcaption+'/figcaption/figure'
figure_soup=BeautifulSoup(figure_html,'lxml')
a_tag.replaceWith(figure_soup.figure)
html_content=soup.contents[0]
returnhtml_content
if__name__=='__main__':
pro_html_str=procHtml(htmlstr)
print(pro_html_str)
結(jié)果:
html
body
div
videocontrols=""poster="src\1381824922.JPG"width="100%"
sourcesrc="src\zy_location_201310151613422786.mp4"type="video/mp4"/您的瀏覽器不支持H5視頻,請使用Chrome/Firefox/Edge瀏覽器。
/video
/div
figure
imgdata-zy-media-id="src\第一張_1381824798.JPG"src="src\第一張_1381824798_zy_compress.JPG"/
figcaption/figcaption
/figure
figure
imgdata-zy-media-id="
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 藥物分析考試模擬題及答案
- 醫(yī)療核心制度練習(xí)題(附答案)
- 廣告制作及發(fā)布代理合同
- 戰(zhàn)略合作協(xié)議策劃及合同書
- 工業(yè)廢氣治理工程合同
- 樂至縣乾潤招商服務(wù)有限公司招聘崗位工作人員(8人)筆試參考題庫附帶答案詳解
- 2025遼寧沈陽市城市建設(shè)投資集團有限公司所屬企業(yè)沈陽新基發(fā)展有限公司招聘16人筆試參考題庫附帶答案詳解
- 2025廣東湛江經(jīng)濟技術(shù)開發(fā)區(qū)建設(shè)投資發(fā)展集團有限公司招聘1人筆試參考題庫附帶答案詳解
- 2025寧夏銀川威力傳動技術(shù)股份有限公司招聘811人筆試參考題庫附帶答案詳解
- 2025中國電氣裝備集團數(shù)字科技有限公司招聘28人筆試參考題庫附帶答案詳解
- 過程控制實驗指導(dǎo)書講解
- 安徽鋼結(jié)構(gòu)人行天橋施工方案
- 玻璃馬蹄焰池窯課程設(shè)計說明書
- 形勢與政策(吉林大學(xué))智慧樹知到答案章節(jié)測試2023年
- 黎民公共管理學(xué)考研筆記
- 《人工智能導(dǎo)論:模型與算法》習(xí)題答案及期末試題
- GB/T 29497-2017高沸點芳烴溶劑
- GB/T 223.14-2000鋼鐵及合金化學(xué)分析方法鉭試劑萃取光度法測定釩含量
- 水池(水箱)清洗記錄
- GA 898-2010大型焰火燃放作業(yè)人員資格條件及管理
- 理綜答題“秘訣”課件
評論
0/150
提交評論