python 怎么获取网页内容-Python教程

资源魔 34 0
Python用做数据解决仍是相称没有错的,假如你想要做爬虫,Python是很好的抉择,它有不少曾经写好的类包,只需挪用,便可实现不少复杂的性能。

1 Pyhton猎取网页的内容(也就是源代码)(保举学习:Python视频教程)

page = urllib2.urlopen(url)   
contents = page.read()   
#取得了整个网页的内容也就是源代码  
print(contents)

url代表网址,contents代表网址所对应的源代码,urllib2是需求用到的包,以上三句代码就能取得网页的整个源代码

2 猎取网页中想要的内容(先要取得网页源代码,再剖析网页源代码,找所对应的标签,而后提掏出标签中的内容)

以豆瓣片子排名为例子

如今我需求取得以后页面的一切片子的名字,评分,评估人数,链接

#coding:utf-8  
''''' 
@author: jsjxy 
'''  
import urllib2   
import re   
from bs4 import BeautifulSoup  
from distutils.filelist import findall  

page = urllib2.urlopen('http://movie.douban.com/top250?format=text')   
contents = page.read()   
 #print(contents)  
soup = BeautifulSoup(contents,"html.parser")  
print("豆瓣片子TOP250" + "\n" +" 影片名              评分       评估人数     链接 ")    
for tag in soup.find_all('div', class_='info'):    
   # print tag  
    m_name = tag.find('span', class_='title').get_text()        
    m_rating_score = float(tag.find('span',class_='rating_num').get_text())          
    m_people = tag.find('div',class_="star")  
    m_span = m_people.findAll('span')  
    m_peoplecount = m_span[3].contents[0]  
    m_url=tag.find('a').get('href')  
    print( m_name+"        "  +  str(m_rating_score)   + "           " + m_peoplecount + "    " + m_url )

管制台输入,你也能够写入文件中

更多Python相干技巧文章,请拜访Python教程栏目进行学习!

以上就是python 怎样猎取网页内容的具体内容,更多请存眷资源魔其它相干文章!

标签: Python python教程 python编程 python使用问题

抱歉,评论功能暂时关闭!