python获取整个网页源码的方法

所属分类: 脚本专栏 / python 阅读数: 681
收藏 0 赞 0 分享

1、Python中获取整个页面的代码:

import requests
res = requests.get('https://blog.csdn.net/yirexiao/article/details/79092355')
res.encoding = 'utf-8'
print(res.text)

2、运行结果

p1.jpg

实例扩展:

from bs4 import BeautifulSoup
import time,re,urllib2
t=time.time()
websiteurls={}
def scanpage(url):
 websiteurl=url
 t=time.time()
 n=0
 html=urllib2.urlopen(websiteurl).read()
 soup=BeautifulSoup(html)
 pageurls=[]
 Upageurls={}
 pageurls=soup.find_all("a",href=True)
 for links in pageurls:
  if websiteurl in links.get("href") and links.get("href") not in Upageurls and links.get("href") not in websiteurls:
   Upageurls[links.get("href")]=0
 for links in Upageurls.keys():
  try:
   urllib2.urlopen(links).getcode()
  except:
   print "connect failed"
  else:
   t2=time.time()
   Upageurls[links]=urllib2.urlopen(links).getcode()
   print n,
   print links,
   print Upageurls[links]
   t1=time.time()
   print t1-t2
  n+=1
 print ("total is "+repr(n)+" links")
 print time.time()-t
scanpage(http://news.163.com/)
更多精彩内容其他人还在看

在Pycharm中执行scrapy命令的方法

今天小编就为大家分享一篇在Pycharm中执行scrapy命令的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
收藏 0 赞 0 分享

PyCharm的设置方法和第一个Python程序的建立

今天小编就为大家分享一篇PyCharm的设置方法和第一个Python程序的建立,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
收藏 0 赞 0 分享

pycharm打开命令行或Terminal的方法

今天小编就为大家分享一篇pycharm打开命令行或Terminal的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
收藏 0 赞 0 分享

pycharm 将python文件打包为exe格式的方法

今天小编就为大家分享一篇pycharm 将python文件打包为exe格式的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
收藏 0 赞 0 分享

解决PyCharm控制台输出乱码的问题

今天小编就为大家分享一篇解决PyCharm控制台输出乱码的问题,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
收藏 0 赞 0 分享

pycharm的console输入实现换行的方法

今天小编就为大家分享一篇pycharm的console输入实现换行的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
收藏 0 赞 0 分享

在Pycharm中设置默认自动换行的方法

今天小编就为大家分享一篇在Pycharm中设置默认自动换行的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
收藏 0 赞 0 分享

解决pycharm回车之后不能换行或不能缩进的问题

今天小编就为大家分享一篇解决pycharm回车之后不能换行或不能缩进的问题,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
收藏 0 赞 0 分享

PyCharm设置每行最大长度限制的方法

今天小编就为大家分享一篇PyCharm设置每行最大长度限制的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
收藏 0 赞 0 分享

在pycharm中设置显示行数的方法

今天小编就为大家分享一篇在pycharm中设置显示行数的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
收藏 0 赞 0 分享
查看更多