最新下载
热门教程
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
python如何获取整个网页源码
时间:2022-06-24 22:21:49 编辑:袖梨 来源:一聚教程网
python如何获取整个网页源码?在本篇文章里小编给大家整理的是关于python获取整个网页源码的方法,需要的用户就来一聚教程网参考一下吧!
1、Python中获取整个页面的代码:
import requests
res = requests.get('https://blog.c*s*d*n.net/yirexiao/article/details/79092355')
res.encoding = 'utf-8'
print(res.text)
2、运行结果
实例扩展:
from bs4 import BeautifulSoup
import time,re,urllib2
t=time.time()
websiteurls={}
def scanpage(url):
websiteurl=url
t=time.time()
n=0
html=urllib2.urlopen(websiteurl).read()
soup=BeautifulSoup(html)
pageurls=[]
Upageurls={}
pageurls=soup.find_all("a",href=True)
for links in pageurls:
if websiteurl in links.get("href") and links.get("href") not in Upageurls and links.get("href") not in websiteurls:
Upageurls[links.get("href")]=0
for links in Upageurls.keys():
try:
urllib2.urlopen(links).getcode()
except:
print "connect failed"
else:
t2=time.time()
Upageurls[links]=urllib2.urlopen(links).getcode()
print n,
print links,
print Upageurls[links]
t1=time.time()
print t1-t2
n+=1
print ("total is "+repr(n)+" links")
print time.time()-t
scanpage(http://news.16***3.com/)
相关文章
- 魔兽RPG魔女会所彩蛋大全 全彩蛋触发条件攻略 11-21
- 地心归途真的是食谱吗支线任务攻略 美味食谱附录在哪 11-21
- pcl2启动器模组推荐2024 2024好玩的模组推荐 11-21
- 亚洲之子夜色办公室解锁方法 夜色办公室在哪 11-21
- pcl2启动器高清修复安装教程 高清修复怎么装 11-21
- 咩咩启示录肉体之罪古老石板获得位置攻略 11-21
