python中如何爬取并下载进击的巨人全集视频

这篇文章给大家分享的是有关python中如何爬取并下载进击的巨人全集视频的内容。小编觉得挺实用的，因此分享给大家做个参考，一起跟随小编过来看看吧。

成都创新互联公司-专业网站定制、快速模板网站建设、高性价比迁安网站开发、企业建站全套包干低至880元,成熟完善的模板库,直接使用。一站式迁安网站制作公司更省心,省钱,快速模板网站建设找我们，业务覆盖迁安地区。费用合理售后完善，十余年实体公司更值得信赖。

Python主要用来做什么

Python主要应用于：1、Web开发；2、数据科学研究；3、网络爬虫；4、嵌入式应用开发；5、游戏开发；6、桌面应用开发。

本文教程操作环境：windows7系统、Python 3.9.1，DELL G3电脑。

爬取网站Url：http://www.imomoe.ai/

一、爬虫思路

1、拿到所有集数和对应的在线播放网址；

2、从在线播放的网页链接中找到视频在服务器上的缓存地址；

3、通过视频地址将视频下载到本地。

二、爬取过程

第一步：获取所有集数和对应的在线播放网址

1、用BeautifulSoup匹配id属性为play_0的div标签即可。代码如下：

season_1_url = 'http://www.imomoe.ai/view/4225.html'
season_1_response = requests.get(season_1_url)
season_1_response.encoding = 'gb2312'
season_1_soup = BeautifulSoup(season_1_response.text, 'lxml')
season_1_soup_info = season_1_soup.find('div', id="play_0")

2、找到其中的a标签

season_1_info = season_1_soup_info.find_all('a')

3、点击第一集，发现其在线播放网址是http://www.imomoe.ai/player/4225-0-0.html，其实就是http://www.imomoe.ai后面接上该标签下href属性里的东西。编写代码如下：

Season_1 = pd.DataFrame()
for i in range(len(season_1_info)):
    Season_1.loc[i,'集数'] = season_1_info[i].text
    Season_1.loc[i,'网址'] = 'http://www.imomoe.ai' + season_1_info[i].get('href')

获取到了第一季每一集对应的在线播放网址

第二步：获取视频地址

1、把iframe标签src属性里的东西提取出来，再用正则表达式匹配视频地址

item = first_soup.find_all('iframe')[1].get('src')
findLink = re.compile(r'vid=(.*?)&userlink=')
re.findall(findLink,item)[0]

2、循环获取到第一季每一集的视频地址

findLink = re.compile(r'vid=(.*?)&userlink=')
for i in range(len(Season_1)):
    url = Season_1.loc[i,'网址']
    driver = webdriver.Chrome()
    driver.get(url)
    response = driver.page_source
    soup = BeautifulSoup(response)
    item = soup.find_all('iframe')[1].get('src')
    Season_1.loc[i,'视频地址'] = re.findall(findLink,item)[0]
    driver.quit()

第三步：下载视频

用urllib.request.urlretrieve函数就能轻松下载

path = r'C:\我的文件\迅雷下载\进击的巨人'

# 函数说明:回调函数，打印下载进度
def Progress(blocknum,blocksize,totalsize):
    
    """
    blocknum:当前的块编号
    blocksize:每次传输的块大小
    totalsize:网页文件总大小
    """
    percent = blocknum*blocksize/totalsize
    if percent > 1.0:
        percent = 1.0
    percent = percent*100
    print("\r%.2f%% 已下载：%.2f Mb 文件大小：%.2f Mb" %(percent,blocknum*blocksize/1e6,totalsize/1e6), end='     ')

for i in range(len(Season_1)):
    download_url = Season_1.loc[i,'视频地址']
    if os.path.exists(path + './第一季') != 1:
        os.mkdir(path + './第一季')
    
    filename = os.path.join(path, '第一季', Season_1.loc[i,'集数']+'.mp4')
    
    print('正在下载%s' %Season_1.loc[i,'集数'])
    urllib.request.urlretrieve(download_url, filename, Progress)
    print()

感谢各位的阅读！关于“python中如何爬取并下载进击的巨人全集视频”这篇文章就分享到这里了，希望以上内容可以对大家有一定的帮助，让大家可以学到更多知识，如果觉得文章不错，可以把它分享出去让更多的人看到吧！

网页名称：python中如何爬取并下载进击的巨人全集视频
当前链接：http://6mz.cn/article/ihigcp.html