• 大小: 0.83KB
    文件类型: .py
    金币: 1
    下载: 0 次
    发布日期: 2021-01-30
  • 语言: Python
  • 标签: 文件下载  爬虫  

资源简介

Python 爬虫爬取视频等大体积文件时,使用requests.get(url) 方法需要等该文件缓存进内存完之后才开始保存进硬盘,这样会导致测试代码的时候很长时间没有反应。本模块可以实现缓存多少便保存至硬盘多少的功能,不会出现运行很久而代码区没有反应的问题。

资源截图

代码片段和文件信息

import requests

def down (urlpathspeed):
        r = requests.get(urlstream = True)
        volume = int(r.headers[‘content-length‘])

        with open(path‘wb‘) as f:
                volume_down = 0
                for chunk in r.iter_content(chunk_size=1048576*speed):
                        f.write(chunk)
                        volume_down = (volume_down + len(chunk))
         

评论

共有 条评论