好湿?好紧?好多水好爽自慰,久久久噜久噜久久综合,成人做爰A片免费看黄冈,机机对机机30分钟无遮挡

主頁 > 知識庫 > python Requsets下載開源網站的代碼(帶索引 數據)

python Requsets下載開源網站的代碼(帶索引 數據)

熱門標簽:打印谷歌地圖標注 京華圖書館地圖標注 佛山通用400電話申請 看懂地圖標注方法 廣東旅游地圖標注 淮安呼叫中心外呼系統如何 電話外呼系統招商代理 電話機器人貸款詐騙 蘇州人工外呼系統軟件

環境搭建

python 3.x
requests 包
re 包
gooey包 (用于可視化)

代碼

import requests
import re
import os
from gooey import Gooey, GooeyParser
import time

s = requests.Session()

def judgeTypeOfPath(name):
    '''
    判斷該路徑是文件還是文件夾
      :param name: 路徑名稱
      :return:True->文件;False->文件夾
    '''
    if name[-1] == '/':
        return False
    else:
        return True


def makeDirOfPath(path):
    '''
    創建文件夾
    :param path: 文件夾名稱以及路徑
    :return: True->創建成功;False->創建失敗
    '''
    if not os.path.isdir(path):
        os.mkdir(path)
    if not os.path.isdir(path):
        return False
    return True

def getPath(url):
    '''
    獲取網頁路徑列表
    :param url: 當前網頁路徑
    :return: 路徑列表
    '''
    baseResponse = s.get(url=url, stream=True,verify=False).text
    listOfDirOrFilesTemp = re.findall(r'li>a href=".*?" rel="external nofollow" >', baseResponse)
    listOfDirOrFiles = []
    for i in range(len(listOfDirOrFilesTemp)):
        listOfDirOrFiles.append(listOfDirOrFilesTemp[i].split("\"")[1])
    return listOfDirOrFiles[1:len(listOfDirOrFiles) + 1]

def rfSearch(listOfPath,url, nowPath):
    '''
    遞歸尋找目錄、路徑,并下載文件
    :param listOfPath: 當前目錄下文件以及文件夾目錄列表
    :param nowPath: 現在所在路徑
    :return:
    '''
    newList = listOfPath[:]
    if not newList:
        return
    for i in range(len(newList)):
        if not judgeTypeOfPath(newList[i]):
            u = nowPath + newList[i][0:len(newList[i])]
            makeDirOfPath(u)
            tempPath=nowPath + newList[i][0:len(newList[i])+1]
            tempUrl=url+newList[i][0:len(newList[i])+1]
            u=getPath(tempUrl)
            rfSearch(u,tempUrl,tempPath)
        else:
            print(f'開始下載{newList[i]}...')
            t1=time.time()
            u = nowPath + newList[i]
            m=url+newList[i]
            if not os.path.exists(u):
                r = s.get(m, stream=True,verify=False)
                f = open(u, "wb")
                for chunk in r.iter_content(chunk_size=10240):
                    if chunk:
                        f.write(chunk)
                f.close()
            t2=time.time()
            print(f'{newList[i]}下載完成\t\t用時  {t2-t1}')

@Gooey(
    program_name='isric數據下載器',
    encoding="utf-8", )
def main():
    parser = GooeyParser(description="isric數據下載器")
    parser.add_argument('--url',default=r'https://files.isric.org/soilgrids/latest/data/')
    parser.add_argument('--path', widget="DirChooser", default=r'F:/isricData/')
    args = parser.parse_args()
    url=args.url
    nowPath = args.path
    u = getPath(url)
    rfSearch(u, url,nowPath)
###如果不需要可視化,則不用gooey,可以將上面部分替換如下
#@Gooey(
#    program_name='isric數據下載器',
#   encoding="utf-8", )
#上面三行刪除即可
###main函數替換成下面部分:
# def main():
#     url=r'https://files.isric.org/soilgrids/latest/data/'#在此處修改地址鏈接
#     nowPath = r'F:/isricData/'#在此處修改文件保存地址
#     u = getPath(url)
#     rfSearch(u, url,nowPath)

if __name__ == "__main__":
    main()

到此這篇關于python Requsets下載開源網站的代碼(帶索引 數據)的文章就介紹到這了,更多相關python Requsets下載內容請搜索腳本之家以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持腳本之家!

您可能感興趣的文章:
  • Python實現壁紙下載與輪換
  • Python 下載Bing壁紙的示例
  • python實現壁紙批量下載代碼實例
  • 編寫Python腳本批量下載DesktopNexus壁紙的教程
  • python批量下載壁紙的實現代碼
  • 用Python自動下載網站所有文件
  • python 制作網站小說下載器
  • python批量下載網站馬拉松照片的完整步驟
  • python抓取網站的圖片并下載到本地的方法
  • Python 批量下載陰陽師網站壁紙

標簽:衡水 駐馬店 湖州 江蘇 畢節 呼和浩特 中山 股票

巨人網絡通訊聲明:本文標題《python Requsets下載開源網站的代碼(帶索引 數據)》,本文關鍵詞  python,Requsets,下載,開源,;如發現本文內容存在版權問題,煩請提供相關信息告之我們,我們將及時溝通與處理。本站內容系統采集于網絡,涉及言論、版權與本站無關。
  • 相關文章
  • 下面列出與本文章《python Requsets下載開源網站的代碼(帶索引 數據)》相關的同類信息!
  • 本頁收集關于python Requsets下載開源網站的代碼(帶索引 數據)的相關信息資訊供網民參考!
  • 推薦文章
    主站蜘蛛池模板: 白嫩白嫩BBBBBBBBB| 国产精品亚洲精品爽爽| 久久er这里全是精品9| 午夜老湿机| 丝袜美腿美女| 一女被多男大3p视频| 男的操女的| 韩国做床爱无遮挡免费视频| 韩国都市怪谈| free×性chinese中国| 一区二区3区免费视频| 色94色欧美一区| 好紧好爽好湿好硬免费视频| 情侣大尺度激情做爰视频| 爽灬爽灬爽灬高潮无码视频直播| 精品久久久久久久| 68日本xxxxxxxxx视频图| 久久国产精品自线拍免费| 国产伦精品一区二区三区电影动画| 美女被男的操| 性猛交XXXX乱女少妇A片| 舌尖逗弄她粉嫩的蓓蕾| 顶级嫩模啪啪呻吟不断小说| 中文字幕无码一区二区三区一本久| 天堂免费在线视频| 永久免费AV片在线观看| 淫男乱女在线| 日本一级婬片A片AAA毛片男男 | 香港韩国三级日本三级| 色污软件| 善良的老师伦理BD中字| 翟凌囗交全套在线播放| 91久久精品| 啊轻点灬大ji巴太粗小说太男| 国产做爰XXXⅩ6699| 古装一级无遮挡A片| 美女被男生插| 色戒2小时38分未删除版观看汤唯| 色情乱婬一区二区三区在线播放| 我被老外添得太舒服了 | 亚洲三级在线免费观看|