Python递归下载网站文件夹及文件完整指南

木白

发布时间：2026-10-14 | 4人浏览过

原创

本文介绍如何使用Python的requests库递归下载网站根目录下的所有文件及文件夹。针对PHP下载限制，通过二级域名站实现自动化备份。代码包含判断链接类型、自动创建文件夹及递归处理逻辑，帮助开发者快速还原网站本地结构。

背景与需求分析

近期计划对网站进行备份，鉴于PHP环境下载文件存在大小限制，且为了避免安装FTP客户端的繁琐步骤，决定临时搭建一个二级域名站点，利用Python3的requests库直接下载网站根目录下的所有文件及文件夹。（0-0就是这么任性）

第一步：安装requests库

环境准备


pip install requests

第二步：实现下载文件夹下所有文件及文件夹的功能

代码核心在于处理文件夹逻辑。当判断链接指向文件夹时，程序会自动创建该文件夹并递归执行后续操作；若链接指向文件，则直接使用requests的get方法下载。具体实现见下方代码。

核心代码实现


####春江暮客 www.bobobk.com
import requests
import re
import os
import sys
def help(script):
 text = 'python3 %s https://www.bobobk.com ./' % script

 print(text)
def get_file(url,path):##文件下载函数
  content = requests.get(url)
  print("write %s in %s" % (url,path))
  filew = open(path+url.split("/")[-1],'wb')
  for chunk in content.iter_content(chunk_size=512 * 1024): 
    if chunk: # filter out keep-alive new chunks
      filew.write(chunk)
  filew.close()
def get_dir(url,path): #文件夹处理逻辑
  content = requests.get(url).text
  if "<title>Index of" in content:
    sub_url = re.findall('href="(.*?)" rel="external nofollow" ',content)
  
    print(sub_url)
    for i in sub_url:
      if "/" in i:
      
        i = i.split("/")[0]
        print(i)
        if i!="." and i!="..":
          
          if not os.direxists(path+i):
            os.mkdir(path+i)
         
          get_dir(url+"/"+i,path+i+"/")
          print("url:"+url+"/"+i+"\nurl_path:"+path+i+"/")
      else:
        get_file(url+"/"+i,path)
  else:
    get_file(url,path)
if __name__ == '__main__':
 if not sys.argv[1]:
 help(sys.argv[0])
 exit(0)
 else:
 get_dir(sys.argv[1],"./")

至此，本地目录已完全还原并下载了原网站的路径结构和所有文件。

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持本站。