查看原文
其他

软件应用丨附实战代码:告别OS模块,体验Python文件操作新姿势!

叶庭云 数据Seminar 2023-01-01

数据seminar每天18:00与您准时见面!


作者:叶庭云
CSDN:
https://yetingyun.blog.csdn.net/ 
转载自公众号早起Python


相比常用的 os.path而言,pathlib 对于目录路径的操作更简介也更贴近 Pythonic。但是它不单纯是为了简化操作,还有更大的用途。

pathlib 是Python内置库,Python 文档给它的定义是:The pathlib module – object-oriented filesystem paths(面向对象的文件系统路径)

pathlib 提供表示文件系统路径的类,其语义适用于不同的操作系统。

更多详细的内容可以参考官方文档:

https://docs.python.org/3/library/pathlib.html#methods

  一、Path 类的基本使用

下面是获取文件名、获取文件名除后缀的部分、获取文件后缀、返回一个iterable 包含所有父目录等常用操作示例

from pathlib import Path

path = r'D:\python\pycharm2020\program\pathlib模块的基本使用.py'
p = Path(path)
print(p.name)       # 获取文件名
print(p.stem)       # 获取文件名除后缀的部分
print(p.suffix)     # 获取文件后缀
print(p.parent)     # 相当于dirname
print(p.parent.parent.parent)
print(p.parents)    # 返回一个iterable 包含所有父目录
for i in p.parents:
    print(i)
print(p.parts)      # 将路径通过分隔符分割成一个元组

运行结果如下:

pathlib模块的基本使用.py
pathlib模块的基本使用
.py
D:\python\pycharm2020\program
D:\python
<WindowsPath.parents>
D:\python\pycharm2020\program
D:\python\pycharm2020
D:\python
D:\
('D:\\''python''pycharm2020''program''pathlib模块的基本使用.py')
  • Path.cwd()返回表示当前目录的路径对象
  • Path.home()返回表示用户主目录的路径对象
  • Path.expanduser()返回带有扩展的 ~user 构造的新路径
from pathlib import Path

path_1 = Path.cwd()       # 获取当前文件路径
path_2 = Path.home()
p1 = Path('~/pathlib模块的基本使用.py')
print(path_1)
print(path_2)
print(p1.expanduser())

运行结果如下:

D:\python\pycharm2020\program
C:\Users\Administrator
C:\Users\Administrator\pathlib模块的基本使用.py

Path.stat()返回一个操作系统统计结果包含有关此路径的信息的对象

from pathlib import Path
import datetime

p = Path('pathlib模块的基本使用.py')
print(p.stat())            # 获取文件详细信息
print(p.stat().st_size)    # 文件的字节大小
print(p.stat().st_ctime)   # 文件创建时间
print(p.stat().st_mtime)   # 上次修改文件的时间
creat_time = datetime.datetime.fromtimestamp(p.stat().st_ctime)
st_mtime = datetime.datetime.fromtimestamp(p.stat().st_mtime)
print(f'该文件创建时间:{creat_time}')
print(f'上次修改该文件的时间:{st_mtime}')

运行结果如下:

os.stat_result(st_mode=33206, st_ino=3659174698076635, st_dev=3730828260, st_nlink=1, st_uid=0, st_gid=0, st_size=543, st_atime=1597366826, st_mtime=1597366826, st_ctime=1597320585)
543
1597320585.7657475
1597366826.9711637
该文件创建时间:2020-08-13 20:09:45.765748
上次修改该文件的时间:2020-08-14 09:00:26.971164

从不同.stat().st_属性 返回的时间戳表示自1970年1月1日以来的秒数,可以用datetime.fromtimestamp将时间戳转换为有用的时间格式。

  • Path.exists()路径是否存在于现有文件或目录
  • Path.resolve(strict=False)将路径设为绝对路径,解析任何符号链接。返回一个新的路径对象
from pathlib import Path

p1 = Path('pathlib模块的基本使用.py')          # 文件
p2 = Path(r'D:\python\pycharm2020\program')   # 文件夹 
absolute_path = p1.resolve()
print(absolute_path)
print(Path('.').exists())
print(p1.exists(), p2.exists())
print(p1.is_file(), p2.is_file())
print(p1.is_dir(), p2.is_dir())
print(Path('/python').exists())
print(Path('non_existent_file').exists())

运行结果如下:

D:\python\pycharm2020\program\pathlib模块的基本使用.py
True
True True
True False
False True
True
False
  • Path.iterdir()当路径指向某个目录时,将生成该目录内容的path对象
from pathlib import Path

p = Path('/python')
# python目录下存在的文件
for child in p.iterdir():
    print(child)

运行结果如下:

\python\Anaconda
\python\EVCapture
\python\Evernote_6.21.3.2048.exe
\python\Notepad++
\python\pycharm-community-2020.1.3.exe
\python\pycharm2020
\python\pyecharts-assets-master
\python\pyecharts-gallery-master
\python\Sublime text 3
  • Path.glob(pattern)Glob此路径表示的目录中给定的相对模式,生成所有匹配的文件(任何类型),**模式表示递归地此目录和所有子目录。换句话说,它支持递归全局化。

  • Note 在大型目录树中使用 **模式可能会耗费大量时间

递归遍历该目录下所有文件,获取所有符合pattern的文件,返回一个generator。

下面是一些常用操作的代码,拿走就用

获取该文件目录下所有.py文件

from pathlib import Path

path = r'D:\python\pycharm2020\program'
p = Path(path)
file_name = p.glob('**/*.py')
print(type(file_name))   # <class 'generator'>
for i in file_name:
    print(i)

获取该文件目录下所有.jpg图片

from pathlib import Path

path = r'D:\python\pycharm2020\program'
p = Path(path)
file_name = p.glob('**/*.jpg')
print(type(file_name))   # <class 'generator'>
for i in file_name:
    print(i)

获取给定目录下所有.txt文件、.jpg图片和.py文件

from pathlib import Path

def get_files(patterns, path):
    all_files = []
    p = Path(path)
    for item in patterns:
        file_name = p.rglob(f'**/*{item}')
        all_files.extend(file_name)
    return all_files

path = input('>>>请输入文件路径:')
results = get_files(['.txt''.jpg''.py'], path)
print(results)
for file in results:
    print(file)

关于Path.mkdir(mode=0o777, parents=False, exist_ok=False) 的说明

  • 在给定的路径上创建一个新目录。如果指定了mode,它将与进程的umask值结合起来,以确定文件模式和访问标志。如果路径已存在,则引发FileExistsError。
  • 如果parents参数设置为True,则将根据需要创建此路径的任何缺少的父级;它们是使用默认权限创建的,而不考虑模式(模仿POSIX mkdir-p命令)。
  • 如果父项为False(默认值),则缺少父项将引发FileNotFoundError
  • 如果exist_ok为False(默认值),则在目标目录已存在的情况下引发FileExistsError
  • 如果exist_ok为True,则将忽略 FileExistsError 异常(与POSIX mkdir-p命令的行为相同),但仅当最后一个路径组件不是现有的非目录文件时。

在版本3.5中更改:添加了exist_ok参数。

Path.rmdir():删除此目录,目录必须为空。

from pathlib import Path

p = Path(r'D:\python\pycharm2020\program\test')
p.mkdir()
p.rmdir()
from pathlib import Path

p = Path(r'D:\python\test1\test2\test3')
p.mkdir(parents=True)  # If parents is true, any missing parents of this path are created as needed
p.rmdir()    # 删除的是test3文件夹
from pathlib import Path

p = Path(r'D:\python\test1\test2\test3')
p.mkdir(exist_ok=True)
  • Path.unlink()(missing_ok=False):删除此文件或符号链接。如果路径指向目录,请使用Path.rmdir()代替。如果missing_ok为False(默认值),则在路径不存在的情况下引发FileNotFoundError。如果missing_ok为true,则将忽略FileNotFoundError异常。在版本3.8中更改:添加了缺少的“确定”参数。
  • Path.rename()(target):将此文件或目录重命名为给定目标,并返回指向目标的新路径实例。在Unix上,如果目标存在并且是一个文件,如果用户有权限,它将被无提示地替换。目标可以是字符串或其他路径对象。
  • Path.open(mode='r', buffering=-1, encoding=None, errors=None, newline=None):打开路径指向的文件,就像内置的 open() 函数一样。
from pathlib import Path

p = Path('foo.txt')
p.open(mode='w').write('some text')
target = Path('new_foo.txt')
p.rename(target)
content = target.open(mode='r').read()
print(content)
target.unlink()

  二、与os模块用法的对比



  三、实战案例

对于多层文件夹的读取,用os模块只能一层一层读取出文件,要写多个for循环,效率不高,这时我们可以用 Path.glob(**/*) 大法,下面以一个实际案例来体验它的强大。

用于测试的文件夹如下:

md文件中数据如下:

需要实现将该目录下所有 md 文件的数据提取出来,并进行清洗,然后写入 csv 文件中

# -*- coding: UTF-8 -*-
"""
@File    :pathlib读取多层目录数据.py
@Author  :叶庭云
@CSDN    :https://yetingyun.blog.csdn.net/
"""

from pathlib import Path
import re
import pandas as pd


# 传入路径
p = Path(r'.\微博热搜数据\热搜数据/')
# 得到该文件目录下所有 .md文件
file_list = list(p.glob('**/*.md'))
print(f'读取md文件数量:{len(file_list)}')
for item in file_list:
 print(item)

# 每天有两条热搜汇总  11点  23点  会有重合数据  去重
filelist = list(filter(lambda x: str(x).find('23点') >= 0, file_list))
sum_list = []

i = 0
for file in filelist:
 # 遍历出每一个md文件   读取数据
 with file.open(encoding='utf-8'as f:
  lines = f.readlines()
 lines = [i.strip() for i in lines]   # 去除空字符
 data = list(filter(None, lines))     # 去除掉列表中的空子串
 data = data[1:101]
 con = data[::2]     # 热搜内容
 rank = data[1::2]   # 热度
 date = re.findall('年(.+)2', str(file)) * len(con)
 for m in range(len(con)):
  con[m] = con[m].split('、')[-1]   # 字符串操作
 for n in range(len(rank)):
  rank[n] = re.findall(r'\d+', rank[n])[0]
 con_dic = {'日期': date, '热搜内容': con, '热度': rank}
 df = pd.DataFrame(con_dic)
 if i == 0:
  df.to_csv('weibo1.csv', mode='a+', index=False, header=True)
 else:
  df.to_csv('weibo1.csv', mode='a+', index=False, header=False)
 # 每个md文件中有50条数据
 i += 50

print('共{}条数据写入csv'.format(i))

运行效果如下:

可以看到成功将该目录下所有 md 文件的数据提取出来,并进行清洗,然后写入了 csv 文件中。

-END-





点击阅读原文进入CCAD数据库

长按识别,添加小客服企业微信~



·END·


星标⭐我们不迷路!

想要文章及时到,文末“在看”少不了!


点击搜索你感兴趣的内容吧


往期推荐


机器学习丨一文看懂贝叶斯定理及应用

启研报告 | 从材料到制造,哪一地区拥有我国最大新能源汽车产业集群?

机器学习丨七个关键因素:如何选择出最佳机器学习算法?

数字治理丨在“十四五”规划建议中的体现

统计计量丨统计学习圣经!经典教材《统计学习导论》Python版

机器学习丨一文读懂可解释机器学习简史,让你的模型再也不是“Black Box”

推荐 | 数据资产确权浅议







数据Seminar




这里是大数据、分析技术与学术研究的三叉路口



文丨早起Python

推荐丨青酱


    欢迎扫描👇二维码添加关注    

点击下方“阅读全文”查看涉农相关数据

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存