查看原文
其他

CheatSheet | Python文本数据处理速查表

大邓 大邓和他的Python
2024-09-09

对于需要清洗、处理和分析文本数据的Python用户来说,本文是您处理文本数据的终极资源。该速查表提供了Python常用的处理文本数据的函数和库,以及详细的示例和解释。

您可以在速查表中找到的一些示例,包括:

  • 获取字符串长度和子字符串
  • 将文本转换为小写或大写的方法
  • 拆分或连接文本的技术

无论您是初学者还是经验丰富的Python程序员,我们都希望在处理文本数据时,该速查表能帮助到您。


实验数据

suitsrock_paper_scissors 是本文的两个 pd.Series 类型数据,存储着相应的文本信息。

import pandas as pd

suits = pd.Series(["clubs""Diamonds""hearts rate""Spades"])
rock_paper_scissors = pd.Series(["rock "" paper""scissors"])

print(suits)
print('=============')
print(rock_paper_scissors)

Run

0       clubs
1    Diamonds
2 hearts rate
3      Spades
dtype: object

=============

0       rock 
1       paper
2    scissors
dtype: object

长度、切片

# 使用 .str.len() 获取 suits 中每个字符串的长度 
suits.str.len() # Returns 5 8 11 6

# 切片; 使用 .str[] 提取每个字符串索引值为 2、3、4 位置的字符
suits.str[2:5# Returns "ubs" "amo" "art" "ade"

# 切片
suits.str[:-3# "cl" "Diamo" "hearts r" "Spa

# 使用 .str.strip() 剔除rock_paper_scissors字符串中的空格
rock_paper_scissors.str.strip() # "rock" "paper" "scissors"

# 使用 .str.pad() 将原字符串填充为长度为 8 的字符串, 空余位置使用 _ 填充
suits.str.pad(8, fillchar="_"# "___clubs" "Diamonds" "hearts rate" "__Spades"

大小写转换

# 使用 .str.lower() 将suits 中的字符串变为小写
suits.str.lower() # "clubs" "diamonds" "hearts rate" "spades"

# 使用 .str.upper() 将suits 中的字符串变为大写
suits.str.upper() # "CLUBS" "DIAMONDS" "HEARTS RATE" "SPADES"

# 使用 .str.capitalize() 将 suits 中的每个字符串首字符变大写
Convert to sentence case with .str.capitalize() "Clubs" "Diamonds" "Hearts rate" "Spades"

# 使用 .str.title() 将 suits 中的每个字符串,每个单词首字符变大写
suits.str.title() # "Clubs" "Diamonds" "Hearts Rate" "Spades"

Format格式化

# 创建df
df = pd.DataFrame({"x": [0.1234.5678.901]})
#    x
#  0 0.123
#  1 4.567
#  2 8.901

# 精确到小数点一位输出
df.style.format(precision = 1)
#     x
#  0 0.1
#  1 4.5
#  2 8.9

分割字符串

# 使用 .str.split(pat="") 分割 suits 中的每个字符串,结果为pd.Series类型数据
suits.str.split(pat="")

# [, "c" "l" "u" "b" "s", ]
# [, "D" "i" "a" "m" "o" "n" "d" "s", ]
# [, h, e, a, r, t, s,  , r, a, t, e, ]
# [, "S" "p" "a" "d" "e" "s", ]


# 使用.str.split(pat = "a") 分割 suits, 结果为pd.Series类型数据
suits.str.split(pat = "a")

# ["clubs"]
# ["Di", "monds"]
# [he, rts r, te]
# ["Sp", "des"]


# 使用 .str.split(expand=True) 分割 suits, 结果为pd.DataFrame类型数据
suits.str.split(pat = "a", expand=True)

#        0      1     2
# 0  clubs   None   None
# 1     Di  monds   None
# 2     he  rts r     te
# 3     Sp    des   None

拼接

# suits 中每个字符串拼接字符 
suits + "5" # "clubs5" "Diamonds5" "hearts rate5" "Spades5"

# 使用.str.cat() 将字符向量折叠为字符串, 间隔符为 ","
suits.str.cat(sep=", "# "clubs, Diamonds, hearts rate, Spades"

# 使用 * 复制字符串
suits * 2 # "clubsclubs" "DiamondsDiamonds" "hearts ratehearts rate" "SpadesSpades"

识别匹配

正则表达式模式

# Detect if a regex pattern is present in strings with .str.contains()
# 使用 .str.contains() 检测字符串中是否存在 “a或e中的任意字符”
suits.str.contains("[ae]"# False True True True

# 使用.str.Count() 计算匹配数
suits.str.count("[ae]"# 0 1 4 2

# 使用 str.find() 查找子字符串的位置
suits.str.find("e"# -1 -1 1 4

提取匹配

正则表达式模式

# 使用str.findall() 从字符串中提取所有的匹配项, 结果为元素为list的 pd.Series
suits.str.findall(".[ae]"# [] ["ia"] ["he", "ra", "te"] ["pa", "de"]


# 使用 .str.extractall() 从字符串中提取所有的匹配项,结果为 pd.DataFrame
suits.str.extractall("([ae])(.)")
#            0 1
#   match
# 1 0        a m
# 2 0        e a
#   1        a t
# 3 0        a d
#   1        e s


# 使用布尔索引选取含 d 的数据
# Get subset of strings that match with x[x.str.contains()]
suits[suits.str.contains("d")] # "Diamonds" "Spades"

替换

# 用 .str.replace() 将正则表达式匹配项替换为另一个字符串
suits.str.replace("a""4"# "clubs" "Di4monds" "he4rts r4te" "Sp4des"

# 用.str.slice_replace() 替换子字符串
rhymes = pd.Series(["vein""gain""deign"])
rhymes.str.slice_replace(01"r"# "rein" "rain" "reign"



精选文章

管理世界 | 使用文本分析词构建并测量短视主义

管理世界 | 使用 「经营讨论与分析」 测量 「企业数字化指标」

支持开票 | Python实证指标构建与文本分析

使用R语言绘制文本数据情感历时趋势图

NiceGUI库 | 简单易懂的Web GUI开发包;可开发数据标注工具、心理学实验工具等

金融研究 | 文本相似度计算与可视化

金融研究 | 使用Python构建「关键审计事项信息含量」

视频分享 | 文本分析在经管研究中的应用

转载 | 金融学文本大数据挖掘方法与研究进展

文本分析 | 「MD&A信息含量」指标构建代码实现

可视化 | 绘制《三体》人物关系网络图

长期征稿 | 欢迎各位前来投稿

17G数据集 | 深交所企业社会责任报告

70G数据集 | 上市公司定期报告数据集

27G数据集 | 使用Python对27G招股说明书进行文本分析

数据集 | 585w企业工商注册信息

数据集 | 90w条中国上市「公司高管数据

可视化 | 绘制《三体》人物关系网络图

MS | 使用网络算法识别『创新的颠覆性与否

认知的测量 | 向量距离vs语义投影

Asent库 | 英文文本数据情感分析

PNAS | 文本网络分析&文化桥梁Python代码实现

PNAS | 使用语义距离测量一个人的「创新力(发散思维)得分

tomotopy | 速度最快的LDA主题模型

100min视频 | Python文本分析与会计

安装python包出现报错:Microsoft Visual 14.0 or greater is required. 怎么办?

如何正确读入文本数据不乱码(解决文本乱码问题)

Faker库 | 生成实验数据

继续滑动看下一个
大邓和他的Python
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存