python 文本单词提取和词频统计的实例文本单词提取和词频统计的实例
这些对文本的操作经常用到， 那我就总结一下。 陆续补充。。。
操作：操作：
strip_html(cls, text) 去除html标签
separate_words(cls, text, min_lenth=3) 文本提取
get_words_frequency(cls, words_list) 获取词频
源码：源码：
class DocProcess(object):
@classmethod
def strip_html(cls, text):
"""
Delete html tags in text.
text is String
"""
new_text = " "
is_html = False
for character in text:
if character == "<":
is_html = True
elif character == ">":
is_html = False
new_text += " "
elif is_html is False:
new_text += character
return new_text
@classmethod
def separate_words(cls, text, min_lenth=3):
"""
Separate text into words in list.
"""
splitter = re.compile("\W+")
return [s.lower() for s in splitter.split(text) if len(s) > min_lenth]
@classmethod
def get_words_frequency(cls, words_list):
"""
Get frequency of words in words_list.
return a dict.
"""
num_words = {}
for word in words_list:
num_words[word] = num_words.get(word, 0) + 1
return num_words
以上这篇python 文本单词提取和词频统计的实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多
多支持软件开发网。
您可能感兴趣的文章您可能感兴趣的文章:python实现统计汉字／英文单词数的正则表达式Python实现统计英文单词个数及字符串分割代码布同 统
计英文单词的个数的python代码Python统计纯文本文件中英文单词出现个数的方法总结【测试可用】Python3实现统计单词表
中每个字母出现频率的方法示例python实现字符串中字符分类及个数统计python 统计数组中元素出现次数并进行排序的实例
python统计字母、空格、数字等字符个数的实例Python实现统计英文文章词频的方法分析
资源评论
