如何利用python实现词频统计功能

 更新时间:2021年10月17日 16:00:12   作者:周鱼仔  
词频统计用途很广泛,比如我们统计某篇文章中的用词频率,网络热点词汇,再比如起名排行榜呀、热门旅游景点排行榜呀什么的,其实也都可以套用,这篇文章主要给大家介绍了关于如何利用python实现词频统计功能的相关资料,需要的朋友可以参考下

功能要求

这是我们老师的作业 代码中都有注释 要求 词频统计软件:

1)从文本中读入数据:(文件的输入输出)

2)不区分大小写,去除特殊字符。

3) 统计单词 例如:about :10 并统计总共多少单词

4)对单词排序。出现次数

5)输出词频最高的10个单词和次数

6)把统计结果存入文本

方法如下

1.文件的读取,区分大小写,去除特殊字符

import re
 
def getword():
     # 读取文件
     f=open('read.txt','r',encoding='utf-8')
     # 将大写转化成小写
     word=f.read().lower()
     # 关闭文件
     f.close()
     #利用正则除去特殊字符   |\符+
     list=re.split('\s+|\,+|\.+|\!+|\:+|\?+|\;+|\(+|\)+|\-+|\_+|\=+|\++|\“+|\、+|\/+|\{+|\}+|\”+|\:+|\。+|\“+|\[+|\]+|\【+|\】+|\—+|\%+|\"+',word)
     # 遍历列表 去除列表中的空格
     i = 0
     while i < len(list):
          if list[i] == '':
               list.remove(list[i])
               i -= 1
          i += 1
 
     # for a in list:
     #      if a == "":
     #         list.remove(a)
    #用for循环的话如果存在多个空字符串 其列表会随时发生变化,导致无法正常删除空字符串 所以在使用for…in循环遍历列表时,最好不要对元素进行增删操作
 
#  对于others'优化 如果最后一个字符是‘就将'其去掉
     for i in range(len(list)):
          l=list[i]
          if list[i][-1] == "'":
               list[i] = list[i][:-1]
     return list
 
 
 
 
 

2. 统计,排序

from getfilewords import getword
 
def statistics():
    dict={}  #定义一个空的字典,在后面的运算中逐步添加数据
    words=getword()
    for word in words: #遍历整个列表
        if word in dict.keys():  #判断当前单词是否已经存在 dict.keys()是已存进字典中的单词
            # 补充:keys() 方法用于返回字典中的所有键;
            # values() 方法用于返回字典中所有键对应的值;
            #详情见Test1
            dict[word]=dict[word]+1  #在当前单词的个数上加 1
        else:
            dict[word]=1  #当前单词第一次出现时 会把单词写入dict字典里 格式为 ‘单词'=1
#排序
    w_order=sorted(dict.items(),key=lambda x:x[1],reverse=True)
# print(dict.items())
# dict.items()返回的是列表
# 按字典集合中,每一个元组的第二个元素排列。
# sorted会对dict.items()这个list进行遍历,把list中的每一个元素,也就是每一个tuple()当做x传入匿名函数lambda x:x[1],函数返回值为x[1]
# reverse属性True为降序 False为升序
    return w_order #返回排序后的列表

3.结果写入文本

from WordStatistics import statistics
def writefile():
    w_order=statistics()
    f = open('result.txt', 'w',encoding='utf-8')
    print("文章单词总个数:",+len(getword()),file=f)
    print("文章单词总个数:", +len(getword()))
 
    # 写入文件
    print("词频最高的10个单词和次数",file=f)
    print("词频最高的10个单词和次数")
 
    w_order10=w_order[:10]#将列表的前十位提取并且遍历 输出key(单词)和values(次数)
    for key,values in w_order10:
        print(key,':',values,file=f)
        print(key, ':', values)
 
    #遍历列表中的所有数据
    print("统计结果",file=f)
    for key,values in w_order:
        print(key,':',values,file=f)
    f.close()#关闭文件

4.程序入口

import os
 
from writefile import writefile
 
print("词频统计软件")
print("正在统计中。。。")
print("统计成功,结果保存到result.txt")
writefile()
print("程序运行结束")
os.system("pause")

5.运行截图 这是需要统计的文本

运行程序

运行结果

总结

到此这篇关于如何利用python实现词频统计功能的文章就介绍到这了,更多相关python实现词频统计内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • python3 sleep 延时秒 毫秒实例

    python3 sleep 延时秒 毫秒实例

    这篇文章主要介绍了python3 sleep 延时秒 毫秒实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-05-05
  • Python Tornado 实现SSE服务端主动推送方案

    Python Tornado 实现SSE服务端主动推送方案

    SSE是Server-Sent Events 的简称,是一种服务器端到客户端(浏览器)的单项消息推送,本文主要探索两个方面的实践一个是客户端发送请求,服务端的返回是分多次进行传输的,直到传输完成,这种情况下请求结束后,考虑关闭SSE,所以这种连接可以认为是暂时的,感兴趣的朋友一起看看吧
    2024-01-01
  • python爬虫数据保存到mongoDB的实例方法

    python爬虫数据保存到mongoDB的实例方法

    在本篇文章里小编给大家整理的是一篇关于python爬虫数据保存到mongoDB的实例方法,有需要的朋友们可以参考下。
    2020-07-07
  • 浅谈一下Python究竟属不属于嵌入式语言

    浅谈一下Python究竟属不属于嵌入式语言

    这篇文章主要介绍了浅谈一下Python究竟属不属于嵌入式语言,大家普遍的认为C与C++才是标准的嵌入式语言,那么现在大火的Python算是一种嵌入式语言吗,需要的朋友可以参考下
    2023-04-04
  • windows下的pycharm安装及其设置中文菜单

    windows下的pycharm安装及其设置中文菜单

    这篇文章主要介绍了windows下的pycharm安装及其设置中文菜单,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-04-04
  • Pycharm+Python+PyQt5使用详解

    Pycharm+Python+PyQt5使用详解

    这篇文章主要介绍了Pycharm+Python+PyQt5使用详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-09-09
  • Python利用Prim算法生成迷宫

    Python利用Prim算法生成迷宫

    普里姆算法(Prim算法),图论中的一种算法,可在加权连通图里搜索最小生成树。这篇文章将利用Prim算法实现迷宫的生成,感兴趣的可以了解一下
    2023-01-01
  • python实现支付宝转账接口

    python实现支付宝转账接口

    这篇文章主要为大家详细介绍了python实现支付宝转账接口,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-05-05
  • 用Python编写分析Python程序性能的工具的教程

    用Python编写分析Python程序性能的工具的教程

    这篇文章主要介绍了用Python编写分析Python程序性能的工具教程,包括了对内存泄漏等常见问题的检测方法,需要的朋友可以参考下
    2015-04-04
  • Python面向对象总结及类与正则表达式详解

    Python面向对象总结及类与正则表达式详解

    Python中的类提供了面向对象编程的所有基本功能:类的继承机制允许多个基类,派生类可以覆盖基类中的任何方法,方法中可以调用基类中的同名方法。这篇文章主要介绍了Python面向对象总结及类与正则表达式 ,需要的朋友可以参考下
    2019-04-04

最新评论