这是我们老师的作业 代码中都有注释

要求

词频统计软件：
1）从文本中读入数据：（文件的输入输出）
2）不区分大小写,去除特殊字符。
3） 统计单词 例如：about ：10 并统计总共多少单词
4）对单词排序。出现次数
5）输出词频最高的10个单词和次数
6）把统计结果存入文本

1.文件的读取，区分大小写，去除特殊字符

import re

def getword():
     # 读取文件
     f=open('read.txt','r',encoding='utf-8')
     # 将大写转化成小写
     word=f.read().lower()
     # 关闭文件
     f.close()
     #利用正则除去特殊字符   |\符+
     list=re.split('\s+|\,+|\.+|\!+|\:+|\?+|\;+|\(+|\)+|\-+|\_+|\=+|\++|\“+|\、+|\/+|\{+|\}+|\”+|\：+|\。+|\“+|\[+|\]+|\【+|\】+|\—+|\%+|\"+',word)
     # 遍历列表 去除列表中的空格
     i = 0
     while i < len(list):
          if list[i] == '':
               list.remove(list[i])
               i -= 1
          i += 1

     # for a in list:
     #      if a == "":
     #         list.remove(a)
    #用for循环的话如果存在多个空字符串 其列表会随时发生变化，导致无法正常删除空字符串 所以在使用for…in循环遍历列表时，最好不要对元素进行增删操作

#  对于others'优化 如果最后一个字符是‘就将’其去掉
     for i in range(len(list)):
          l=list[i]
          if list[i][-1] == "'":
               list[i] = list[i][:-1]
     return list

2. 统计，排序

from getfilewords import getword

def statistics():
    dict={}  #定义一个空的字典，在后面的运算中逐步添加数据
    words=getword()
    for word in words: #遍历整个列表
        if word in dict.keys():  #判断当前单词是否已经存在 dict.keys()是已存进字典中的单词
            # 补充：keys() 方法用于返回字典中的所有键；
            # values() 方法用于返回字典中所有键对应的值；
            #详情见Test1
            dict[word]=dict[word]+1  #在当前单词的个数上加 1
        else:
            dict[word]=1  #当前单词第一次出现时 会把单词写入dict字典里 格式为 ‘单词’=1
#排序
    w_order=sorted(dict.items(),key=lambda x:x[1],reverse=True)
# print(dict.items())
# dict.items()返回的是列表
# 按字典集合中，每一个元组的第二个元素排列。
# sorted会对dict.items()这个list进行遍历，把list中的每一个元素，也就是每一个tuple()当做x传入匿名函数lambda x：x[1],函数返回值为x[1]
# reverse属性True为降序 False为升序
    return w_order #返回排序后的列表

3.结果写入文本

from WordStatistics import statistics
def writefile():
    w_order=statistics()
    f = open('result.txt', 'w',encoding='utf-8')
    print("文章单词总个数:",+len(getword()),file=f)
    print("文章单词总个数:", +len(getword()))

    # 写入文件
    print("词频最高的10个单词和次数",file=f)
    print("词频最高的10个单词和次数")

    w_order10=w_order[:10]#将列表的前十位提取并且遍历 输出key(单词)和values(次数)
    for key,values in w_order10:
        print(key,':',values,file=f)
        print(key, ':', values)

    #遍历列表中的所有数据
    print("统计结果",file=f)
    for key,values in w_order:
        print(key,':',values,file=f)
    f.close()#关闭文件

4.程序入口

import os

from writefile import writefile

print("词频统计软件")
print("正在统计中。。。")
print("统计成功，结果保存到result.txt")
writefile()
print("程序运行结束")
os.system("pause")

5.运行截图

这是需要统计的文本

运行程序

 运行结果

 最后成功实现！

本文介绍一种快速生成关键词-词频统计-词云生成的办法，作为Python数据分析初级技能，除基本运行环境外无需其他软件或工具，且流程搭建成功后可重复利用，可极大提升相似事务的处理效率。

一、操作环境

1.1 搭建Python运行环境，如尚未搭建建议下载安装Anaconda，并搭配Jupyter Notebook作为IDE

1.2 需加载pandas，jieba, pyecharts等常用包，直接输入pip install+包名称可能会很慢，建议搜索豆瓣镜像文件快速安装

1.3 数据源可以是现有文件或通过爬虫手段获取，需保证有足够的数据量

二、原始数据获取

本文以京东商城热销的"iphone 13"机型为例，从购买者发布的文字评论中提取关键词进行统计，所以原始数据即评论原文。通过爬虫手段获取最近1000条评论，并保存至本地csv文件，以下为字段预览：

三、Pandas读取文件

3.1 导入本次所需要用到的包:

import pandas as pd
import jieba
import pyecharts.options as opts
from pyecharts.charts import WordCloud

读取csv文件：

data = pd.read_csv(r'(文件路径).csv')
data.head()

 成功读取数据：

查看评论数据是否异常：

data['评价内容'].describe()

一共1000条评论，没有重复（文字重复有极大的刷单嫌疑）

pandas能够用data[字段名]的方法选中特定字段，也可以通过loc[]选中特定行，比如[商品评价]字段中第1行数据：

data['评价内容'].loc[0] #0代表第1行数据

有了这个核心功能，才能在后面用循环语句把一个个支离破碎的单词放在一个列表里进行词频统计

四、分词

Jieba是目前最流行的中文分词组件，比如一句很常见的话：

“我是一个热爱祖国的中国人”

通过jieba可以根据中文语义把句子切分并提取出可作为关键词的单词：

jieba.lcut('我是一个热爱祖国的中国人')

Output[]: ['我', '是', '一个', '热爱祖国', '的', '中国', '人'] 

有了这样的关键词列表，后续做词频统计会更加方便

五、获取词频

5.1 获取全部的关键词列表

       由于[商品评论]一共有1000行（本例子算少的），需要用jieba.lcut对每一行的评论原文都进行分词，因此使用for循环语句，并且用List的extend功能获取完整的关键词List:

review_all = [] #先做一个空List，用来装下所有关键词
for i in range(999): #已知一共1000条数据
    review = jieba.lcut(data['评价内容'].loc[i])
    review_all.extend(review)
review_all

Output[]:

['iPhone13',
 '手机',
 '收到',
 '了',
 '，',
 '粉色',
 '也',
 '太',
 '好看',
 '了',
'吧',

...]

5.2 对关键词总表进行单词词频统计

首先指定一份“非关键词”名单，比如逗号","可能出现的频次很高，但很明显，这不是我们需要的，可以用一个excludes表列出这类不需要的名单：

excludes = {"，","：","“","。","”","、","；"," ","！","？","　","\n", "iphone13", "13", "12"}

利用遍历对关键词出现次数做累计，并输出频次前100的关键词：

counts= {}
cloud_data = []
excludes = {"，","：","“","。","”","、","；"," ","！","？","　","\n", "iphone13", "13", "12"}
for word in review_all:
    if len(word) == 1: #不使用单字作为关键词
        continue
    elif word in excludes:
        continue
    else:
        rword = word
    counts[rword] = counts.get(rword, 0) + 1

items = list(counts.items())
items.sort(key=lambda x:x[1],reverse = True)
for i in range(100):
    word, count = items[i]
    cloud_data.extend([word, count])
cloud_data

Output[]:

['拍照',
 930,
 '效果',
 844,
 '速度',
 839,
 '运行',
 792,
 '屏幕',
 758,
 '外观',
 731,
 '音效',
 631,
...]

六、生成词云

  做词云图的方法有很多，这里推荐使用Pyecharts自带的WordCloud包，在Jupyter

Notebook可以直接输出动态html在页面上，可以灵活调整各项参数（参考官网说明书）。唯一的问题在于，上文我们得到的是一个包含关键词和频次的List，而Pyecharts词云如果要将列表作为参数直接使用，需要元组数据，即[(“关键词”:频次)]结构，因此需要多一步操作，可以使用for循环解决：

L = [] #做一个新的空List用来装下我们要用的元组
for i in range(199): #由于我们取Top100关键词+频次，所以一共是200个元素
    if i % 2 == 0:#偶数位[i]是我们需要的关键词,[i+1]即对应的频次
        a = cloud_data[i]
        b = cloud_data[i+1]
        tuple_x = tuple([cloud_data[i],cloud_data[i+1]])#List转元组
        L.append(tuple_x) #这里不能用extend,只能用append
L

Output[]:

[('拍照', 930),
 ('效果', 844),
 ('速度', 839),
 ('运行', 792),
 ('屏幕', 758),
 ('外观', 731),
 ('音效', 631),
 ('非常', 625),
 ('外形', 593),
 ('手机', 531),
 ('待机时间', 502),
 ('不错', 441),
 ('苹果', 395),
 ('好看', 365),
 ('流畅', 353),
 ('喜欢', 318),
...]

 然后将L这个元组列表传到WordCloud()生成云图：

c = (
    WordCloud()
    .add("", L, word_gap = 0, word_size_range=[10, 50], mask_image = r'(自定义图片路径)', rotate_step = 90, width = 2000, height = 2000, is_draw_out_of_bound = False)
    .set_global_opts(title_opts=opts.TitleOpts(title=""), 
                    )
)
c.render_notebook()

Output: 

公众号水印是本人的，非转载，部分代码片段参考网友的，循环以及List转tuple那段是自己手撕出来的，并尽可能说明原理，希望对初学者有帮助。 

用python实现词频统计

词频统计就是输入一段句子或者一篇文章，然后统计句子中每个单词出现的次数。

那么，这个在python中其实是很好实现的，下面我们来看看具体是怎样实现的，里面又用到了哪些知识呢？

输入一段话，统计每个字母出现的次数

先来讲一下思路：

例如给出下面这样一句话

Love is more than a word
it says so much.
When I see these four letters,
I almost feel your touch.
This is only happened since
I fell in love with you.
Why this word does this,
I haven’t got a clue.

那么想要统计里面每一个单词出现的次数，思路很简单，遍历一遍这个字符串，再定义一个空字典count_dict，看每一个单词在这个用于统计的空字典count_dict中的key中存在否，不存在则将这个单词当做count_dict的键加入字典内，然后值就为1，若这个单词在count_dict里面已经存在，那就将它对应的键的值+1就行

下面来看代码：

#定义字符串
sentences = """           # 字符串很长时用三个引号
Love is more than a word
it says so much.
When I see these four letters,
I almost feel your touch.
This is only happened since
I fell in love with you.
Why this word does this,
I haven't got a clue.
"""
#具体实现
#  将句子里面的逗号去掉,去掉多种符号时请用循环，这里我就这样吧
sentences=sentences.replace(',','')   
sentences=sentences.replace('.','')   #  将句子里面的.去掉
sentences = sentences.split()         # 将句子分开为单个的单词，分开后产生的是一个列表sentences
# print(sentences)
count_dict = {}
for sentence in sentences:
    if sentence not in count_dict:    # 判断是否不在统计的字典中
        count_dict[sentence] = 1
    else:                              # 判断是否不在统计的字典中
        count_dict[sentence] += 1
for key,value in count_dict.items():
    print(f"{key}出现了{value}次")

输出结果是这样：

怎么样，大家get到了吗？赶紧试试

如果对你有帮助，不要忘记点赞评论关注加收藏哦！