python居然有情感？？真的吗？？

查看原文

其他

python居然有情感？？真的吗？？

原创 2017-03-25 大邓大邓带你玩python

请输入标题 bcdef

由于最近忙于直播，没有存下稿子，在这里大邓要向大家检讨道歉。但请大家放心，每天的更新我还会保持的，大家有什么内容上的建议可以后台回复我。

请输入标题 bcdef

文本分析是很有用的一个必须掌握的技能，写爬虫爬了那么多文本，我们如何分析呢？？

有很多种角度，比如提取出文章的主题内容，这用到LDA（Latent Dirichlet Allocation），LDA是一种文档主题生成模型。这个太难，其实大邓都没学会，但大邓会努力的，争取早日学会分享给大家。

还有一个角度就是分析文本的情绪，是积极还是消极。一般咱们爬的评论都可以用到这个角度的分析方法。情感分析是一很难的东西，就算是一句“我很开心”，你能知道说这句话的人是否真开心？还要分析这个人说话的语气，语调。

但是咱们今天抛开语调，语气，单纯从文本角度对一段段的评论进行分析。我们使用了很简单的词典进行分析，准确率不是特别高，但做做学术搞搞研究还是够用的。

请输入标题 abcdefg

一、原理

比如这么一句话：“这手机的画面极好，操作也比较流畅。不过拍照真的太烂了！系统也不好。”

1.1 情感词

要分析一句话是积极的还是消极的，最简单最基础的方法就是找出句子里面的情感词，积极的情感词比如：赞，好，顺手，华丽等，消极情感词比如：差，烂，坏，坑爹等。出现一个积极词就+1，出现一个消极词就-1。

里面就有“好”，“流畅”两个积极情感词，“烂”一个消极情感词。那它的情感分值就是1+1-1+1=2. 很明显这个分值是不合理的，下面一步步修改它。

请输入标题 abcdefg

请输入标题 bcdef

1.2 程度词
“好”，“流畅”和‘烂“前面都有一个程度修饰词。”极好“就比”较好“或者”好“的情感更强，”太烂“也比”有点烂“情感强得多。

所以需要在找到情感词后往前找一下有没有程度修饰，并给不同的程度一个权值。比如”极“，”无比“，”太“就要把情感分值*4，”较“，”还算“就情感分值*2，”只算“，”仅仅“这些就*0.5了。那么这句话的情感分值就是：4*1+1*2-1*4+1=3

1.3 感叹号
可以发现太烂了后面有感叹号，叹号意味着情感强烈。因此发现叹号可以为情感值+2. 那么这句话的情感分值就变成了：4*1+1*2-1*4-2+1 = 1

1.4否定词
明眼人一眼就看出最后面那个”好“并不是表示”好“，因为前面还有一个”不“字。所以在找到情感词的时候，需要往前找否定词。比如”不“，”不能“这些词。

而且还要数这些否定词出现的次数，如果是单数，情感分值就*-1，但如果是偶数，那情感就没有反转，还是*1。在这句话里面，可以看出”好“前面只有一个”不“，所以”好“的情感值应该反转，*-1。
因此这句话的准确情感分值是：4*1+1*2-1*4-2+1*-1 = -1

请输入标题 bcdef

1.5积极和消极分开来
再接下来，很明显就可以看出，这句话里面有褒有贬，不能用一个分值来表示它的情感倾向。而且这个权值的设置也会影响最终的情感分值，敏感度太高了。

因此对这句话的最终的正确的处理，是得出这句话的一个积极分值，一个消极分值（这样消极分值也是正数，无需使用负数了）。它们同时代表了这句话的情感倾向。所以这句评论应该是”积极分值：6，消极分值：7“

1.6以分句的情感为基础
再仔细一步，详细一点，一条评论的情感分值是由不同的分句加起来的，因此要得到一条评论的情感分值，就要先计算出评论中每个句子的情感分值。这条例子评论有四个分句，因此其结构如下（[积极分值, 消极分值]）：[[4, 0], [2, 0], [0, 6], [0, 1]]
以上就是使用情感词典来进行情感分析的主要流程了，算法的设计也会按照这个思路来实现。

二、算法设计

第一步：读取评论数据，对评论进行分句。

第二步：查找对分句的情感词，记录积极还是消极，以及位置。

第三步：往情感词前查找程度词，找到就停止搜寻。为程度词设权值，乘以情感值。

第四步：往情感词前查找否定词，找完全部否定词，若数量为奇数，乘以-1，若为偶数，乘以1。

第五步：判断分句结尾是否有感叹号，有叹号则往前寻找情感词，有则相应的情感值+2。

第六步：计算完一条评论所有分句的情感值，用数组（list）记录起来。

第七步：计算并记录所有评论的情感值。

第八步：通过分句计算每条评论的积极情感均值，消极情感均值，积极情感方差，消极情感方差。

请输入标题 bcdef

三、实战

这里是我参考已有代码，结合自己需要，对代码进行了简单的修改。本脚本运行环境是python3.5 ，使用2.x的盆友们见谅。