查看原文
其他

Python 重新定义 2019 十大网络流行语

程序人生 2019-12-18

以下文章来源于凹凸玩数据 ,作者朱小五

作者 |  朱小五

本文经授权转载自凹凸玩数据(ID:alltodata)

12月1日,《咬文嚼字》编辑部以一首“顺口溜”发布2019年度十大流行语。“文明互鉴”、“区块链”、“硬核”、“融梗”、“××千万条,××第一条”、“柠檬精”、“996”、“我太难/南了”、“我不要你觉得,我要我觉得”、“霸凌主义”十条流行语入选。
微博评论下有很多网友纷纷表示,XXX为什么能上榜?XXX为什么没上榜?
这点呢,小五表示理解,毕竟采用不同的统计口径得出的结论可能不同。
那么,小五干脆也自己定义个统计口径,重新“定义”一下【2019十大网络流行语】
此处致敬一下重新定义的鼻祖——罗老师。


获取数据


通过搜索“网络流行语”,可以发现已经有网站帮我们做了整理。
利用Python爬虫可以获取该网站的2019年度所有网络流行语。
def main():
    data = []
    n = 1
    for i in range(4542,5589): 
        dic = {}
        url = 'https://www.lxybaike.com/index.php?doc-view-'+str(i)+'.html'
        print('已成功采集{}条数据'.format(n))
        html = restaurant(url)
        doc = pq(html)
        dic['tittle'] = doc('#doctitle').text()
        dic['num'] = doc('#doc-aside > div.columns.ctxx > ul > li:nth-child(1)').text()
        data.append(dic)
        time.sleep(random.random())
        n = n + 1
    return data  
爬取成功√
共929个词语。
我们在获取这些热门流行词的同时,也获取了他们的一些其他数据,比如浏览次数和出现时间。
但浏览次数很难作为评判这个词语是否热门的指标,毕竟大家又不是都来这个网站搜索,所以还是需要一个全网的数据才更准确一点。
一开始选择了百度指数,结果发现很多词语没有收录,需要付费。于是我就选用了搜狗指数!
将刚才爬取得到的929个网络流行语,可以根据下面式子来构造url。
urls'http://zhishu.sogou.com/index/searchHeat?kwdNamesStr='+str(name)+'&timePeriodType=YEAR&dataType=SEARCH_ALL'

再循环爬取依次得到他们的年度平均搜索指数。

成功得到2019年度网络热门流行词排行榜(凹凸玩数据版)!
其中标记绿色的词语为2018年末出现,在2019年开始流行,在统计时也列入列入2019流行语中。






2019网络热门流行词排行榜


根据上文得到的热门流行词排行榜,小五又搜集了一些网上的资料 ,利用PS来制作了十张流行词的解释图。
下面开始颁奖:

一千个人眼中就有一千个哈姆雷特。
相信每个人心里都有自己的一个流行语排行榜。
不知道小五重新定义的排行榜与你心中的相差多少?
相关爬虫源码已上传github:https://github.com/zpw1995/aotodata/tree/master/interest/popular
作者:朱小五,互联网公司数据分析师。热衷于Python爬虫,数据分析,可视化,个人公众号《凹凸玩数据》,有趣的不像个技术号~


Python系列学习成长课来了!15年经验专家、CSDN特级讲师亲自授课,立即免费报名学习:https://edu.csdn.net/huiyiCourse/detail/1124?preview=1
 热 文 推 荐 
刚毕业就被4家大厂争抢,最终拒绝300W的年薪,原因令人惊讶!
C、C++ 不得宠,微软正开发新的编程语言!
☞ 年终奖套路指南

图灵奖得主Bengio:深度学习不会被取代,我想让AI会推理、计划和想象

搞定面试算法系列 | 分治算法三步走

想开发智能合约?先 get 下这个适合所有人的模型驱动法!(文末有福利)

你点的每个“在看”,我都认真当成了喜欢

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存