查看原文
其他

模型调参:压力也没那么大,试了一圈还是得靠贝叶斯

2017-11-03 保持专注的 大数据文摘

  

YouTube网红小哥Siraj Raval的趣味小视频系列The Math of Intelligence又来啦!这期我们来讲一讲机器学习建模中最痛苦的部分——“超参数调优”。


超参数调优方法我们试了个遍,人工搜索、网格搜索、随机搜索……但最后发现:有了贝叶斯,压力其实也没那么大

图片来自网络


“超参数”是指模型里的那些预先设定的、无法直接从模型训练中得到的参数。随机森林树木的个数、神经网络隐藏层的个数、逻辑回归的学习率,这些都是超参数。调好超参数,模型会有意外好的表现。


视频内含超多笑点,文摘菌先来预告几个,下拉观看完整视频哟!


笑点预告1:今天我们用SVM来分类一句Twitter的语气是正向的还是负向的,这叫做情感分析▼

星球大战Darth Vader:I am your father,内心戏多不外露,分析不出来能怪我?


笑点预告2:搜索参数啊搜索参数……你们找着找着就会遇到这个诅咒▼

维度超多!完全搜不过来!超开心!


笑点预告3:一定有更好的方法对不对!我们要充分发挥我们的聪明才智▼


而不是成为压力也没那么大的28岁互联网公司程序员对不对!


笑点预告4:终于,我们要和贝叶斯老爷见面了。我们先让频率学派和贝叶斯学派打一架

贝叶斯学派认为样本数据是确定的而参数是随机的,频率学派则相反,认为参数是确定的而样本是随机的。在超参数调优中,贝叶斯方法更占优势。


为什么试了一圈还是得靠贝叶斯?赶紧戳开视频了解吧!


▼小哥告诉你,为什么贝爷才是真爱?

https://v.qq.com/txp/iframe/player.html?vid=r0547y3dlch&width=500&height=375&auto=0
↑视频时长9分钟↑


原视频地址 https://www.youtube.com/watch?v=ttE0F7fghfk&list=PL2-dafEMk2A7mu0bSksCGMJEmeddU_H4D&index=13


总结:有好几种超参数调优方式,我们更倾向于用贝叶斯优化▼


贝叶斯方法采用一个先验信念(prior belief),在训练模型时会不断改进先验信念,让先验信念影响预测,所以我们爱它


-The End-



重磅课程译制组招募中

大数据文摘经授权汉化的斯坦福CS231n和牛津DeepNLP已有6万+人学习!近期我们将开启新一轮国外精品AI课程译制,期待你的加入!戳文末阅读原文,即可加入我们!


我们希望你


  • 具备一定机器学习理论知识和较高的英语水平,对数据科学/人工智能国外精品课程感兴趣

  • 有时间、有责任心、乐于分享


你可以获得


  • 第一时间接触独家授权视频等学习资料。

  • 视频发布时会署上各位志愿者的名字和贡献。

  • 有范儿有料科技大会的免费、优惠门票。

  • 优质公司和岗位的内推机会。

  • 和志同道合的小伙伴一起成长的机会。


    本期工作人员

     听  译 | 唱歌的蔬菜  

    翻  译 | Clare

    校  对 | 糖竹子、龙牧雪    

    后  期 | 郭  丽 

      编  辑 | 韩  蕊

    精品课程

    数据科学实训营第4期


    优秀学员推荐|杨晶

    学员介绍:上海交大硕士,实训营1期学员,实训营3期助教。已拿到某一线电商大数据部门offer。


    实训营最主要的优势是开拓了我的眼界,引导我走上了数据科学的道路。

    在没有上实训营的课之前,我也曾抱着砖头书苦读,也曾在网上到处搜索,有进步但效率比较低。

    在实训营里面,老师作为过来人,引导我走上了正轨。一些关键点懂了,就如同打通了“任督二脉”。

    作为在校生,缺乏的就是过来人的经验和眼光,在起步的初期接受这些帮助,对找工作确实影响深远。


    志愿者介绍


    回复“志愿者”加入我们


    往期精彩文章

    点击图片阅读

    Neurons字幕组 | 2分钟看AI通过2D照片设计出面部3D模型(附论文下载)


    点击阅读原文填写表单参与重磅课程译制

    我们会在3个工作日内联系您

    ▼▼▼

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存