加入极市专业CV交流群,与6000+来自腾讯,华为,百度,北大,清华,中科院等名企名校视觉开发者互动交流!更有机会与李开复老师等大牛群内互动!
同时提供每月大咖直播分享、真实项目需求对接、干货资讯汇总,行业技术交流。关注 极市平台 公众号 ,回复 加群,立刻申请入群~
本文选自知乎问答,仅作为学术交流,如有侵权,请联系删除
PhD 第三年还没有发 paper 是怎样一种体验?
https://www.zhihu.com/question/58843207知乎高赞回答
https://www.zhihu.com/question/58843207/answer/160184256我来转述一个段子,之前在国内的时候听港中文某知名教授T亲口讲的,真假待考(时间线有些混乱,编辑了一下),当时我听到的时候反正是一愣一愣的。大家随便听听笑笑。(声明,我和T教授没关系,但是和Kaiming共事过。)
这个段子的主角就是现今计算机视觉领域的超级大牛何恺明(Kaiming He - FAIR),想必在圈儿内的人都听过吧。当时是T老板来我校招生,介绍了Kaiming读phd期间的一篇paper以及围绕这篇paper的轶事。。事情大概是这样,Kaiming本身就是光环学生(高考状元),本科毕业后在T教授的强力忽悠下去了那里读phd,可谓是被寄予厚望。和Kaiming同期进来的一批学生(我们后文简称kaiming的peer)当年也都是各大高校top3(现在大家可以试试随便Google一下,你会发现他们都已经成为CV圈儿内有头有脸的人物)。。。但是他们的光环效应肯定是没有状元强的。背景交代完毕。。那么现在phd开始了,大家处在同一个起跑线上:事实证明和kaiming一起进来的同学们各个都是paper machine。那时还是2010年之前,大陆高校(包括香港)想中篇顶级cv会还是颇有难度的,然而kaiming的peer们cvpr, iccv, eccv什么的已经开始刷的飞起,一篇两篇三四篇,poster oral六七篇。。一年两年过去了,和kaiming进来的一批大牛们基本各个都是手握至少2-3篇cvpr(或同等级),然后第三年申phd的拿到各种四大的phd offer。然而,作为最被寄予厚望的种子选手和光环选手kaiming还是一无所有。众所周知香港大部分高校phd也就4年,一眨眼几年过去了,也该想thesis了,但是两手空空,捉急啊...而且,Kaiming的phd大部分时间是在msra度过,那时候的msra是圣地啊,公认的大陆少有的几个能发paper的地方,那时候能去msra当intern的各个都是大牛。在这种peer环境下,光环学生,高考状元,这么久了还是没paper,而且据T教授说,甚至是投都没有投过!!各位观众可以做一下换位思考,想想如果是你,你会有多焦虑。据T教授亲口说,当时的Kaiming已经在考虑随便拿个学位回母校教书(对你没听错,是回高中母校当高中老师!!),你们感受一下。。。然而。天才就是天才,神牛就是神牛。我记得应该是2009年吧,一篇dark channel prior的cvpr paper横空出世,当时T教授评价这篇paper是“拨云见雾,神来之笔”。没错,就是Kaiming的第一篇paper就成为了cvpr best paper,亚洲的第一篇cvpr best paper,我建议各位即使不是cv领域的人也可以去翻来读一下这篇paper,你就明白本科学个物理和数学思考问题和cs的人有啥不同。。。随之而来的当然就是新的光环,等等。自那以后呢,他就成了现在大家都膜拜的Kaiming了,发paper有如滔滔洪水一般一发不可收。。。回到这个问题上,讲这个段子呢(虽然我不知道真假,因为不知道T教授在讲的时候是不是添油加醋了),是想告诉大家三个道理:1. phd第三年还没有发出paper,不要着急!要有耐心。2. 说不定第四年你就发出来了,而且还可能像Kaiming一样中best paper。3. 就算第四年中不了,你也可以回高中母校当高中老师嘛!https://www.zhihu.com/question/58843207/answer/164399120看到我们组博士生@涂存超回答了这个问题,很有感触,这里也跟大家分享一下我的博士经历。自认资质普通,没有智商和竞赛等光环加成,不过这反而对普通学子更有可借鉴之处。希望能对在博士路上奋斗的广大同学有用。我本科属于“三无”人员,没有像样的科研经历和论文,没有程序设计竞赛经验,成绩也不突出,在年级和班级都排名1/3左右,所以特别感谢孙茂松老师在2005年推研中接收了我。2006上半年大四毕业设计做的问题是新词发现,当时对科研完全不懂,对导师的指令亦步亦趋。但那时已形成发论文的执念,毕业设计结束时就整理成一篇论文,发表在全国计算语言学会议上。在直博的最初两年里,因为组会上听导师讲的复杂网络概念,开展了词汇同现网络、词汇依存网络的分析研究,发了一篇中文信息学报,一篇复杂性科学方面的期刊,中间参加了一次复杂网络方面的国内学术会议。大家知道复杂网络那几年很火,然而更多是规律发现,而缺少实际应用,例如发现的小世界现象、无尺度现象,对于自然语言处理任务缺少有力支持。出于对这个实际问题的担心,经过反复思考斗争,在2008年换回到自然语言处理应用任务上来,开始做词汇层面的语义分析工作。先做了查询词推荐,发表了第一篇英文论文,WWW 2008的两页poster文章,然后扩展成一篇PAKDD。接着开始做关键词抽取和标签推荐研究,2009年才在EMNLP上发出一篇正经的NLP论文。没有对比就没有伤害,组里和其他组有同学已经手握几篇ACL、IJCAI和COLING了,自己跌跌撞撞才做出一篇EMNLP,压力非常大。之后一直努力在ACL等顶会上投稿,都没能如愿,最后以每年一篇EMNLP结束博士生涯。我到直博第三年的时候,没有让人满意的顶会论文,直到博士毕业也没发表成一篇ACL或IJCAI,应该满足题主的标准的。然而回想起来,我对自己的博士生涯已经很满意,因为:彼时彼刻我与系里其他组、国内其他单位的优秀博士生比差距很大,自惭形秽。但也要想到,任何方向都竞争激烈,怎能因一时不如别人就放弃?自己认定的事情,与同侪比是为了寻找差距,更重要的是跟自己比,一年一年读下来,学识有没有增长,能力有没有提高,增长大不大,提高多不多?只要一直走在预定的路线上,就不必太惊慌,这是因为:学术研究不是一门课程,是可以做几年的工作,甚至可以是一生的事业。一项研究成果可以发表在顶会并得到学术界关注,需要博士生学会选择研究课题,调研已有工作,提出解决方案,设计验证实验,分析实验数据,撰写学术论文,口头报告成果等多个方面的能力。这些方面但凡有一点有所欠缺都有可能功亏一篑。所以,博士养成是一个系统工程,需要不断发现弥补不足,不断发扬光大长处。而博士的最初几年是弥补不足的关键时刻,也许论文一时还发不出来,但领域了解得更深入,论文读得更快速,代码写得更高效,对数据更有感觉,论文写得更妥帖,都很重要。这个系统工程涉及这么多环节,如何扬长补短,需要首先明白:读博是自己的事情,不是父母的,也不是导师的。只有自己才真切知道哪里是制约做出高水平研究的瓶颈,而这个瓶颈也是不断动态变化的,如人饮水,冷暖自知。很多时候,如果不想做一件事,你总能找出理由来不做;而想做成一件事,你总能排除困难做到它。科研之路也是如此。当遇到科研瓶颈,不要只是怨天尤人,而是认真反思自己心态对不对,还有什么能做而没做的。很多时候,同学把希望寄托在导师身上。但客观上讲导师也千差万别,有的push有的放羊,无论怎样都很难做到无微不至,实在不应该把自己的博士生涯完全寄托在导师身上。背地里吐槽下导师发泄下情绪,是很正常的缓解压力的方式,但真正解决瓶颈问题还要靠自己。君子性非异也,善假于物也。导师当然是博士成长的主要资源之一,但远远不是全部。你的同学学长,学术会议上认识的朋友,研究课题的国内外相关学者,都可以成为你成长路上的重要助力。而他们是否能帮得上忙,还得博士生自己主动出击,与他们互动交流。这些年跟国内外博士生都有交流,最大感受是国外顶尖高校博士生具有超强的主动性和开放交流意识,而国内优秀的博士生们也多在这方面表现突出。我记得CMU的IR一哥@熊辰炎就曾经在贵乎分享过他追堵老板修改讨论论文的经历。很难想象对自己研究课题提不起兴趣、漠不关心的同学,最终能做出被广泛认可的成就。普博四年,直博五年,难免遇到各种磕磕绊绊。不说身体有恙,感情不顺,宿舍不和,家庭变故等外在因素,就说实验室里面,就有可能遇到各种问题,想法与得不到导师有力支持,课题太偏或太难找不到交流讨论对象,课题一直做不出理想的结果,课题做到一半被其他单位抢先发表,等等。总有那么一个阶段,怀疑自己到底是不是做研究的料。这正是读博考验你的时刻,需要做的就是坚持下去,步步为营,达到院系要求的博士毕业条件,完全不是问题。也许五年过去,你发现自己并不喜欢学术道路,相信博士生涯的历练也会让你在产业界或其他道路上受益匪浅。从某种意义上讲,读博其实是一项性价比很高的工作,选对课题方向,只要把科研列为优先级较高坚持四到五年,就可以把自己培养成为所从事领域的专家,无论在产业界还是学术界都能找到发光发热的地方。我读博时,孙老师告诉我们一句话“求上得中,求下不得中”,是很简单也很重要的道理,也就是你如果只投C类论文就永远中不了A类论文。应当做好规划,尽早冲击本领域最顶级的期刊和会议。这个过程不会顺利,而投稿最大的好处是获得领域专家的审稿意见,从中可以学习如何更好地改进研究成果,我们需要善于从失败中学习和进步。以上是我与在读博路上奋斗的同学们分享的一些感想与经验,希望对大家有用。一时草就,有更多想法会随时更新。谢谢大家!https://www.zhihu.com/question/58843207/answer/565529573我的第一篇paper是博三下学期才发表出来的;考虑到我中间换过研究方向,直到博四上学期,我的第一篇和毕业论文相关的paper才发表出来。按照一般标准来说,我本科确定要直博的时候,大概是最不适合读博的那种人:没有什么像样的科研经验;没有明确的研究兴趣和方向;对学术没有特别的追求。唯一的优势,也就是在ACM班混到了GPA第二的成绩。现在回想起来,当年的自己对前途和未来未免太不负责任。虽然我这些年跌跌撞撞读完了PhD,但是如果一开始想的多一些,本可以没有这么多的麻烦。所以,一定要想清楚自己想要什么,喜欢做什么,擅长做什么。越早想清楚,你会越少走弯路。我的博士第一年玩的很开心,上上课,混混社团,做做项目,完全没有涉及到任何科研工作。其实当时已经意识到自己的状态不太好,但是自己也没有做出任何实质性的改变。后来反思:千万不能害怕改变现状。如果对现状不满意,一定要想法办及早改变;如果你觉得日子过得太开心,一定要及早跳出这个comfort zone。第二年一开始,导师给我分配了一个课题,也给我指了一个G老师合作,但是自己一直没有什么进展。但是此时的心态,和博一已经大为不同了:和自己一同直博的本科另外三个同学,一个发了ICCV 2015,一个发了AAAI 2016,一个发了SIGGRAPH Asia 2016,都是A类的会议,而自己连一个idea都还没有。这种peer pressure一直伴随了自己整个博二,那一年自己的压力一直都很大,每天都在惶惶不安中度过,特别是在睡前,这种负面情绪会达到顶峰。15年底的时候,有一段时间感觉实在撑不下去了,idea迟迟没有进展,于是有一天就去找了导师。导师问我要不要去HK待一阵子,那边有个老师是做这个方向的。然后我就决定去了。16年年初,我考完了托福后就去了HK。那其实才是我博士期间最压抑的半年。在香港的住处非常狭小破旧,只能放得下一张床。这边的导师也很忙,一个月平均出差两三次的那种。至今依然记得有一天晚上和老妈微信,我说自己都快要得抑郁症了。那时能说出这样的话,现在想起来还是心酸。但是科研还是要继续,磨蹭了大半年,终于投了16年7月底的INFOCOM。那年9月初,我离开了HK。自己的第一个工作,前前后后做了一年多的时间。但是这也是没有办法的事情,因为所有的科研基本功都需要训练:搜集文献,阅读论文,思考idea,数学推导,写代码,设计实验,跑实验,写论文,画图,投稿...写第一篇paper之前,自己处于连latex都几乎不会用的状态。但是G老师真的是一个很好的老师,他在我还几乎啥都不会的时候,就对我有很高的评价。他说我逻辑思维很好,受过的数学训练也很好,写东西也很好,这些评价无疑是在我PhD最低谷时期对我最大的激励。所以,要对自己永远抱有信心,PhD没有那么难,发论文也没有那么难。一点一滴的积累,终有收获。16年9月,我离开了HK,来到北京的MSRA,研究方向也发生了大幅度的转换。16年11月底,之前投的INFOCOM的结果出来,被拒了。第一次投文章,第一次被拒,那种绝望的感觉至今还真切地记得。北京的初冬已经很冷了,我晚上回来,也没进楼,在楼下给G老师打电话,说自己真的很难过。G老师安慰我说,第一次投文章大部分都是被拒的,能中是极少数的运气。一般的top conference的录取率是20%左右,你的水平很好,你能有50%,但是50%也是有一半的概率不中的。你要多投,多投才能多中。至于这一篇,我们后面再改投好了。我非常感激博二博三时候的我能碰到G老师。现在想来,若非那一年多来G老师一直的鼓励和指点,我想从最低谷爬出来,几乎是不可能完成的任务。我后来花了十多天,把那篇被INFOCOM的文章大改了一下,投到了ICDCS 2017。那已经是2016年底的事情了。17年2月,我回校注册的时候,还特意问过教务办的老师,直博生能不能拿硕士学位走人?教务办的老师说不可以,我感觉最后的退路也没了,这一条路就这么走到黑吧。2017年3月6号是ICDCS出结果的日子。那天上午我一直没有收到邮件。中午去吃饭,回来的路上G老师给我发消息,问我结果怎么样?我回到座位上,发现邮件已经来了,瞄了一眼,瞄到了一个congratulations,感觉血压蹭的就上来了,全部涌到了大脑中,大脑在短暂的十几秒内是空白的,感觉是还完全没有准备接受这个好消息。虽然只是一个B类的会议,虽然还不足以让我毕业,虽然那篇paper和我当时做的方向已经无关,但那种压抑了两年的情绪在瞬间释放。后来那篇ICDCS被我继续extend成了期刊,投中了TPDS(2017年11月)。于是我突然一下子就可以毕业了。我的PhD这一路走来,走过不少弯路,有过一年多的低谷,考虑过quit,考虑过出国重新读一个PhD,考虑过转金融(我本科有金融二专学位),考虑过转master。但是现在回首,一切的坚持和努力都是值得的。机会永远只会留给有准备的人,任何时候,不要轻言放弃。https://www.zhihu.com/question/58843207/answer/161146006
严格上来说倒是并没有前三年没发论文,不过也有类似的伤痛。第一年刚去学校不久跟两老板们讨论来讨论去弄出一个想法,花了半年时间做理论分析,实现,跑实验,优化,然后投出去,被拒了。感觉审稿人没理解研究问题的重要性。根据意见加了点实验,基本重写了下论文,第二年投了同一个会,还是被拒了。第四年,老板们还是觉得这个工作挺不错啊,但看看似乎也没别的地方好投了,丢arxiv算了吧。虽然这时候引用这篇论文的都中过NIPS了。当然还有更奇葩的经历,有一个工作一开始投NIPS被拒了,第二年投了另外一个会又被拒了。这时候一个“好友”过来问你最近做啥啊,我很老实的说了。他说借论文看,给了。然后他说借代码看,给了。后来我自己忘了这个工作了。过了一年才想起来。去搜了搜看看这个坑还在不在,结果看到“好友”发了篇基本原封不动的论文(加了一个理论分析,本来是放在Future Work里的)。然后这篇文章还中了个Oral。经历过之后其实也没什么,过几年看都不是什么大事情。所以尽可淡定,继续努力就好。
PS:新年假期,极市将为大家分享计算机视觉顶会 ICCV 2019 大会现场报告系列视频,欢迎前往B站【极市平台】观看,春节也学习,极市不断更,快来打卡点赞吧~
https://www.bilibili.com/video/av83518299
添加极市小助手微信(ID : cv-mart),备注:研究方向-姓名-学校/公司-城市(如:目标检测-小极-北大-深圳),即可申请加入目标检测、目标跟踪、人脸、工业检测、医学影像、三维&SLAM、图像分割等极市技术交流群,更有每月大咖直播分享、真实项目需求对接、干货资讯汇总,行业技术交流,一起来让思想之光照的更远吧~
△长按添加极市小助手
△长按关注极市平台
觉得有用麻烦给个在看啦~