迪文小说

迪文小说>微软的梦工场 > 第23部分(第1页)

第23部分(第1页)

R“量身定做”一篇有关经验比较的论文。

当时研究院正在参加TREC 比赛。这个比赛中有一个任务叫做Topic Distillation,其目的是找到与所查询主题最相关的子网站入口,也就是说即便有的时候子页面比父页面更加相关,我们还是希望返回父页面。为了解决这个问题,我们提出把网页里的关键词按照网站结构向父页面进行传播。经过实验验证,这个方法非常有效。于是我就想,是不是还有其他类似的做法呢?除了关键词以外,我们是否可以把网页的相关性得分(relevance score)进行传播?除了沿着网站结构以外,我们是否还可以沿着超级链接结构进行传播?有了这个想法以后,我们对以往的相关文献进行了调研,发现确实有人做过把相关性得分沿着超级链接进行传播的尝试。这就启发我对以上提及的各种传播方式进行系统的对比研究。于是我把所有相关的方法进行列举、分类,并对其进行了大量的实验比较,并最终得到了很多有意思的结果。我按照自己总结的SIGIR的“范式文本”,把这些比较结果写成了一篇论文,提交给了SIGIR 2005。最终这篇文章被录用了。虽然有些幸运的成分,但是不管怎么样,通过“模仿”,我的SIGIR之旅正式启航了。

第二年:“掌握扩大战果的本领”

发表第一篇文章固然重要,但是如何排除幸运的因素,真正具有持续发表SIGIR论文的实力更加重要。这方面,微软亚洲研究院的国际化平台给了我很大的帮助。每年,研究院都会吸引大量国外的知名学者来进行访问交流,我正是借助这样的机会认识了杨益銘教授。

杨益銘教授是美国卡耐基梅隆大学的教授,是文本分类领域的专家。我有幸在她访问研究院期间和她合作了的一篇论文。当我把初稿写出来让她修改的时候,她来来回回和我讨论了5遍“引言”怎么写。其实她完全可以直接帮我把这一章改好,所花的力气要少很多。但是杨老师耐心地给我提意见,让我自己一点一点修改。这个过程使我意识到有了好的技术,还要清晰准确地表达出来,恰到好处地突出自己的贡献。这对我日后的论文写作以及给学生改论文都有很大的帮助。至今仍然十分羡慕杨老师的境界:“写论文其实是一件很享受的事情,写起来象清泉流水一样,禁不住要把那么好的研究成果和别人分享”。 电子书 分享网站

找到属于自己的关键词 刘铁岩(2)

和杨老师合作在SIGKDD Explorations 上发表了一篇关于大规模文本分类的论文之后,我又开始了独立准备下一年度SIGIR论文的阶段。不过,这次明显感觉与以往不同了:不再是为了量身定做一篇论文而找题目做,而是围绕着自己正在做的研究题目写论文。

这次我准备的两篇文章一篇讲的是基于随机补的网络图排序,另外一篇则是关于文档检索的新算法。它们都不是有关经验比较的论文,也没有像第一年那样按照SIGIR的“范式文本”来写,但是这两篇文章也都被SIGIR 2006录用了。

经过这个过程,我感觉自己真的入门了:至少知道什么样的工作是SIGIR这个领域真正认可的工作,也知道如何写出具有自己风格的论文来。

第三年:“找到属于自己的关键词”

入行两年发表了3篇SIGIR论文,其实并不是一件容易的事情,因为这个会议竞争非常激烈,每年全球范围内只收录几十篇文章,而且无疑来自美国的论文占了绝大多数。也因此,我慢慢被一些外面的学者认可,也接触到了更多的同行朋友。

一次开会的时候,和几个同行聚在一次聊天,各自介绍自己的研究方向。到我表达的时候,发现只能用“信息检索”这样的大词来形容,因为自己做过的3篇SIGIR论文相关性并不大,很难找到更贴切的描述。一个朋友说:你要有自己的关键词,比如美国伊利诺斯大学香槟分校的翟老师的关键词就是语言模型,卡内基梅隆的杨老师的关键词就是文本分类,你的关键词是什么?

这个问题给了我很大的触动。仔细想想,确实知名学者多半都有他们自己的成名之作,有很集中的研究方向。而我目前的状态似乎还是有点为了发论文而发论文,没有真正地去规划属于自己的研究方向。如果继续这样下去,可能接下来的几年里我还会发表更多的SIGIR论文,但是当再次被别人问及同样的问题时,我仍然无法避免这种尴尬。所以,我决定要集中火力,做有影响力的,可以作为自己关键词的研究方向。

我和我的经理就此进行了一次长谈。谈话中,一方面他向我强调了微软亚洲研究院开放的研究氛围,对我表示了极大的支持;另一方面,和我分享了“less is more”的道理,并和我一起分析和确定了主攻的研究方向。考虑到我的数学基础比较扎实,对机器学习和优化理论比较熟悉,同时考虑到不论对信息检索领域还是对微软公司的搜索引擎而言,排序(ranking)都是一个核心的问题,我们最终把研究的重点放在了排序学习(learning to rank)上。

在此基础上,我对自己和实习生的研究方向做了较大的调整:大家的研究方向都围绕着排序学习展开,比如:排序学习的损失函数研究,基于多平面的排序学习方法,排序学习中的特征选择问题,基于排序学习的序列融合等等。我们也再接再厉在SIGIR 2007上发表了3篇论文。这三篇论文由于都是关于排序学习的,被安排在了同一个分会上宣讲。这个分会上总共只有4篇文章,因此我们的表现受到了很大的关注。我也从此有了自己的关键词:排序学习。

会后,我被邀请成为SIGIR 2008资深程序委员会的成员,以及国际期刊《信息检索》的编委,从一个信息检索领域的的参与者转变成了的组织者。

第四年:“为引领一个学派而努力”

微软公司有一种内部导师制度,鼓励资深员工作为年轻员工的导师,对他们的成长进行帮助和指导。我非常幸运,通过经理的引荐,Rakesh Agrawal ,这个数据挖掘领域最成功的学者,在2007年底成为了我的导师。我还清晰地记得在我和Rakesh的面谈中,他对研究的看法给了我很大的震撼。比如,“写文章不是为了当下被会议收录,而是为了要推动这个学术方向的发展,要形成一定的学派,至少在10年之内都产生深远的影响”;再比如,“人们总是忘记你的好论文,而铭记着你不好的论文,声望要用10年去积累但是可以毁于一旦,因此要非常严肃对待自己的每一篇论文,确保质量”。

和Rakesh的交流让我认识到有个关键词还远远不够,这个关键词需要代表着我自己主导的学派。带着这种想法,我在经理的帮助下对研究课题进行了重新的审视,并且对研究过程进行了更好的质量控制。我和我的合作者们现在正在为了引领“列表级别的排序学习 (listwise approach to learning to rank)”这一属于我们自己的学派而努力着。

可喜的是,我们在这个方向上已经取得了阶段性的成绩。比如,我们在SIGIR 2008上又发表了3篇相关的论文,还在ICML 上发表了2篇关于“列表级别的排序学习”的理论文章,讨论了列别级别排序学习的统计一致性和泛化性能。除了发表论文以外,我们还通过在SIGIR上组织Workshop,发布Benchmark数据集,在SIGIR和 等顶级会议上做专题讲座的方式推广“列表级别的排序学习”。

我们的研究成果受到了越来越多的关注,然而我们知道,前方要走的路还很长。不过,在微软亚洲研究院这个平台上,我们有信心可以越走越远,推动排序学习领域的进步,也为整个SIGIR的发展做出自己的贡献。

作者介绍:

刘铁岩,2003年获得清华大学博士学位,同年加入微软亚洲研究院,现任信息检索与挖掘组主管研究员。他的研究兴趣包括排序学习的理论,算法和系统。他已在国际期刊和会议上发表了近70篇学术论文,拥有近40项专利或申请。他被国际期刊“视觉通信和图像表达”授予2004~2006年度最高引用论文奖,被SIGIR2008授予最佳学生论文奖。他是数十个国际会议的程序委员会成员及国际期刊编委。他的研究风格是结合信息检索的应用需求,提出全新的研究方向,并给出有效的解决方案和严谨的理论分析。

大侠是怎样练成的 周昆(1)

已完结热门小说推荐

最新标签