Closed karanotsingyu closed 5 years ago
⚠️流派未讲齐 或者说 这里是否一定要讲出所有流派的预判呢?
源于联结主义的神经网络和深度学习当下很火,那么可能意味着他们一段时间后会变成历史。所以要面向未来投资套利的话,年轻些的ACT-R流派和贝叶斯流派看起来就更加靠谱些,阳老师在文章中也提到过,在几个学派中最看好的是贝叶斯流派。所以未来投资人工智能或是心智建模该往哪个方向走,大家明白了吧,嘿嘿。
来看看Hinton这位大牛吧,可能学术和技术圈外的人们对它不太熟悉。我们只需要知道,他是“深度学习之父”就可以了。近些年火起来的人工智能,深度学习、神经网络与他的贡献有很大的关系。我们还可以了解一下他的H指数,是141,而卡尼曼的是134,西蒙的是177。
鲁梅尔哈特、麦克莱兰、辛顿xxxxxxxxxxx
三人在1986年前后合作发表了一些文献,这是认知科学史上的一个重要里程碑,它们的学说与其它重要的学术进展一同带来了第二次认知革命,认知科学中的一对双生子——计算认知科学和认知神经科学——在这段时期诞生。
前世今生:从联结主义到神经网络、深度学习。
鲁梅尔哈特和麦克莱兰是联结主义流派的领头人物。
让我们切换到另一个流派。这位是麻省理工的约书亚·特南鲍姆,它是麻省理工计算认知科学小组的领头人。这位大牛比起其它几位年轻许多,但却已有不少的大成就,其中之一就是开创了计算认知建模的贝叶斯流派。
xxxxxx
批量检视他的论文和查看他的师承关系图谱,可以获取他的重要里程碑和思想渊源。
约书亚作为学生时,也踏着联结主义的热潮,在这方面研究认知科学,并和他的老师谢泼德(Shepard)发表过与联结主义相关的文章(RN Shepard & J Tenenbaum, 1991)。他继承着老师关于一般化(generalization)的研究(一般化,可以理解为从几个特殊例子到一般规律、从特殊到全局)。(⚠️是不是得举些例子说明这到底是个什么东西?这里我还是不太好把握该怎么说明。还是说略微带过一下就好?)但这位深深着迷于贝叶斯的年轻人、未来的贝叶斯教父,认为贝叶斯是研究这些问题的好工具,打算用贝叶斯方法对他老师和其他前人的联结主义理论进行激进的扩展。
标志他的思想迎来大成的,是他1999年的博士毕业论文。他在论文开头开门见山地提出,他基于贝叶斯原理建立一个新的框架,用于理解人类是如何实现高级的学习能力。例如,为什么人类小孩可以在认识过两三只狗之后接下来就能准确认出几乎所有的狗?换句话说,为什么在认识了几个示例之后,我们就能实现对某个事物的学习?这种学习能力计算机是难以达到的。总之,约书亚的这篇毕业论文成为贝叶斯流派的开山斧。
随后,他在这个方向上继续进行更多研究,贝叶斯流派逐渐壮大起来。
⚠️我发现对于他之后的轨迹还未能把握 不讲这些有没有关系?
⚠️我发现对于他之后的轨迹还未能把握 不讲这些有没有关系?
太可怕了,不输出是不会清晰知道自己知道着什么的。
咱们之后的预判说的是「计算认知科学」这个学科有前途的是贝叶斯,预判的是整个大方向,某个学者的话应该影响不大。
我现在的演讲思路是 背景1,美国的那个聚合技术;背景2,认知科学的timeline讲两次认知革命以及第二次认知革命带来的三个取向;随后就正式进入主要内容,提出有四或五个主要的计算认知建模流派,列条timeline:1976安德森提出了ACT模型,是ACT-R流派的源头,1982出现第一个ACT-R工具,该流派初步大成;1986麦克莱兰鲁梅尔哈特辛顿的反向算法重振联结主义,是当下流行的神经网络的源头;1988格雷戈发表四篇关于动力系统的论文,动力系统流派诞生;1999约书亚的毕业论文成为贝叶斯流派的开山斧。随后就可以一个个流派具体介绍了。或者直接先一个个流派介绍,讲完时空变量后最后来张PPT小结时空变量也可以。
大家再来看看地理分布吧。我们经过探索,发现计算认知科学在世界上有四个重镇。美国,英国,加拿大和澳大利亚。字体较大的意味着这些学校或机构有专门设立实验室或研究小组,字体较小的意味着这些学校有个别人员专门在这个领域进行研究。从这张图我们可以看到,显然,美国是计算认知科学的头号巨镇。麻省理工、普林斯顿、斯坦福、卡内基梅隆、印第安纳、伦斯勒理工学院、纽约大学,这些都是认知科学大牛集中分布的地方,其中,贝叶斯流派的领头人约书亚·特南鲍姆位于麻省理工学院;ACT-R流派的领头人约翰·安德森则是卡内基梅隆大学的;陈述逻辑流派的领头人布林斯乔德在伦斯勒理工学院;联结主义神经网络的领头人之一,麦克莱兰,则是斯坦福大学的。他们各自带领着一个专门研究计算认知科学的研究小组。然后是加拿大,特别是多伦多,这是神经网络流派的另一位源头大牛,深度学习之父韩丁的大本营。然后是英国的伦敦大学。最后让我有点意外的是,澳大利亚也是这门学科的时间源头。看了下这里的领头学者的H指数还比较低,二十到四十,说明这里的时间源头还比较年轻。
此外需要说明的是,这里的信息肯定是不完全的,多仔细搜索、交叉验证一下的话时不时还能获取一点新的信息补上去,但我们的探索已经获取了绝大部分的情况,具有一个近似的全局,这就够了。
作为交叉验证,我们还可以来看看这个学科的社会引用情况。例如,这是发表在《Nature》的神经科学子刊的一篇文章,名为《认知计算神经科学》。通过社会引用工具Altmetric可以了解到,对这篇文章关注最多的依次是美国,英国,加拿大,欧洲其它国家和澳大利亚。社会引用的数据与我们通过自己探索的情况相吻合,这些国家最关注计算认知科学,无论是学界、技术圈还是大众。