订阅云计算RSS CSDN首页> 云计算

专家观点碰撞:深度学习能否取代其他机器学习算法

发表于2015-05-15 18:05| 次阅读| 来源kdnuggets| 0 条评论| 作者Ran Bi

摘要:深度学习在最近两年非常火爆,但深度学习能否取代其他机器学习算法?纽约大学研究生Ran Bi根据Quora上的一个讨论总结了不同的观点,CSDN编辑将其翻译如下,并加上一些国内人工智能专家的观点,供大家参考。

【编者按】深度学习在最近两年非常火爆,但深度学习能否取代其他机器学习算法?纽约大学研究生Ran Bi根据Quora上的一个讨论总结了不同的观点,CSDN编辑将其翻译如下,并加上一些国内人工智能专家的观点,供大家参考。

深度学习迅速地成长起来了,并且以其疯狂的实证结果着实令我们惊奇。Quora上有一个关于深度学习是否会让其他的机器学习算法过时的讨论。特别地,相关的算法,如反向传播、HMM会像感知机一样过时吗?

这很难回答。Google DeepMind研发工程师Jack Rae对此有一个有趣的回答:

过去几年的实证结果已经表明,当数据集足够大时,深度学习提供了最好的预测能力。但这是真的吗?我知道的一个例子,去年它并未达到对一个超过1亿行数据集的预测能力。

他认为深度学习之所以会导致其他学习算法濒临灭绝,是因为深度学习具备非常卓越的预测能力,尤其是对大中型数据集的预测。当人们开始考虑使用深度学习作为解决一些问题如模式识别的第一选择时,其他算法将过时。

另一方面,大多数人仍然相信深度学习不会取代所有其他模型和算法。斯坦福大学人工智能研究生Jacob Steinhart的观点收到了最多的点赞。他写道:

1、对于许多应用程序,使用更简单的算法像逻辑回归和支持向量机可以工作的很好,而使用深度神经网络只会使事情变得复杂。
2、然而深度神经网络(deep belief networks )是最好的一个不可知域算法,如果你有领域知识的话,那么使用其他算法,如用于语音识别的HMM、用于图形压缩并识别的小波算法等,就可以表现更好。已经有一些工作把这些领域知识合并到神经网络模型,但是这还是不足以完全取代所有其他的模型和算法。


以上是由Eren Golge创立的机器学习的时间表。

深度学习将成为主流,就像在20世纪早期初迅速提高的SVM(支持向量机)一样。然而,在深度学习成为机器学习算法的第一选择之前,深度学习的复杂性以及其大量数据的需求仍需解决。

作者简介:Ran Bi,纽约大学的数据科学计划的硕士研究生,已经完成了机器学习、深度学习和大数据分析领域的好几个项目。

原文链接Will Deep Learning take over Machine Learning, make other algorithms obsolete?(翻译:王辉)

其他专家观点:

  • 余凯,百度深度学习研究院(IDL)常务副院长:

深度学习已经在取代其他的机器学习算法,或者说兼容其他算法,并且最终将可能成为一个包容其他算法的机器学习框架。关键在于,深度学习的数学框架本质上和其他算法是一样的,可以退化成传统算法。因为深度学习是一个很灵活的框架,当处理小数据的时候,可以根据实际需求采用比较浅的网络结构。

  • 邹永强,腾讯数据平台部精准推荐中心深度学习方向负责人

我估计只有少数deep learning的粉丝会认可DL可以取代其他算法,另外也要看业务领域。

  • 李成华,京东深度神经网络(深度学习)实验室首席科学家

目前,深度学习的应用场景主要在图像、语音、视频广告等领域,但有些业务应用,如购物篮分析,还没听说用深度学习的。
还有个主要问题:深度学习门槛较高,硬件要求也高,相比传统机器学习算法与Hadoop结合不友好。
但从准确率来说,随着深度学习技术成熟,取代很多传统机器学习算法是必然的。如分类、聚类、预测、推荐和搜索等,都有从传统机器学习往深度学习转的趋势。

  • 王浩,宝宝树数据&算法工程师

产业界,深度学习应用绝大多数都是有监督的机器学习,研究界更多的是研究无监督式的深度学习技术。 本质上,有监督的机器学习相对已经非常成熟,只需要更多、更好质量的数据,就能轻易的战胜复杂的非监督深度学习。所以,我觉得,不会代替,得看具体的应用场景。有的时候,杀鸡需要用牛刀,但有的场景,杀鸡绝对不需要用牛刀。

我预测,每隔10~15年,神经网络将经历以下循环:他们将被遗忘10余年,正如人们感到兴奋的大型凸优化问题,然后慢慢的以一个新的、性感的名称(例如深度学习)回归。我怀疑,只要Hinton、LeCun、Bengio和他们的门徒还在(他们很可能会以不断增加),这就会发生!

(责任编辑:周建丁)


6月3-5日,北京国家会议中心,第七届中国云计算大会,3天主会,17场分论坛,3场实战培训,160+位讲师,议题全公开