您的位置: 网界网 > 周报全文 > 正文

[周报全文]机器学习已成为大数据基石

2014年04月28日 14:41:26 | 作者:IBM大数据专家 James Kobielus | 来源:网界网 | 查看本文手机版

摘要:机器学习可说是一位无名英雄,它们一直在默默支持着大量极为复杂的大数据分析应用。

标签
大数据
机器学习

机器学习几乎无处不在,即便我们没有专程调用它们,它们也经常出现在大数据[注]应用之中。我曾经在博客中描述了一些典型的大数据使用案例,换句话说,这些应用都能够在“极端情况下”提供最佳的结果。在结尾部分,我还提到了拍字节级数据容量、实时数据速度和/或多结构数据多样性的结合。

当时我还列出了一个应用列表,在收集过程中刻意避开了“机器学习分析”。主要原因是,尽管在这些使用案例中机器学习即便不是主要的,但也是一个常用的工具。但是它们自身并不是一个使用案例。换句话说,它们不是一个凭借自身力量而形成的特殊应用域。出于同样的原因,我也没有像大数据使用案例那样列出模式设计、元数据管理或数据整合。但与机器学习一样,它们也都为实现大数据分析应用的价值做出了自己的贡献。

机器学习对大数据应用投资回报的贡献主要体现在两个方面:一是促进数据科学家们的多产性;二是发现一些被忽视的方案,有些方案甚至遭到了最好的数据科学家们的忽视。这些价值来自于机器学习的核心功能:即让分析算法无须人类干预和显式程序即可对最新数据进行学习。解决方案允许数据科学家们根据典型数据集创建一个模型,然后利用算法自动概括和学习这些范例和新的数据源。

许多情况下,机器学习是大数据创新的最佳投资回报。对机器学习的投资能够深化任何对企业定制的大数据案例。这是因为机器学习算法在容量、速度和类型(即大数据的3个V特性)中正变得日益高效。正如Mark van Rijmenam在近期有关机器学习的文章中所说的那样:“处理的数据越多,这种算法就越能体现出优势。”他认为,包括语音与面部识别、点击流处理、搜索引擎优化、推荐引擎在内,许多机器学习应用可能被描述为意会分析法(sense-making analytics)。

意会分析法需要对从数据流中推断出来的用户语义方式、内容和重要性进行持续监控。为了支持意会的自动化,机器学习算法必须要经常性地处理一些极为复杂的东西。这其中包括组成对象或环境中隐藏的语义分类,需要通过多种不同的数据流实时收集整体含义。这些数据流必须包括不同的对象(+微信关注网络世界),例如数据、视频、图像、语音、表情、动作、地理信息和浏览器点击等元素。通过机器学习从这些数据流中自动提取出来的含义,可能会混合有认知、情感、感觉和意志特征。

为了在这些素材当中找到线索,“深入学习”(deep learning)成为了大数据科学家的机器学习指令系统中一个重要工具。正如van Rijmenam所说的那样,利用神经网络开展的深入学习,有助于从这些数据流中提取感知能力。因为这些数据流可能涉及组成对象之间语义关系的层次结构安排。“深入学习能够打破数据中具有不同特点的组成成分之间的隔阂,利用这些特点从中找出不同的特征组合,从而搞清楚它们看到了什么,或者是正在做什么。”van Rijmenam说。

显然,对于创建能够感知和处理动态分布式方案的环境来说,机器学习是一个基础性的工具。人类对实时威胁和恐怖主义活动、自然灾难、飓风等其他威胁的侦测与应对能力,取决于对海量数据中的信息进行自动筛选、分类和关联。如果没有这种能力,那么人类就有被“淹死”在大数据海洋之中的危险。(范范编译,更多内容详见: http://www.cnw.com.cn/P/5606)

参考资料

1.大数据:(Big Data),研究机构Gartner给出了这样的定义。“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。 ...详情>>

[责任编辑:孙可 sun_ke@cnw.com.cn]