网页设计制作手机网站,网站域名已经解析但没有被百度等搜索引擎收录怎么办,wordpress+dux使用,广告推广系统大数据的浪潮仍在继续。它渗透到了几乎所有的行业#xff0c;信息像洪水一样地席卷企业#xff0c;使得软件越发庞然大物#xff0c;比如Excel看上去就变得越来越笨拙。数据处理不再无足轻重#xff0c;并且对精密分析和强大又实时处理的需要变得前所未有的巨大。 那么信息像洪水一样地席卷企业使得软件越发庞然大物比如Excel看上去就变得越来越笨拙。数据处理不再无足轻重并且对精密分析和强大又实时处理的需要变得前所未有的巨大。 那么在巨大的数据集中进行筛选的最好工具是什么?通过和数据骇客的交流我们知道了他们用于硬核数据分析最喜欢的语言和工具包。 1、R语言 在这些语言名单中如果R语言排第二那就没其他能排第一。自1997年以来作为昂贵的统计软件如Matlab和SAS的免费替代品它渐渐风靡全球。 在过去的几年时间中R语言已经成为了数据科学的宠儿——数据科学现在不仅仅在书呆子一样的统计学家中人尽皆知而且也为华尔街交易员生物学家和硅谷开发者所家喻户晓。各种行业的公司例如GoogleFacebook美国银行以及纽约时报都使用R语言R语言正在商业用途上持续蔓延和扩散。 R语言有着简单而明显的吸引力。使用R语言只需要短短的几行代码你就可以在复杂的数据集中筛选通过先进的建模函数处理数据以及创建平整的图形来代表数字。它被比喻为是Excel的一个极度活跃版本。 R语言最伟大的资本是已围绕它开发的充满活力的生态系统R语言社区总是在不断地添加新的软件包和功能到它已经相当丰富的功能集中。据估计超过200万的人使用R语言并且最近的一次投票表明R语言是迄今为止在科学数据中最流行的语言被61%的受访者使用(其次是Python39%)。 此外它的身影也渐渐出现在了华尔街。以前银行分析师会全神贯注于Excel文件直到深夜但现在R语言被越来越多地用于金融建模R特别是作为一种可视化工具Niall O’Connor美国银行的副总裁如是说。 “R语言使我们平凡的表格与众不同”他说。 R语言的日渐成熟使得它成为了数据建模的首选语言虽然当企业需要生产大型产品时它的能力会变得有限也有的人说这是因为它的地位正在被其他语言篡夺。 “R更适合于做一个草图和大概而不是详细的构建”Michael DriscollMetamarkets的首席执行官说。 “你不会在谷歌的网页排名以及Facebook的朋友推荐算法的核心找到R语言。工程师会用R语言做原型然后移交给用Java或Python写的模型。” 话说回来早在2010年Paul Butler就以R语言打造了全球的Facebook地图而著名这证明了该语言丰富的可视化功能。尽管他现在已经不像以前那样频繁地使用R语言了。 “R正在一点点地过时因为它的缓慢和处理大型数据集的笨重”Butler说。 那么他使用什么代替呢?请继续阅往下看。 2、Rython 如果说R语言是一个神经质又可爱的高手那么Python是它随和又灵活的表兄弟。作为一种结合了R语言快速对复杂数据进行挖掘的能力并构建产品的更实用语言Python迅速得到了主流的吸引力。Python是直观的并且比R语言更易于学习以及它的生态系统近年来急剧增长使得它更能够用于先前为R语言保留的统计分析。 “这是这个行业的进步。在过去的两年时间中从R语言到Python已经发生了非常明显的转变”Butler说。 在数据处理中在规模和复杂性之间往往会有一个权衡于是Python成为了一种折中方案。IPython notebook和NumPy可以用作轻便工作的一种暂存器而Python可以作为中等规模数据处理的强大工具。丰富的数据社区也是Python的优势因为可以提供了大量的工具包和功能。 美国银行使用Python在银行的基础架构中构建新的产品和接口同时也用Python处理财务数据。“Python广泛而灵活因此人们趋之若鹜”O’Donnell说。 不过它并非最高性能的语言只能偶尔用于大规模的核心基础设施Driscoll这样说道。 3、Julia 虽然当前的数据科学绝大多数是通过R语言PythonJavaMatLab和SAS执行的。但依然有其他的语言存活于夹缝中Julia就是值得一看的后起之秀。 业界普遍认为Julia过于晦涩难懂。但数据骇客在谈到它取代R和Python的潜力时会不由得眉飞色舞。Julia是一种高层次的极度快速的表达性语言。它比R语言快比Python更可扩展且相当简单易学。 “它正在一步步成长。最终使用Julia你就能够办到任何用R和Python可以做到的事情”Butler说。 但是至今为止年轻人对Julia依然犹豫不前。Julia数据社区还处于早期阶段要能够和R语言和Python竞争它还需要添加更多的软件包和工具。 “它还很年轻但它正在掀起浪潮并且非常有前途”Driscoll说。 4、JAVA Java以及基于Java的框架被发现俨然成为了硅谷最大的那些高科技公司的骨骼支架。 “如果你去看TwitterLinkedIn和Facebook那么你会发现Java是它们所有数据工程基础设施的基础语言”Driscoll说。 Java不能提供R和Python同样质量的可视化并且它并非统计建模的最佳选择。但是如果你移动到过去的原型制作并需要建立大型系统那么Java往往是你的最佳选择。 5、Hadoop和Hive 一群基于Java的工具被开发出来以满足数据处理的巨大需求。Hadoop作为首选的基于Java的框架用于批处理数据已经点燃了大家的热情。Hadoop比其他一些处理工具慢但它出奇的准确因此被广泛用于后端分析。它和Hive——一个基于查询并且运行在顶部的框架可以很好地结对工作。 6、Scala Scala是另一种基于Java的语言并且和Java相同的是它正日益成为大规模机器学习或构建高层次算法的工具。它富有表现力并且还能够构建健壮的系统。 “Java就像是建造时的钢铁而Scala则像黏土因为你之后可以将之放入窑内转变成钢铁”Driscoll说。 7、Kafka和Storm 那么当你需要快速实时的分析时又该怎么办呢?Kafka会成为你的好朋友。它大概5年前就已经出现了但是直到最近才成为流处理的流行框架。 Kafka诞生于LinkedIn内部是一个超快速的查询消息系统。Kafka的缺点?好吧它太快了。在实时操作时会导致自身出错并且偶尔地会遗漏东西。 “有精度和速度之间有一个权衡”Driscoll说 “因此硅谷所有的大型高科技公司都会使用两条管道Kafka或Storm用于实时处理然后Hadoop用于批处理系统此时虽然是缓慢的但超级准确。” Storm是用Scala编写的另一个框架它在硅谷中因为流处理而受到了大量的青睐。它被Twitter纳入其中勿庸置疑的这样一来Twitter就能在快速事件处理中得到巨大的裨益。 鼓励奖 ➤MatLab MatLab一直以来长盛不衰尽管它要价不菲但它仍然被广泛使用在一些非常特殊的领域研究密集型机器学习信号处理图像识别仅举几例。 ➤Octave Octave和MatLab非常相似但它是免费的。不过它在学术性信号处理圈子之外很少见到。 ➤GO GO是另一个正在掀起浪潮的后起之秀。它由Google开发从C语言松散地派生并在构建健壮基础设施上正在赢得竞争对手例如Java和Python的份额。 来源大数据
