大数据是目前互联网流行的技术语言，处理大数据的编程语言比较有优势的也很多，比如java、python、go、R语言、Hadoop等等，按道理来说每种编程语言都可以处理大数据，只是处理的规模不一样而且，但是现在比较受欢迎的数据处理编程语言是java与python。
java大数据与python大数据
说到java编程，java工程师一直都是同行的高薪岗位，而python是从最初的2016人工智能开始爆发，从而在短短两年之内能赶超java。随着python的发展，最大赢家无疑是python。未来大数据是对于一家企业有多重要，通过对数据的分析，可以了解市场需求、发展方向，对公司未来的定位，把数量庞大、不规整的数据信息进行梳理，总结出可供查询的特征。
大数据必备技能
自从python热度赶超java之后，python在大数据方面的优势逐渐被人们认识，但是java作为20多年成熟的编程语言，在大数据处理方面已存在已久，依然是程序员开发比较喜爱的编程。
java在大数据处理方面还是比较倾向软件应用与网站数据，包括游戏数据处理，特别是金融服务数据处理，一直都是java的强项；python有着众多免费科学算法库，优势在人工智能大数据处理，当然也有使用Python在银行的基础架构中处理财务数据。可以说java与python在大数据处理各有优势。
处理大规模数据时有那些常用的Python库，他们有什么优缺点？适用范围如何？
王守崑 有意 NLP/对话机器人方向的朋友请联系我
需要澄清两点之后才可以比较全面的看这个问题：
1、百万行级不算大数据量，以目前的互联网应用来看，大数据量的起点是10亿条以上。
2. 处理的具体含义，如果是数据载入和分发，用python是很高效的；如果是求一些常用的统计量和求一些基本算法的结果，python也有现成的高效的库，C实现的和并行化的；如果是纯粹自己写的算法，没有任何其他可借鉴的，什么库也用不上，用纯python写是自讨苦吃。
python的优势不在于运行效率，而在于开发效率和高可维护性。针对特定的问题挑选合适的工具，本身也是一项技术能力。
百万级别数据是小数据，python处理起来不成问题，python处理数据还是有些问题的
Python处理大数据的劣势：
1、python线程有gil，通俗说就是多线程的时候只能在一个核上跑，浪费了多核服务器。在一种常见的场景下是要命的：并发单元之间有巨大的数据共享或者共用(例如大dict)，多进程会导致内存吃紧，多线程则解决不了数据共享的问题，单独的写一个进程之间负责维护读写这个数据不仅效率不高而且麻烦
2、python执行效率不高，在处理大数据的时候，效率不高，这是真的，pypy(一个jit的python解释器，可以理解成脚本语言加速执行的东西)能够提高很大的速度，但是pypy不支持很多python经典的包，例如numpy(顺便给pypy做做广告，土豪可以捐赠一下PyPy - Call for donations)
3、绝大部分的大公司，用java处理大数据不管是环境也好，积累也好，都会好很多
Python处理数据的优势(不是处理大数据)：
1、异常快捷的开发速度，代码量巨少
2、丰富的数据处理包，不管正则也好，html解析啦，xml解析啦，用起来非常方便
3、内部类型使用成本巨低，不需要额外怎么操作(java，c++用个map都很费劲)
4、公司中，很大量的数据处理工作工作是不需要面对非常大的数据的
5、巨大的数据不是语言所能解决的，需要处理数据的框架(hadoop， mpi。。。。)虽然小众，但是python还是有处理大数据的框架的，或者一些框架也支持python
6、编码问题处理起来太太太方便了
综上所述：
1、python可以处理大数据
2、python处理大数据不一定是最优的选择
3. python和其他语言(公司主推的方式)并行使用是非常不错的选择
4. 因为开发速度，你如果经常处理数据，而且喜欢linux终端，而且经常处理不大的数据(100m一下)，最好还是学一下python
python数据处理的包：
1、自带正则包， 文本处理足够了
2、cElementTree, lxml 默认的xml速度在数据量过大的情况下不足
3、beautifulsoup 处理html
4、hadoop(可以用python) 并行处理，支持python写的map reduce，足够了， 顺便说一下阿里巴巴的odps，和hadoop一样的东西，支持python写的udf，嵌入到sql语句中
5、numpy, scipy, scikit-learn 数值计算，数据挖掘
6、dpark(搬楼上的答案)类似hadoop一样的东西
1，2，3，5是处理文本数据的利器(python不就处理文本数据方便嘛)，4，6是并行计算的框架(大数据处理的效率在于良好的分布计算逻辑，而不是什么语言)
暂时就这些，最好说一个方向，否则不知

数据时代的到来，让编程语言变得更加火爆，而在众多编程语言之中，哪个语言更适合做大数据分析呢?Python可以做数据分析吗?
当然，Python是大数据分析最受欢迎的编程语言。
Python是一个强大、灵活、开放、易于学习的源语言，使用方便，并具有强大的数据操作和分析库。其简单的语法让编程新手很容易学习和掌握，经历过Matlab、C / C++、java等，Python提供了一个独特的组合，都能使用编程语言以及使用方便的分析和定量计算。
过去，Python被用于科学计算、金融等高度量化的领域，还被用于提高航天飞机的设计。
同时Python已经被用于构建大规模可扩展的web应用程序，像YouTube，并推动谷歌内部基础设施。迪士尼、索尼和梦工厂公司，卢卡斯ILM都依赖Python协调大规模的集群计算机图形服务器轰动的电影产生的意象。根据相关数据显示，Python是世界上非常流行的编程语言，排名高于Perl Ruby JavaScript。
为什么说Python适合做大数据处理?原因很简单。
Python语言容易上手，融合了R语言快速成熟的数据挖掘能力之外，还有更实际的产品构建能力，Python语言正在迅速获得更多人的拥护，用过Python语言，你会发现它更直观，并且相比R语言更容易学习。
Python是行业人员转型的方向。同时从数据分析工作处理上来看，IPython notebook 和NumPy 可以用于轻量工作的处理，Python则是中级规模数据处理的有力工具，丰富的数据交流社区也是Python的优势，提供了大量的Python工具包和特性。

大数据是目前互联网流行的技术语言，处理大数据的编程语言比较有优势的也很多，比如java、python、go、R语言、Hadoop等等，按道理来说每种编程语言都可以处理大数据，只是处理的规模不一样而且，但是现在比较受欢迎的数据处理编程语言是java与python。
说到java编程，java工程师一直都是同行的高薪岗位，而python是从最初的2016人工智能开始爆发，从而在短短两年之内能赶超java。随着python的发展，最大赢家无疑是python。未来大数据是对于一家企业有多重要，通过对数据的分析，可以了解市场需求、发展方向，对公司未来的定位，把数量庞大、不规整的数据信息进行梳理，总结出可供查询的特征。
自从python热度赶超java之后，python在大数据方面的优势逐渐被人们认识，但是java作为20多年成熟的编程语言，在大数据处理方面已存在已久，依然是程序员开发比较喜爱的编程。
java在大数据处理方面还是比较倾向软件应用与网站数据，包括游戏数据处理，特别是金融服务数据处理，一直都是java的强项；python有着众多免费科学算法库，优势在人工智能大数据处理，当然也有使用Python在银行的基础架构中处理财务数据。可以说java与python在大数据处理各有优势。

Python是一门高级的编程语言，现在越来越多的行业都开始应用Python，也成为大家学习Python的原因。很多人也会问：Python应用行业这么广泛，那么学Python可以从事大数据和爬虫工程师吗?
当然，如果你掌握了Python基数，完全可以从事大数据行业或者网络爬虫工程师。
目前我们正处于大数据时代，Python这门语言在大数据领域比Java更有效率，虽然大数据比较难学，但是Python可以更好地和大数据对接，用Python做大数据的薪资至少20K以上，大数据火爆，未来薪资待遇还会上涨的。
而网络爬虫作为数据采集的利器，大数据作为数据的源头，作用是非常大的。使用Python可以更快的提升对数据抓取的程度以及速度，对于数据分析师而言，Python就是福音。
做爬虫工程师的薪资也是非常高的，尤其是大数据的影响之下，薪资待遇也是一路高涨。
谁更适合学习Python?
1、编程新手：大学刚毕业或者行业转岗，想要从事编程开发工作，目前认为Python比较火，想要入行;
2、Linux运维：Linux运维工作比较复杂，对人员系统掌握知识的能力要求比较高，需要一个语言来解决自动化问题，Python就是不错的选择，而且Python运维工资的薪资待遇普遍比Linux运维人员的工资高;
3、数据分析：无论是大数据分析还是金融分析、科学分析都应用了数据分析，人工智能最常见的应用也使用了Python基数;
4、程序员转行Python：平时只关注CSS+DIV这些页面基数，很多时候需要与后端开发人员进行交互，现在有很多Java程序员转行Python语言，被Python代码的优美和开发效率所折服。
免责声明：本站文章均由入驻起航学习网的会员所发或者网络转载，所述观点仅代表作者本人，不代表起航学习网立场。如有侵权或者其他问题，请联系举报，必删。侵权投诉
(责任编辑：老男孩教育)