转载

你的大数据项目使用的工具正确吗？

工具／产品／解决方案是数据科学家洞察数据的利器。 KDNuggets网站对此观点进行了年度调查，来分析数据科学家在用哪些类型的工具，并提供了调查的匿名原始数据。

对所有的工具同时进行关系分析，常规来说，PCA通过对大样本数据统计性质（eg, 协方差）的分析，试图用主要特征来解释关系。

分析结果：

当前分析的目标：通过一些主成分来分析95种工具之间的关系。最终决定以PCA的特征值来决定主成分的数目，这里选用了两种规则：一种是以特征值大于1的特征值数量来选择主成分数量；一种是画陡坡图（scree plot），通过95个特征值你会发现一个拐点的特征值。

特征点点陡坡图显示在第13和第14特征点时出现拐点，因此，这里选择的13个主成分来解释它们之间的关系，见下图。

你的大数据项目使用的工具正确吗？

下面列出根据主成分析得出的13类工具（投票数大于20）：

大数据生态（Hadoop、Spark）和开源项目：Hadoop, HBase, Hive, Mahout, MLlib, Other Hadoop/HDFS-based tools, Pig, Scala, Spark, SQL on Hadoop tools
微软数据科学家工具：Microsoft Azure ML, Microsoft Power BI, Microsoft SQL Server, Revolution Analytics
基于Python的机器学习：Dataiku, H2O (0xdata), Python, scikit-learn, Theano, Vowpal Wabbit
SAS公司产品：JMP, SAS Base, SAS Enterprise Miner
MATLAB、R语言等统计工具：Gnu Octave, MATLAB, Orange, R, RapidMiner, Rattle, Weka
IBM公司产品：IBM Cognos, IBM SPSS Modeler, IBM SPSS Statistics, IBM Watson Analytics
Linux工具和SQLang：Actian, C/C++, Perl, SQLang, Unix shell/awk/gawk
深度学习：Caffe, Pylearn2
商务智能软件：Pentaho and QlikView
数据分析平台：Datameer and Zementis
Excel和Word统计工具：XLSTAT for Excel
其它：Other Deep Learning tools, Other free analytics/data mining tools, Other Hadoop/HDF-based tools, Other paid analytics/data mining/data science software, Other programming languages
数据可视化：C4.5/C5.0/See5, Miner3D, Oracle Data Miner