大数据岗位做什么工作（大家都知道大数据的工作岗位有哪些吗）
大数据岗位做什么工作（大家都知道大数据的工作岗位有哪些吗）对应职位：ETL工程师，数据仓库工程师Data Warehouse，有点类似于传统的数据仓库工作内容：设计数所仓库层级结构、ETL、进行数据建模，但基于的平台不一样，在大数据时代，数据仓库大多基于大数据技术实现，例如Hive就是基于Hadoop的数据仓库。Data Collecting，从Web/Sensor/RDBMS等渠道获取数据，为大数据平台提供数据来源，如Apache Nutch是开源的分布式数据采集组件，大家熟知的Python爬虫框架ScraPy等。对应职位：爬虫工程师，数据采集工程师3、数据仓库
1、 数据平台
Data Platform，构建、维护稳定、安全的大数据平台，按需设计大数据架构，调研选型大数据技术产品、方案，实施部署上线。对于大数据领域涉及到的大多数技术都要有所了解，并精通某一部分，具备分布式系统的知识背景;
对应职位：大数据架构师，数据平台工程师
2、 数据采集
Data Collecting，从Web/Sensor/RDBMS等渠道获取数据，为大数据平台提供数据来源，如Apache Nutch是开源的分布式数据采集组件，大家熟知的Python爬虫框架ScraPy等。
对应职位：爬虫工程师，数据采集工程师
3、数据仓库
Data Warehouse，有点类似于传统的数据仓库工作内容：设计数所仓库层级结构、ETL、进行数据建模，但基于的平台不一样，在大数据时代，数据仓库大多基于大数据技术实现，例如Hive就是基于Hadoop的数据仓库。
对应职位：ETL工程师，数据仓库工程师
3、 数据处理
Data Processing，完成某些特定需求中的处理或数据清洗，在小团队中是结合在数据仓库中一起做的，以前做ETL或许是利用工具直接配置处理一些过滤项，写代码部分会比较少，如今在大数据平台上做数据处理可以利用更多的代码方式做更多样化的处理，所需技术有Hive、Hadoop、Spark等。随便说下，千万不要小看数据处理，后续的数据分析、数据挖掘等工作都是基于数据处理的质量，可以说数据处理在整个流程中有特别重要的位置。
对应职位：Hadoop工程师，Spark工程师
5、数据分析
Data Analysis，基于统计分析方法做数据分析：例如回归分析、方差分析等;大数据分析例如Ad-Hoc交互式分析，SQL on Hadoop的技术有：Hive、Impala、Presto、Spark SQL，支持OLAP的技术有：Kylin;
对应职位：数据分析师
6、数据挖掘
Data Mining，是一个比较宽泛的概念，可以直接理解为从大量数据中发现有用的信息。大数据中的数据挖掘，主要是设计并在大数据平台上实现数据挖掘算法：分类算法、聚类算法、关联分析等。
对应职位：数据挖掘工程师
7、机器学习
Machine Learning，与数据挖掘经常一起讨论，甚至被认为是同一事物。机器学习是一个计算机与统计学交叉的学科，基本目标是学习一个x->y的函数(映射)，来做分类或者回归的工作。之所以经常和数据挖掘合在一起讲是因为现在好多数据挖掘的工作是通过机器学习提供的算法工具实现的，例如个性化推荐，是通过机器学习的一些算法分析平台上的各种购买，浏览和收藏日志，得到一个推荐模型，来预测你喜欢的商品。
对应职位：算法工程师，研究员
8、深度学习
Deep Learning，是机器学习里面的一个topic(非常火的Topic)，从深度学习的内容来看其本身是神经网络算法的衍生，在图像、语音、自然语言等分类和识别上取得了非常好的效果，大部分的工作是在调参。不知道大家有否发现现在的Google翻译比以前的要准确很多，因为Google在去年底将其Google翻译的核心从原来基于统计的方法换成了基于神经网络的方法;
对应职位：算法工程师，研究员
9、数据可视化
Data Visualization，将分析、挖掘后的高价值数据用比较优美、灵活的方式展现在老板、客户、用户面前，更多的是一些前端的东西，也可能要求有一定的美学知识。结合使用者的喜好，以最恰当的方式呈现数据价值;
对应职位：数据工程师，BI工程师
10、数据应用
Data Application，从以上的每个部分可以衍生出的应用，例如广告精准投放、个性化推荐、用户画像等。
对应职位：数据工程师
