数据开发,是企业信息化建设中的关键角色,主要负责构建、维护和优化数据处理系统,以支持业务分析、决策制定和流程自动化。这个岗位的核心任务是确保数据的准确、高效和安全流通,为企业的数据驱动战略提供坚实的技术基础。
1. 熟练掌握sql、python、java等编程语言,具备扎实的数据处理和数据库管理技能。
2. 深入理解大数据技术栈,如hadoop、spark、hive等,以及云计算平台如aws、azure或google cloud。
3. 具备数据仓库设计和etl(提取、转换、加载)流程构建经验。
4. 熟悉数据建模方法,能够设计和实施高效的数据架构。
5. 了解数据安全和隐私保护法规,能执行数据加密和访问控制策略。
6. 具备良好的问题解决能力,能够在复杂环境中调试和优化数据流程。
7. 良好的沟通技巧,能与业务团队有效协作,理解业务需求并转化为技术解决方案。
数据开发工程师的工作日常包括但不限于:
1. 设计和实现数据管道,将各种来源的数据整合到统一的存储系统中。
2. 维护和优化数据处理性能,确保数据的实时性和准确性。
3. 与数据科学家合作,搭建实验环境,支持数据分析和机器学习项目。
4. 参与数据治理活动,确保数据质量和一致性。
5. 建立和维护数据文档,提供数据查询和报告服务。
6. 对现有数据系统进行监控,及时发现和解决问题,保证系统的稳定运行。
1. 技术实施:负责数据集成、清洗、转换和加载的代码编写,确保数据流程的稳定性和可扩展性。
2. 系统优化:通过调优数据库参数、优化查询性能,提升数据处理效率。
3. 平台维护:管理大数据处理平台,定期进行软件更新和硬件维护。
4. 项目协作:与业务部门、数据分析师和数据科学家共同参与项目,提供技术支持。
5. 规范制定:参与制定和推行数据标准、命名规则和最佳实践。
6. 培训指导:为团队成员提供技术指导和培训,提升整体技术水平。
7. 应急响应:快速响应数据相关的问题,及时修复故障,防止数据损失。
作为一个数据开发工程师,不仅需要深厚的技术功底,还需要对业务有深入的理解,以便将技术优势转化为企业的竞争优势。在这个数据日益重要的时代,数据开发的角色愈发关键,为企业决策提供强有力的数据支撑。
第1篇 java大数据开发工程师职位描述与岗位职责任职要求
职位描述:
职责描述:
1. 精通java开发、熟悉restful和maven,精通主流java web开发框架spring、spring boot、spring data jpa、logback、mybatis;
2.熟悉对常用关系型数据库和hdfs、hive,kafka、storm等读写操作,性能优化;
3. 具备系统架构设计能力,具备较强的java程序调优能力及数据库设计和sql调优能力,具备良好的沟通能力;
4. 熟悉多线程编程、熟悉junit单元测试;
第2篇 大数据开发高级工程师-etl方向职位描述与岗位职责任职要求
职位描述:
工作职责:
1、 根据公司数据分析需求进行基于hadoop 平台的项目开发;
2、 根据需求进行数据仓库模型设计,熟练使用kettle工具进行etl程序的开发;包括实时数据加工,计算,etl,管理, 监控等;
3、 负责针对源系统进行数据抽取、处理、分析等相关工作,及项目中涉及到的数据库创建、维护及提供数据接口工作;
4、 负责设计并优化基于hive 的数据仓库的建设;
5、 制定数据库备份和恢复策略及工作流程与规范。
6、能出具消费品品牌制造行业应用的数据分析技术解决方案,并落地。
任职资格:
1.从事数据仓库领域至少2年以上,熟悉数据仓库模型设计与etl开发经验 ,具备海量数据加工处理相关经验;
2. 熟悉数据仓库领域知识和技能者优先,包括但不局限于:元数据管理、数据开发测试工具与方法、数据质量、主数据管理;
3.有从事分布式数据存储与计算平台应用开发经验,熟悉hadoop生态相关技术并有相关实践经验着优先,重点考察hive、hdfs、hbase;
4. 熟练掌握kettlesqoop、data_、airflow等;
5. 有消费品品牌制造、零售行业经验,尤其快消品行业和财务领域数据项目经验者优先;
6. 熟悉分布式计算presto/imapa优先;
7.有实时计算方面的经验的优先。
第3篇 高级数据开发工程师职位描述与岗位职责任职要求
职位描述:
职责描述:
1、承担现有数据平台的开发和优化工作
2、根据业务需求进行数据模型的调研、设计、开发及验证工作,并持续进行模型优化
3、负责数据模型架构的构建,建立数据抽取、清洗、校验等数据加工流程规范及olap多维数据分析模型
4、负责实时计算平台搭建。
职位要求:
1、3-5年以上的相关工作经验
2、熟悉分布式计算平台
3、有日志采集,数据处理,数据仓库建模,etl等经验
4、熟悉java、python、spark开发
5、熟练掌握linu_ shell及sql语言
6、有独立负责数据某一模块的实际项目经验
7、有过用户画像等方面开发经验者优先
8、有实时处理开发经验者优先
第4篇 数据开发负责人职位描述与岗位职责任职要求
职位描述:
岗位职责:
1、负责集团基础数据平台架构并实施建设开发;
2、负责构建设计良好的信息源数据采集、传输、存储、计算、分析和挖掘技术实施方案;
3、实现优化调度系统、查询引擎、数据工具等降低数据的使用门槛,保证平台稳定高效运行;
3、负责应对处理每天千亿增量的玩家行为数据;
4、负责对接并支持业务系统的数据分析工作,支持对内对外部数据进行梳理、整合及共享;
任职要求:
1、计算机或数学相关专业,3年以上数据从业经验;
2、深入hadoop大数据生态体系,对包括flume、kafka、hbase、hive、spark等有深刻理解,了解过flink、impala、kylin等;
3、精通kafka/redis/rabbitmq等其中至少一种消息队列技术,擅长mysql存储原理及索引优化;
4、有过支撑每日亿级别数据处理经验,在离线数据处理、在线检索方面有丰富的经验,了解集群管理、资源调度等综合实现;
5、熟练使用scala/java/python开发,具有较强的数据敏感性,熟悉web开发技术,有游戏相关数据处理与分析平台开发经验者优先。
第5篇 大数据开发专家职位描述与岗位职责任职要求
职位描述:
职责描述:
任职要求:
1. 负责完成大数据基础组件的封装,大数据技术使用规范的定义;
2. 负责对业务开发团队进行大数据技术的培训与开发指导;
3. 负责对公司产品已有的大数据架构,不断改进完善;
4. 负责跟进大数据前沿技术的发展,根据业务需要完成公司大数据架构的演进。
5. 负责解决重大疑难问题,有开源组件的bug fi_ 经验者优先
职位要求:
1. 熟练掌握java开发语言,有4年以上大数据开发经验;
2. 对数据敏感,有较强的逻辑分析能力,对 (大) 数据处理和分析有多年从事经验,有复杂业务和算法的数据平台建设经验;
3. 有分布式数据存储和流式计算开发经验,熟悉hadoop生态相关技术及各种大数据计算框架,熟练使用flink、
hadoop、spark、hdfs、hbase、kafka、elasticsearch、solr,druid有优化经验者优先;
4. 对实时指标的开发和架构经验者优先;
5. 有较强的技术好奇心和求知欲,有技术总结的习惯(如写技术博客);
第6篇 大数据开发工程师(数据分析、信息安全、前端开发、数据对接)职位描述与岗位职责任职要求
职位描述:
数据分析工程师:
岗位职责:
1、负责结构化数据和文本的数据处理、建模、分析等工作,如:数据清洗、中文分词、情感分析、文本分类等;
2、负责数据需求的收集、整理和分析,配合其他同事完成结构化数据和文本的需求分析;
3、负责分析结果的可视化展现;
4、负责核心算法的设计与优化。
任职要求:
1、全日制本科毕业;
2、计算机或数学或软件类或统计相关专业;
3、熟悉数据挖掘和文本挖掘的理论基础,掌握统计模型、机器学习相关原理;
4、熟悉r/python/java等编程语言,熟悉常用数据结构和算法,熟悉正则表达式的使用。
web前端开发工程师:
岗位职责:
1、负责前端框架设计及组件库开发、前端开发工作统筹;
2、与后端工程师紧密配合,高效率、高质量地完成页面展现研发工作;
3、负责对产品页面性能的优化和维护;
4、负责数据可视化图表显示。
任职要求:
1、本科及以上学历,专业不限。3年以上前端开发经验;
2、精通html5/css3、_html/_ml,熟悉页面架构和布局,对表现与数据分离、web语义化等有深刻理解;
3、在多浏览器兼容性问题及css/javascript性能优化方面有一定的经验;
4、熟练掌握至少一种前端框架及工具、库。如jquery、angular、webpack;
5、有echars、highcahrts、d3js等数据可视化框架开发经验优先。
信息安全架构工程师:
岗位职责:
1、 规划车联网安全架构,不断完善车联网产品的安全规范和要求,跟进、解决存在的安全隐患;
2、 对上线前的软件或者车上产品进行安全方面验证及测试;
3、 跟进最新漏洞的研究工作,理解漏洞的原理,编制漏洞研究报告和防范措施;
4、 负责行业/国家车联网汽车网络安全部分的技术及标准规范的研究工作。
任职要求:
1、本科以上学历,信息安全,计算机,通信等相关专业;
2、 拥有网络安全专业技能,熟悉车载网络架构,模块及协议;
3、 熟悉常见网络/车辆安全漏洞,掌握漏洞原理以及解决方案具备独立开展渗透工作的能力;
4、 熟悉常见黑客攻击手法,具备对黑客行为的入侵检测能力;
5、 精通安全测试框架,理解网络,应用,数据等不同层面的安全。
数据对接工程师:
岗位职责:
1、负责内部系统的对接工作;
2、第三方平台的数据对接及程序维护;
3、负责各车型的数据采集要求整理及规划;
4、熟悉数据结构和常用算法,有良好的代码规范,能对接入数据/系统提出优化方案。
任职要求:
1、 本科以上学历,信息化项目,计算机,无线传输等相关专业;
2、拥有信息化相关技能,熟悉系统间的交互对接流程;
3、熟悉数据库的管理及查询、同步工作;
4、熟悉信息对接的方式,能用api、视图等进行对接工作。
第7篇 大数据开发工程师-偏数据模型方向-l80542职位描述与岗位职责任职要求
职位描述:
职责描述:
1、参与数据需求的沟通和模型设计;
2、负责大数据平台的数据需求开发,包括实时和批量处理;
3、负责不同数据源的接入解析落地的设计开发工作;
4、负责数据质量监控,解决数据运行和质量问题。
任职要求:
1、计算机本科以上学历,至少有3年数据开发经验;
2、精通java/scala/python,至少有3年以上开发使用经验;
3、熟悉spark,hive,flink,jstorm等大数据实时计算技术;
4、掌握hive sql,sparksql,es query dsl 等查询语言;拥有sql性能调优经验;
5、具有较强的业务理解能力,较强的责任心、团队合作能力和沟通能力;
6、有过图数据库开发或spark mllib开发经验者优先考虑。
第8篇 oracle 数据开发工程师职位描述与岗位职责任职要求
职位描述:
工作职责:
1. 数据仓库和业务数据集市建设
2. 业务模型抽象、数据模型设计开发
3. 支持业务的数据需求,跟pm一起完善业务的数据分析体系和工具
4. etl、数据应用和服务的设计开发
5. 积累数据生产、分析工具,不断提高数据生产效率
6. 实时数据仓库设计、开发与服务
岗位要求:
1. 快速的业务学习和理解能力,有良好的自驱能力,对工作充满热情
2. 熟悉数据仓库各类模型建模理论,了解数据仓库数据分层架构,熟悉多维数据模型设计
3. 具备大型数据仓库架构设计、模型设计、etl设计的相关经验
4. 精通oracle数据库技术,深刻理解数据库/oracle特性,有过硬的sql能力,能编写高性能的数据处理程序。
5. 具备hadoop、hive、hbase,spark等大数据技术背景,并具有开发经验者优先
6. 具备海量数据处理经验者优先
第9篇 大数据开发主管职位描述与岗位职责任职要求
职位描述:
岗位职责:
负责大数据平台项目架构设计;
负责与客户进行具体业务需求沟通,引导客户需求并确认;
负责需求分析以及平台设计、数据模型设计工作,并输出相关文档,与第三方进行沟通,并确认项目关键节点进度。
任职要求:
国家正规院校统招本科以上学历,有5年以上工作经验,至少1年以上大数据架构师工作经验、熟悉大数据平台项目的操作流程;
熟练掌握python、hadoop、spark、kafka等工具;
较好的沟通理解能力和主动性。
第10篇 数据开发工程师岗位职责
数据库开发工程师 融智投资 深圳市排排网投资管理股份有限公司,排排网,私募排排网,融智投资,排排网 岗位职责:
1.负责数据库建模及开发;
2.负责维护现有公司主站、数据中心数据库;
3.负责现有数据库性能及架构的优化;
4.负责解决日常出现的存储过程错误及数据错误,并给出解决方案;
5.负责数据库运维工作(同步、建库);
6.负责数据库技术架构;
岗位要求:
1. 拥有5年以上mysql(或oracle)数据库管理、开发、设计及系统支持经验;
2. 精通sql语法,有能力编写较复杂t-sql脚本;
3. 精通mysql的主从复制,了解至少一种ha方案;
4. 熟悉linu_系统的操作和基本排障方法;
5. 工作踏实,认真仔细,善于总结,责任心强 ;
6. 有etl工具开发经验者优先考虑;
第11篇 python数据开发工程师岗位职责职位要求
职责描述:
要求:
1. 计算机以及相关专业本科毕业。硕士从优。
2. 有责任心和领导力,能够独立开展工作。
3. 1-3年以上软件开发经验
4. 能够快速学习吸收新知识
5. 熟练掌握python
6. 对软件系统的可扩展性和性能效率有足够的理解。
7. 对以下的几种技术有较好的理解:mongodb, elastic seaerch,redis, git/github
8. 有很好的沟通书面和口头能力,具有良好的英语沟通能力优先。
9. 对现代软件开发流程比较熟悉,包括:agile/scrum, unit test and continuous integration.
10. 具有面向消费者的应用(包括网站)开发经验的优先。
11. 能够在linu_ 环境下工作
岗位要求:
学历要求:本科及以上
语言要求:不限
年龄要求:不限
工作年限:经验1-3年
第12篇 大数据开发工程师岗位职责职位要求
职责描述:
岗位职责:
1、运用大数据分析工具和技术解决风险管理业务中遇到的实际问题与需求,如风险评估、成长评价等,包括对模型进行设计、开发、验证、测试、部署及监控、优化。。
2、基于海量用户数据和特征,进行数据质量检查、特征加工、数据清洗等,建立数据挖掘模型。
3、评估数据源的质量和价值,能结合业务需求和场景,从各种数据维度中挖掘数据价值,并设计不同的模型,应用于不同的业务场景中。
职位要求:
1. 计算机、统计学相关背景,熟悉常用各类机器学习算法的原理(如逻辑回归、决策树、svm、神经网络、随机森林、深度学习等);
2.熟练使用sas、r、python等至少一种分析工具;
3.熟悉大数据分析平台和工具,如hive,hadoop, spark等优先;
4.有较强的逻辑思维能力、优秀的沟通表达能力及团队合作能力。
岗位要求:
学历要求:本科
语言要求:不限
年龄要求:不限
工作年限:5-7年经验
第13篇 大数据开发总监岗位职责大数据开发总监职责任职要求
大数据开发总监岗位职责
大数据开发总监 主要职责
1. 带领大数据团队,包括数据建设、数据质量治理、数据应用和数据产品;
2. 设计并优化公司大数据架构,包括数据建设流、数仓模型、数据集市架构;
3. 构建数据质量保障体系,包括全流程监控、预警和数据快速恢复、数据质量评估
4. 完善数据应用体系,包括数据产品构建、数据分析需求响应、数据集市
5. 数据工程架构迭代,包括实时流、权限管理、调度、应用输出等 主要职责
1. 带领大数据团队,包括数据建设、数据质量治理、数据应用和数据产品;
2. 设计并优化公司大数据架构,包括数据建设流、数仓模型、数据集市架构;
3. 构建数据质量保障体系,包括全流程监控、预警和数据快速恢复、数据质量评估
4. 完善数据应用体系,包括数据产品构建、数据分析需求响应、数据集市
5. 数据工程架构迭代,包括实时流、权限管理、调度、应用输出等
第14篇 数据开发岗职位描述与岗位职责任职要求
职位描述:
数据开发岗(1-2名)
1.岗位职责:
(1)负责大数据应用、数据采集加工、数据分析等领域的开发工作;
(2)参与大数据应用项目的建设,包括项目开发及项目管理等工作;
(3)负责大数据领域的技术应用趋势跟踪,进行技术,促进大数据应用能力提升。
2.能力要求:
(1)计算机、数学或物理等相关专业,本科及以上学历;
(2)熟悉数据库理论,了解或熟悉一种或多种sql/nosql数据库,熟练掌握sql语句;
(3)了解或熟悉数据仓库建模、hadoop平台架构、流式处理技术以及海量数据采集与集中处理技术;
(4)至少熟悉一种或以上的开发语言,包括java、python、r等开发语言;
(5)诚实正直,工作责任心强,具备良好的团队合作意识,以及良好的沟通能力,积极上进,能够承担压力、接受挑战。
第15篇 sql数据开发岗位职责
sql数据库开发工程师-北京 工作职责:
1. 负责中国银行内部业务的软件开发,能按时完成项目经理安排的需求及功能模块开发
2. 有一定的针对代码重用性、扩展性设计的经验和能力
任职要求:
1、 熟悉sqlserver 相关的数据库性能调优,数据抽取,清理等操作。
2、 熟悉ssis、ssas、ssrs;
3、 熟悉isqlserver____年下的sql编写,善于sql性能调优;
4、 能够快速适应现有的成熟系统框架,较强的代码阅读能力,良好的代码规范
5、 3年以上工作经验,要sql server这一块很熟悉
工作职责:
1. 负责中国银行内部业务的软件开发,能按时完成项目经理安排的需求及功能模块开发
2. 有一定的针对代码重用性、扩展性设计的经验和能力
任职要求:
1、 熟悉sqlserver 相关的数据库性能调优,数据抽取,清理等操作。
2、 熟悉ssis、ssas、ssrs;
3、 熟悉isqlserver____年下的sql编写,善于sql性能调优;
4、 能够快速适应现有的成熟系统框架,较强的代码阅读能力,良好的代码规范
5、 3年以上工作经验,要sql server这一块很熟悉
第16篇 大数据开发工程师(数仓方向)职位描述与岗位职责任职要求
职位描述:
岗位职责:
1. 理解业务需求,负责数据仓库建设、etl流程的开发和优化工作;
2. 解决业务数据分析、数据报表、数据异常相关的技术问题;
3. spark/yarn/hdfs 的性能改进、功能扩展、故障分析;
任职资格:
1. 计算机相关专业本科及以上学历;
2. 精通java编程语言,并熟悉scala、python、shell等一门以上脚本语言;
3. 熟悉hadoop大数据平台架构,熟悉spark/spark sql/yarn开发调优技术,具有相关项目经验
4. 掌握数据仓库(dw)/olap/商业智能(bi)/数据统计理论,熟悉oracle/mysql数据库;
5. 思路清晰,具备良好的沟通能力和理解能力,较强的学习能力以及快速解决问题的能力;
6. 具有高度的责任感,工作认真、踏实。
福利待遇:
1、薪酬:有竞争力的薪酬体系,我们不止跟你谈理想,钱也必须谈一谈~
2、交通:无论天涯,免费班车直达公司,蓦然回首,地铁就在公司不远处。。。
3、工作时间:5天7小时工作制,充足的休息让你一整天元气满满!
4、各种福利:五险一金小case,节日礼物福利补贴说不完!
5、团建活动:下午茶,团队活动,部门聚餐,经费充足不差钱,大公司就是这么壕!
6、发展平台:想要升职加薪走向人生巅峰?上市公司晋升发展机会多多~
第17篇 大数据开发工程师(p7-p8)3职位描述与岗位职责任职要求
职位描述:
岗位职责:
分布式大数据系统开发、计算性能调优、 高性能服务框架设计与开发;
参与项目的架构设计、评审、技术攻坚及优化;
参与系统文档的撰写、维护。
任职要求:
本科以上学历,计算机或相关专业;
3年以上linu_后台开发经验,有大规模系统开发经验;
精通http、tcp/ip协议,网络编程;
熟悉linu_操作系统原理,常用工具;
熟悉常用大数据开源组件;
有高并发、大容量后台服务系统设计经验;
具有良好的学习能力、沟通能力、团队合作意识;
强烈的责任心与主动性,对所负责工作有owner意识,并能自我驱动成长;
对hadoop、flink、spark、lucene等开源项目有大规模应用经验,contributor或者committer优先。
第18篇 数据开发工程师职位描述与岗位职责任职要求
职位描述:
工作职责:
1、负责数据收集、清洗和规约等工作;
2、提供面向业务的数据服务,完成数据指标的统计、多维分析和展现;
3、根据业务和产品情况,抽象业务逻辑,搭建和开发大数据平台。
任职要求:
1、统招本科或以上学历;
2、精通sql,有较好的sql性能调优经验,了解hive/mysql的基本原理和调优策略
3、熟悉常用的数据挖掘、分析的工具和方法,熟悉linu_平台,精通shell/python/php等脚本语言的一种或多种,编码基本功扎实 ;
4、精通java开发,熟悉大数据处理相关技术,有hadoop开发经验,掌握mapreduce。
第19篇 中级大数据开发工程师职位描述与岗位职责任职要求
职位描述:
职责描述:
1、参与公司商业智能平台的研发工作;
2、参与公司商业智能平台的升级改造工作,包括运维工作。
任职要求:
1、正规院校本科及以上学历,软件、计算机、通信、信息安全、网络工程等相关专业;
2、良好的java开发背景,熟悉spring/mybatis技术体系;
3、良好的sql功底,熟悉mysql或oracle数据库;
4、熟悉linu_;
5、了解开源pentaho产品,包括prd、mondrian、saiku、kettle等;
6、熟悉hadoop、hive、hbase、storm、spark等大数据平台;
7、沟通能力强,有较强的学习能力,有较强的责任心与良好的团队协作能力。
第20篇 大数据开发工程师(杭州)职位描述与岗位职责任职要求
职位描述:
岗位职责:
1.参与大数据精准学平台设计与研发,在大数据采集、存储、分析及应用领域都会有所涉及。
2.参与需求分析、系统架构设计、并完成需求设计相应文档的编写。
3.参与核心代码实现、系统性能优化。
4.保质保量地完成项目组分配的开发任务。
5.协助项目经理进行技术支持工作,共同解决产品研发过程遇到的技术难题。
任职要求:
1. 具备3年及以上大数据系统开发经验,计算机相关专业本科及以上学历;
2. 有实时流处理经验,掌握flink、storm等实时处理框架;
3. 熟悉并会使用spark mllib、机器学习、自然语言处理等相关技术和算法;
4. 具有hadoop/spark,以及kafka、flume、hbase、hive、zookeeper等大数据生态圈实际开发经验。深入了解hadoop/spark生态圈产品的工作原理及应用场景;
5. 具备较强的数据分析,问题分析,逻辑思维能力,良好的沟通,团队协作能力。
42位用户关注
38位用户关注