網站首頁 工作範例 辦公範例 個人範例 黨團範例 簡歷範例 學生範例 其他範例 專題範例
當前位置:三優範文網 > 文祕 > 崗位職責

大資料架構師工作的職責(通用24篇)

欄目: 崗位職責 / 釋出於: / 人氣:1.15W

大資料架構師工作的職責 篇1

職責:

大資料架構師工作的職責(通用24篇)

1、正確理解業務需求,對需求進行工作量評估;

2、參與專案相關的需求、設計、投產手冊等文件的編寫;

3、根據進度計劃,完成所承擔功能模組的設計、開發、單元測試、聯調測試;

4、配合測試組修復程式碼缺陷,確保功能實現與程式碼質量;

5、負責所承擔功能模組投產、部署,及上線後的日常維護;

6、完成專案經理或者架構師安排的其他工作;

任職資格:

1、本科以上學歷,計算機相關專業,兩年以上大資料開發經驗;

2、熟悉Linux 環境,掌握shell或python;

3、熟練使用hadoop,hive,HBase,YARN,kafka,spark等大資料開發元件;

4、精通 ETL,資料倉庫的設計和開發;

5、有大資料處理實戰經驗,熟悉整個大資料的完整處理流程,包括資料的採集、清洗、儲存;

6、較強的動手能力和學習能力,良好的溝通能力、團隊協調能力;

7、具有銀行、金融行業從業背景者優先。

大資料架構師工作的職責 篇2

職責:

1. 負責設計企業級大資料平臺的整體架構,從技術層面制定清晰的大資料產品與系統技術架構,並負責實現關鍵技術和產品。

2. 負責設計具有創新價值的大資料底層平臺、大資料上層應用系統等,帶領團隊完成有質變的技術解決方案。

3. 負責組織同事研究行內最前沿的技術發展方向,突破現有的技術難題。

4. 負責研究院對外專案合作協調與支援,編寫專案建設方案及後期專案建設支援。

任職要求:

1. 碩士及以上學歷,計算機相關專業。

2. JAVA基礎紮實,不少於8年的一線開發經驗,精通Spring boot/MyBatis/Restful API的開發與管理. 熟悉ReactJS/Angular/Vue之一前端開發技術,熟悉Maven或Ant.,熟悉Python語言開發加分。

3. 不少於4年大資料的直接研發經驗,精通Hadoop/Spark系統,有hands-on的架構設計、效能調優、開發經驗。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系統的開發經驗。

4. 掌握分散式系統原理,對分散式儲存、流式計算、訊息佇列中的一項或多項有深入的理解和認識。

5. 熟悉分散式系統的監控、運維、故障恢復,高可用原理和設計理念。

6. 演算法基礎紮實,熟悉常見的資料結構,掌握大規模高併發訪問、大資料開發等處理經驗;熟練的Linux系統, 網路, 記憶體和儲存等方面知識。

7. 必須要有千萬級別的專案管理經驗,包括但不限於前期需求溝通,建設方案編寫,中期專案實施,進度彙報,後期專案維護。

大資料架構師工作的職責 篇3

職責:

1、負責大資料專案平臺架構的評估、規劃和設計

2、開發大資料平臺的核心模組程式碼,負責大資料平臺的搭建,完成系統除錯、整合與實施,保證大資料產品的上線執行

3、根據業務需求整合優化資料架構,保證產品的可靠性、穩定性

4、指導開發人員完成資料模型規劃建設,分析模型構建及分析呈現

5、深入研究大資料相關技術和產品,跟進業界先進技術;

6、根據專案要求編寫相關技術文件;

7、負責大資料平臺的架構評審,程式碼評審,上線評審;參與資料應用需求、設計、稽核和評審;

8、負責核心模組研發,負責大資料平臺的搭建,完成系統除錯、整合與實施;

9. 負責關鍵功能的開發,技術難題的解決,以及輸出程式碼的關鍵把控;

10. 負責對使用關鍵技術的預研和選型,完成 PoC ;

11. 指導工程師完成開發工作,並能分享技術經驗。

任職資格:

1、精通Linux作業系統,熟練使用Java;

2、3年以上大資料專案實戰經驗,兩個專案的架構設計經驗,熟悉Hadoop、Hbase、Storm、Spark、Pig等開源框架,並熟悉其工作原理;

3、有Hadoop、Spark、Hbase平臺效能調優經驗;

4、熟悉其它分散式儲存相關技術,包括HDFS,Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;

5、熟悉Java開發常用框架.如Spring、MyBatis等;

6、熟悉關係型資料庫如oracle及資料庫程式設計。

7、能夠根據專案情況安排人力、分配任務,具有較強的團隊管理能力。

8、碩士以上學歷,20xx年以上的工作經驗。

大資料架構師工作的職責 篇4

職責:

1. 負責大資料基礎平臺、海量資料儲存/處理分散式平臺、資料分析系統架構設計和研發;

2. 負責實時計算平臺基礎架構設計、部署、監控、優化升級;

3. 制定專案/資料倉庫設計及實現規範,指導設計研發和部署;

4. 協助策略和演算法團隊工作,保障資料探勘建模和工程化;

5. 深入研究大資料相關技術和產品,跟進業界先進技術。

任職要求:

1. 全日制本科及以上學歷,5年以上軟體和分散式系統研發經驗,3年以上大資料系統架構經驗;

2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態圈;

3. 具備Java/C++/Scala等開發經驗,熟悉資料探勘和分析的策略與演算法;

4. 具備良好的系統分析能力、故障診斷能力;

5. 有大資料策略、演算法、視覺化經驗優先;

6、211/985 重點學校畢業優先。

大資料架構師工作的職責 篇5

職責:

1、負責規劃大資料平臺及應用產品的需求和技術方案設計;

2、負責資料對接和對外服務設計、開發和維護,並能保證質量和效能;

3、負責基於大資料平臺的應用設計、開發和維護;

4、能從系統全域性和各子系統的角度思考可能存在的問題,並提出改進方案建議;

任職要求:

1、大學本科6年以上工作經驗,計算機相關專業。

2、至少4年以上的Java開發經驗,3年以上大資料應用系統的開發和設計經驗。

3、熟悉Hadoop生態圈技術體系, 對離線計算、記憶體計算和流式計算均有深刻理解, 如Hadoop、Storm、Spark三個中的任意二個, 能進行平臺和元件優化。

4、精通Hive、HBase倉庫設計,深刻理解MR執行原理和機制,能進行以提供高任務執行效率的優化。

5、精通Java開發,熟悉JVM調優, 對GC有深刻理解。

6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相關技術, 能進行hbase可靠性診斷和維護。

7、快速研究和學習技術能力。

大資料架構師工作的職責 篇6

1. 負責數瀾大資料平臺的架構設計和研發,建立資料生態服務,解決海量資料面臨的挑戰;

2. 管理和優化Hadoop、Spark等叢集,計算作業的調優,保證叢集和平臺的高效和穩定;

3. 負責Hadoop、Spark、Flink的功能、效能和擴充套件,解決並實現業務需求;

4. 負責大資料產品的自動化、離線與實時計算、即席計算、資料質量、資料安全、機器學習等平臺的設計和開發;

5. 調研和把握當前的最新技術,將其中的先進技術引入到自己的平臺中,改善產品,提升競爭力;

大資料架構師工作的職責 篇7

1、建設大資料平臺,主要技術為k8s, docker;

2、跟進開源社群的更新,閱讀文件,驗證feature;

3、閱讀容器生態圈各元件的開源專案程式碼,開發新功能;

4、持續提升平臺的效能和穩定性。

大資料架構師工作的職責 篇8

職責:

1、從事電信行業大資料專案相關業務調研、產品標準建設、核心模型設計和優化、系統測試等相關工作

2、與資料專業委員會一起研究資料建模方案和建模工具,負責產品線產品的資料架構、資料模型設計

3、參與研究資料庫之間的資料轉換方式,參與專案中的資料移植工作,收集在專案中的資料移植經驗,優化產品的資料模型

4、負責培訓本部門隊伍的資料模型基礎理論工作,建立資料模型團隊

崗位要求:

1、統招本科學歷,3年以上主流資料上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發經驗,具備大型資料倉庫邏輯模型和物理模型設計經驗,精通SQL,有較好的SQL效能調優經驗;

2、擁有Python,R等數學建模工具的使用經驗,並具備一定的資料處理和建模經驗,可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法並對其進行完整的解釋和說明;

3、熟悉統計學基本原理,做過實戰的資料建模專案;

4、有分散式資料倉庫建設相關經驗者優先,具備電信行業資料倉庫建設相關經驗者優先;

大資料架構師工作的職責 篇9

職責:

1. 規劃設計大資料平臺整體架構,規劃各種元件,並且指導技術團隊完成相關係統驗證、安裝、部署、配置;

2. 負責制定大資料平臺技術規範和介面規範,指導研發團隊按照規範進行系統開發;

3. 配合商務人員完成售前技術支援工作;

4. 完成其他與資料應用有關的技術工作;

任職要求:

1. 計算機相關專業本科學歷,5年以上工作經驗;

2. 對大資料技術棧有非常深刻的瞭解;具備架構設計的實際經驗;

3. 對資訊保安架構設計及實施有一定的經驗;

4. 熟悉Linux、Windows等作業系統的安裝配置;

5. 熟悉網際網路應用的安裝配置;熟悉常見大資料技術棧元件的安裝配置;熟悉Visio等繪圖工具的使用;

6. 有衛生資訊化建設經驗者優先;有容器安裝部署經驗者優先。

大資料架構師工作的職責 篇10

職責:

根據大資料業務需求,設計大資料方案及架構,實現相關功能;

搭建和維護大資料叢集,保證叢集規模持續、穩定、高效平穩執行;

負責大資料業務的設計和指導具體開發工作;

負責公司產品研發過程中的資料及儲存設計;

針對資料分析工作,能夠完成和指導負責業務資料建模。

職位要求:

計算機、自動化或相關專業(如統計學、數學)本科以上學歷,3年以上大資料處理相關工作經驗;

精通大資料主流框架(如 Hadoop、hive、Spark等);

熟悉 MySQL、NoSQL(MongoDB、Redis)等主流資料庫,以及rabbit MQ等佇列技術;

熟悉hadoop/spark生態的原理、特性且有實戰開發經驗;

熟悉常用的資料探勘演算法優先.

大資料架構師工作的職責 篇11

職責:

1、負責公司的大資料處理框架的研發設計工作,梳理可實現方案和技術規範;

2、開發、完善公司大資料平臺;參與公司離線、實時大資料處理系統的設計、開發、測試及多個業務模組的自動化整合;

3、負責業務平臺數據統計分析模組的設計與規劃;

4、負責公司產品研發過程中的資料及儲存設計;

5、帶領和培養團隊完成組織分解的目標;

任職要求:

1、統招本科及以上學歷,計算機、軟體工程相關專業,至少8年以上工作經驗,5年以上大資料開發經驗;

2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相關技術的基礎架構

3、熟悉資料倉庫,資料演算法,分散式計算技術理論,具有大資料整體系統架構設計經驗;

4、熟悉Linux系統,熟練使用shell/perl/python指令碼處理問題;

5、對深度學習框架(Tensorflow)和機器學習(svm 隨機深林貝葉斯等)有一定了解的優先;

6、能夠組織專案開發組協同工作,包括團隊溝通、計劃、開發環境管理等

大資料架構師工作的職責 篇12

職責:

負責公司大資料產品架構的設計與實現;

配合大資料產品經理完成產品的快速研發與交付;

負責大資料產品架構的持續優化設計;

負責大資料產品核心元件設計;

負責大資料相關資料架構規劃、資料建模、資料庫設計以及大資料產品研發工作;

為應用開發團隊提供技術支撐。

任職要求:

本科及以上學歷,3年以上的大資料開發經驗、

2年以上大資料架構設計經驗;

豐富的JAVA研發經驗,精通JAVA,熟悉Python Scala等程式語言;具備深厚的分散式系統或資料庫系統的理論基礎,熟悉分散式計算系統的工作機制,具有分散式檔案系統、分散式資料庫系統、叢集儲存系統等架構設計經驗;

熟悉整個大資料的完整處理流程(資料的採集、清洗、預處理、儲存、分析挖掘、機器學習和資料視覺化);

精通各種大資料相關技術體系:Hadoop、Spark、Storm、ElasticSearch、Kafka;

有資料探勘、機器學習相關應用或研究背景;

溝通能力較好,積極主動意識較強,責任心較強。

大資料架構師工作的職責 篇13

職責:

1.負責過多個大資料專案的架構;

2.精通Hadoop、Spark, HBase等主流的大資料平臺、精通各元件優化設計原理;

3.精通大資料實時流式處理的設計和應用;

3.熟悉大資料平臺調優,具備大資料生產平臺調優經驗;

4.金融行業,運營商行業大資料架構經驗更優;

5.研究大資料技術的最新發展,並引入到公司技術架構;

6.指導大資料工程師的日常工作,並培養技術骨幹。

任職資格:

1.計算機相關專業本科或以上學歷;

2.具有5年以上大資料相關開發經驗;

3.具有2年以上帶團隊經驗

4.對Hadoop/Hive/Spark/HBase/ES等等大資料常用技術有深刻理解,能夠帶領團隊進行技術攻堅,完成中介軟體的實施、改造、調優;

5.精通海量資料和實時資料的分析處理,能對線上的資料處理效能問題做調優;

6.精通資料倉庫以及維度建模原理,有大型資料倉庫建設經驗;

7.精通關係型資料庫和NoSQL資料庫的使用,熟悉相關理論;

8.溝通順暢,重點突出,高效。

大資料架構師工作的職責 篇14

職責:

1、負責大資料平臺的技術選型,基於Spark、Hadoop大資料平臺建設和開發;

2、完成包括資料模型設計、資料採集、資料儲存等方面的大資料系統架構的設計和資料層架構設計;

3、構建資料中臺,為多種行業應用提供主資料(畫像標籤/關係圖譜)、資料模型、人工智慧業務演算法及資料服務。

4、對海量資料處理的業務需求進行評估和方案設計、拆分任務並指導工程師完成開發;

5、帶領大資料技術團隊提供並實現大資料平臺上各項資料分析和資料視覺化的架構設計,支撐解決方案實施。

任職要求:

1、本科及以上學歷,具有5年及以上大資料架構設計和開發經驗;2年及以上帶領團隊經驗;溝通能力強。在大型網際網路企業從事大資料架構設計者優先考慮;有分散式大型商業軟體系統設計經驗、主導過大型商業軟體的架構設計並取得過市場商業成功者優先考慮;

2、熟悉整個大資料的完整處理流程,包括資料的採集、清洗、預處理、儲存、分析挖據、機器學習和資料視覺化;

3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流資料庫的使用,並能進行效能調優;

4、具備優秀的團隊意識和溝通能力,學習能力和主動性強,具有鑽研精神,充滿激情,樂於接受挑戰。

大資料架構師工作的職責 篇15

職責:

1、負責企業大資料平臺的基礎建設、管理及制定拓展規劃;

2、負責大資料平臺相關自動化服務工具的設計、開發;

3、參與Hadoop、Hbase、Spark等核心平臺元件的開發、優化;

4、對平臺特殊場景化的資料應用制定相關實踐方案;

5、大資料團隊的搭建。

任職資格:

1、統招本科以上學歷,計算機等相關專業,5年以上工作經驗;

2、具有Hadoop等大規模叢集管理經驗、海量(PB)資料處理經驗;

3、精通Hadoop、Hive、Hbase等離線平臺相關元件的原理機制;

4、瞭解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分散式系統;

5、熟悉高併發、分散式開發等相關知識,具有後端服務優化相關經驗;

6、熟悉爬蟲常用框架以及反爬技術;

7、具有良好的溝通能力、分析問題與攻關問題的能力;

8、有責任心,工作積極,對新領域新技術有熱情。

大資料架構師工作的職責 篇16

職責:

1、負責大資料平臺架構的規劃與設計;

2、負責大資料平臺技術框架的選型與技術難點攻關;

3、參與企業級大資料產品和應用規劃;

4、研究跟進大資料架構領域新技術並分享;

5、大資料處理和分析應用平臺的設計指導。

任職資格:

1、 具備深厚的分散式系統或資料庫系統的理論基礎,熟悉分散式計算系統的工作機制,具有分散式檔案系統、分散式資料庫系統、叢集儲存系統等架構設計經驗;

2、熟悉BI平臺架構及相關專案標準,大資料解決方案包括Hadoop、Spark、Storm、機器學習等大資料平臺解決方案;

3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流資料資料庫;

4、 精通Linux/Unix環境,精通J java、scala、python、R中的一種或多種語言;

5、 具備優秀的團隊意識和溝通能力,學習能力和主動性強,具有鑽研精神,充滿激情,樂於接受挑戰;

6、大專及以上學歷,3年及以上工作經驗。

大資料架構師工作的職責 篇17

職責:

1.負責企業資料中心建設,設計資料邏輯模型和物理模型,並完成相關開發

2.梳理公司各業務線常用的指標和維度,統一指標定義口徑

3.根據資料應用開發和資料分析需求,設計資料倉庫資訊層模型,提高資料開發的效率

4.負責資料模型的運營和優化,及時響應業務邏輯變更,保證模型的資料質量和穩定性

5.負責公司資料標籤體系的建設,並推動標籤體系在實際業務場景中落地

崗位要求:

1.5年以上DW/BI資料架構設計、模型設計和效能調優等相關經驗

2.有較強的資料分析能力,精通資料倉庫架構,熟悉Erwin或PowerDesigner建模工具

3.精通一種主流關係資料庫(如mysql等),熟悉Hive開發

4.有電商業務經驗,元資料管理,資料質量管理或標籤體系搭建經驗者優先

5.優秀的協調溝通與團隊協作能力,極強的責任心,能承受一定的工作壓力,認同企業文化和團隊價值

大資料架構師工作的職責 篇18

職責:

1、負責大資料專案技術架構評估與設計;

2、負責關鍵功能的開發,技術難題的解決,以及輸出程式碼的關鍵把控;

3、負責對使用關鍵技術的預研和選型,完成PoC;

4、指導工程師完成開發工作,並能分享技術經驗。

任職要求:

1、3年以上相關工作經驗,其中具有1年以上架構設計經驗

2、熟悉商業智慧系統相關技術,如 ETL、資料倉庫、OLAP開發;

3、精通設計模式,熟悉面向服務架構(SOA)以及其它常用軟體架構思想,有SOA方案設計、開發實施的實際經驗,要具備實際的服務規劃、服務粒度劃分經驗;並且要善於設計可重用元件和可定製化產品。

4、相關技術棧:Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;

5、有紮實的計算機基礎,熟悉Java等程式語言;

大資料架構師工作的職責 篇19

1、負責大資料平臺資源規劃、許可權控制、運維架構設計,為各產品業務提供穩定、高效、安全的執行環境;

2、負責實時,離線資料分析處理及實時平臺的建設和搭建

3、熟悉 Flink 流式計算引擎的使用以及原始碼原理,並且有相關的流式處理平臺的經驗。

4、Java基礎紮實,熟練掌握垃圾回收,網路,多執行緒程式設計,瞭解 python 或 scala

5、負責大資料平臺技術架構、資料架構的分析與設計;

大資料架構師工作的職責 篇20

職責:

1. 負責產品級業務系統架構(如業務資料物件識別,資料實體、資料屬性分析,資料標準、端到端資料流等)的設計與優化。協助推動跨領域重大資料問題的分析、定位、解決方案設計,從架構設計上保障系統高效能、高可用性、高安全性、高時效性、分散式擴充套件性,並對系統質量負責。

2.負責雲資料平臺的架構設計和資料處理體系的優化,推動雲資料平臺建設和持續升級,並制定雲資料平臺呼叫約束和規範。

3. 結合行業應用的需求負責資料流各環節上的方案選型,主導雲資料平臺建設,參與核心程式碼編寫、審查;資料的統計邏輯迴歸演算法、實時互動分析;資料視覺化方案等等的選型、部署、整合融合等等。

4. 對雲資料平臺的關注業內技術動態,持續推動平臺技術架構升級,以滿足公司不同階段的資料需求。

任職要求:

1. 熟悉雲端計算基礎平臺,包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基礎環境,熟悉控制、計算、儲存和網路;

2. 掌握大型分散式系統的技術棧,如:CDN、負載均衡、服務化/非同步化、分散式快取、NoSQL、資料庫垂直及水平擴容;熟悉大資料應用端到端的相關高效能產品。

3. 精通 Java,Python,Shell 程式語言,精通 SQL、NoSQL 等資料庫增刪改查的操作優化;

4. PB 級別實戰資料平臺和生產環境的實施、開發和管理經驗;

5. 熟悉 Docker 等容器的編排封裝,熟悉微服務的開發和日常排程;

6.計算機、軟體、電子資訊及通訊等相關專業本科以上學歷,5 年以上軟體工程開發經驗,2 年以上大資料架構師工作經驗。

大資料架構師工作的職責 篇21

職責:

1、負責大資料平臺及BI系統框架設計、規劃、技術選型,架構設計並完成系統基礎服務的開發;

2、負責海量埋點規則、SDK標準化、埋點資料採集、處理及儲存,業務資料分佈儲存、流式/實時計算等應用層架構搭建及核心程式碼實現;

3、開發大資料平臺的核心程式碼,專案敏捷開發流程管理,完成系統除錯、整合與實施,對每個專案週期技術難題的解決,保證大資料產品的上線執行;

4、負責大資料平臺的架構優化,程式碼評審,並根據業務需求持續優化資料架構,保證產品的可靠性、穩定性;

5、指導開發人員完成資料模型規劃建設,分析模型構建及分析呈現,分享技術經驗;

6、有效制定各種突發性研發技術故障的應對預案,有清晰的隱患意識;

7、深入研究大資料相關技術和產品,跟進業界先進技術;

【任職要求】

1、統計學、應用數學或計算機相關專業大學本科以上學歷;

2、熟悉網際網路移動端埋點方法(點選和瀏覽等行為埋點),無埋點方案等,有埋點SDK獨立開發經驗者優選;

3、熟悉Hadoop,MR/MapReduce,Hdfs,Hbase,Redis,Storm,Python,zookeeper,kafka,flinkHadoop,hive,mahout,flume,ElasticSearch,KafkaPython等,具備實際專案設計及開發經驗;

4、熟悉資料採集、資料清洗、分析和建模工作相關技術細節及流程

5、熟悉Liunx/Unix作業系統,能熟練使用shell/perl等指令碼語言,熟練掌握java/python/go/C++中一種或多種程式語言

6、具備一定的演算法能力,瞭解機器學習/深度學習演算法工具使用,有主流大資料計算元件開發和使用經驗者優先

7、熟悉大資料視覺化工具Tableau/echarts

8、具有較強的執行力,高度的責任感、很強的學習、溝通能力,能夠在高壓下高效工作;

大資料架構師工作的職責 篇22

職責:

1、負責大資料開發團隊建設;

2、負責行業大資料產品架構設計與研發;

3、負責帶領團隊進行行業大資料產品關鍵技術攻關。

任職要求:

1、有三年以上大資料應用、開發經驗;具備海量資料加工處理(ETL)相關經驗,對資料探勘及機器學習有較為深刻的理解;

2、熟悉Hadoop相關技術,對HDFS、MapReduce、Hive、HBase有一定的使用和開發經驗;

3、熟悉Linux,熟練使用Shell或Python,進行指令碼編寫;

4、對資料結構和資料統計分析演算法有較為深刻理解;

5、掌握至少一種主流關係資料庫開發技術:Oracle、SQL Server、MySQL等;

6、掌握實時流計算技術,有Spark、Storm開發經驗者優先;

7、需要具備2年以上研發團隊管理經驗。

大資料架構師工作的職責 篇23

職責:

1、大資料平臺的規劃、設計、實施,並優化資料庫;

2、對資料庫進行管理,負責資料庫應用系統的運營及監控;

3、對資料庫效能分析與調優,排錯,保證資料正確率;

4、配合其他部門進行的資料處理、查詢,統計和分析工作;

5、完成公司下達的專案開發任務。

任職要求:

1、計算機及相關專業本科以上學歷,5年以上軟體開發從業經驗,其中包括至少2年以上的大資料開發工作經驗;

2、熟悉hive,hadoop/spark,hbase等大資料相關技術架構,有管理或優化大型分散式叢集經驗;

3、熟悉linux基本命令,精通SQL指令碼的編寫,有豐富的資料庫管理、運維調優經驗;

4、熟悉C++、Java、C#等開發語言;

5、有網際網路電商行業大資料分析處理和大型資料倉庫的設計和實施經驗;

6、有分散式系統分析及架構設計經驗和大型計算叢集的基礎設施開發維護經驗;

7、快速處理系統突發事件的能力,較強的學習和創新能力;

8、良好的溝通能力和團隊合作精神。

大資料架構師工作的職責 篇24

職責:

1)負責大資料平臺系統架構設計、核心開發工作(Hadoop&Spark技術方向),基於業務場景設計最優的系統解決方案。

2)構架支援大數量級的資料的大資料平臺系統,及相關監控,拓展系統設計及實現。

3)利用Hadoop、Spark等大資料技術對海量資料進行處理,支援BI和資料科學(建模)的應用實現。

4)對現有系統的進行架構深入分析及系統優化,進一步提升系統的效能及資料處理能力。

任職資格

1)統招本科或以上學歷,計算機相關專業, 5年以上軟體開發經驗、3年以上大資料專案經驗。

2)具備較豐富的大資料平臺相關構建,維護及調優經驗,有大資料量級下的大資料集市相關經驗。

3)具備較豐富的基於Hadoop或Hive或Spark等大資料處理專案經驗,具備一定的資料探勘經驗。

4) 具有阿里雲的EMR(emapreduce)的經驗者優先考慮。

5)具有良好的業務理解、溝通和協作能力,具有較強的學習和總結能力。

6)優秀的團隊合作精神、誠實、勤奮、嚴謹,敢於接受挑戰。

7)機器學習技術、資料探勘經驗豐富者優先考慮。

Tags:架構師 通用