需求決定架構(gòu)，對(duì)于運(yùn)維來(lái)說(shuō)也是一樣;因此，探討一個(gè)運(yùn)維平臺(tái)應(yīng)該怎么樣構(gòu)建，要看具體的需求再?zèng)Q定。以下是小編為你整理的如何學(xué)大數(shù)據(jù)分析 ?

大數(shù)據(jù)的基礎(chǔ)服務(wù)，包括傳輸系統(tǒng)(Flume和Kafka)，計(jì)算調(diào)度(Yarn和K8S)以及存儲(chǔ)系統(tǒng)(HDFS和HBASE)。 ?

大數(shù)據(jù)平臺(tái)的配置與運(yùn)維需求包括：配置管理與資產(chǎn)管理，可監(jiān)控、可報(bào)警;可執(zhí)行批量作業(yè); 如果還有點(diǎn)期待就是Ai更好。 ?

自動(dòng)化運(yùn)維的架構(gòu)，應(yīng)該足夠簡(jiǎn)單，開(kāi)源可修改;解決非專業(yè)運(yùn)維團(tuán)隊(duì)的專業(yè)運(yùn)維問(wèn)題。投入產(chǎn)出比高，架構(gòu)簡(jiǎn)單，一個(gè)系統(tǒng)迭代容易打造精品。

其中配置管理應(yīng)該具備多數(shù)據(jù)中心支持，動(dòng)態(tài)管理的成員關(guān)系，基于gossip協(xié)議的事件傳輸?；谳p量型CMDB系統(tǒng)，解決傳統(tǒng)CMDB無(wú)法動(dòng)態(tài)變更，自動(dòng)發(fā)現(xiàn)，狀態(tài)探測(cè)問(wèn)題。 ?

批量作業(yè)平臺(tái)，要解決運(yùn)維中高頻的批處理任務(wù)，確保到達(dá)率很穩(wěn)定，很可靠;盡量引入原生支持的組件，減少開(kāi)發(fā)的工作量。 ?

DNS一直是基礎(chǔ)運(yùn)維的核心，也是所有業(yè)務(wù)的重中之重。因此，自動(dòng)化運(yùn)維平臺(tái)要將DNS的服務(wù)器及客戶端納入統(tǒng)一的管理。 ?

智能對(duì)象設(shè)計(jì) ?

Navicat提供一個(gè)直觀和設(shè)計(jì)完善的用戶界面，用于創(chuàng)建、修改和管理資料庫(kù)的所有對(duì)象，例如表、視圖、函數(shù)或過(guò)程、索引、觸發(fā)器和序列。我們的表設(shè)計(jì)器幫助用戶創(chuàng)建和修改數(shù)據(jù)庫(kù)的表，讓設(shè)置高級(jí)選項(xiàng)，如關(guān)系、限制、觸發(fā)器和更多。 ?

簡(jiǎn)化數(shù)據(jù)編輯 ?

使用Navicat瀏覽和修改數(shù)據(jù)，插入、編輯、刪除數(shù)據(jù)或復(fù)制和粘貼記錄到數(shù)據(jù)表形式的數(shù)據(jù)編輯器，Navicat將運(yùn)行相應(yīng)的命令(例如 INSERT或UPDATE)，免除寫(xiě)復(fù)雜的SQL。廣泛的數(shù)據(jù)編輯工具令編輯工作更為方便，例如外鍵查找、set/enum選擇器和記錄篩選。 ?

簡(jiǎn)易SQL編輯 ?

可以創(chuàng)建、編輯、運(yùn)行查詢和檢視結(jié)果，自動(dòng)完成代碼功能不僅幫助用戶完成輸入查詢，也可以保證快捷地輸入無(wú)錯(cuò)誤的代碼。查詢創(chuàng)建工具使用戶創(chuàng)建和編輯查詢而不需要有SQL的知識(shí)。SQL美化功能旨在提高工作效率，創(chuàng)建格式整齊的查詢，提高查詢的可讀性。 ?

?

無(wú)縫數(shù)據(jù)遷移 ?

Navicat具有廣泛的功能，配備了一套簡(jiǎn)單、易于使用的用戶界面來(lái)管理和處理數(shù)據(jù)。數(shù)據(jù)同步：分析和遷移數(shù)據(jù)庫(kù)或模式之間的數(shù)據(jù)，這樣可以確保每個(gè)數(shù)據(jù)庫(kù)保存相同的信息。 ?

Plotly ?

這是一款數(shù)據(jù)可視化工具，可兼容JavaScript、MATLAB、Python以及R等語(yǔ)言。Plotly甚至能夠幫助不具備代碼編寫(xiě)技能或者時(shí)間的用戶完成動(dòng)態(tài)可視化處理。這款工具常由新一代數(shù)據(jù)科學(xué)家使用，因?yàn)槠鋵儆谝豢顦I(yè)務(wù)開(kāi)發(fā)平臺(tái)且能夠快速完成大規(guī)模數(shù)據(jù)的理解與分析。 ?

Rapidminer ?

作為另一款大數(shù)據(jù)處理必要工具，Rapidminer屬于一套開(kāi)源數(shù)據(jù)科學(xué)平臺(tái)，且通過(guò)可視化編程機(jī)制發(fā)揮作用。其功能包括對(duì)模型進(jìn)行修改、分析與創(chuàng)建，且能夠快速將結(jié)果整合至業(yè)務(wù)流程當(dāng)中。Rapidminer目前備受矚目，且已經(jīng)成為眾多*數(shù)據(jù)科學(xué)家心目中的可靠工具。 ?

Cassandra ?

Apache Cassandra 是另一款值得關(guān)注的工具，因?yàn)槠淠軌蛴行腋咝У貙?duì)大規(guī)模數(shù)據(jù)加以管理。它屬于一套可擴(kuò)展NoSQL數(shù)據(jù)庫(kù)，能夠監(jiān)控多座數(shù)據(jù)中心內(nèi)的數(shù)據(jù)并已經(jīng)在Netflix及eBay等*企業(yè)當(dāng)中效力。 ?

Hadoop MapReduce> ?

這是一套軟件框架，允許用戶利用其編寫(xiě)出以可靠方式并發(fā)處理大規(guī)模數(shù)據(jù)的應(yīng)用。MapReduce應(yīng)用主要負(fù)責(zé)完成兩項(xiàng)任務(wù)，即映射與規(guī)約，并由此提供多種數(shù)據(jù)處理結(jié)果。這款工具最初由谷歌公司開(kāi)發(fā)完成。 ?

Mahout(數(shù)據(jù)挖掘算法庫(kù)) ?

Mahout起源于2008年，最初是Apache Lucent的子項(xiàng)目，它在極短的時(shí)間內(nèi)取得了長(zhǎng)足的發(fā)展，現(xiàn)在是Apache的頂級(jí)項(xiàng)目。 ?

Mahout的主要目標(biāo)是創(chuàng)建一些可擴(kuò)展的機(jī)器學(xué)習(xí)領(lǐng)域經(jīng)典算法的實(shí)現(xiàn)，旨在幫助開(kāi)發(fā)人員更加方便快捷地創(chuàng)建智能應(yīng)用程序。 ?

Mahout現(xiàn)在已經(jīng)包含了聚類、分類、推薦引擎(協(xié)同過(guò)濾)和頻繁集挖掘等廣泛使用的數(shù)據(jù)挖掘方法。 ?

除了算法，Mahout還包含數(shù)據(jù)的輸入/輸出工具、與其他存儲(chǔ)系統(tǒng)(如數(shù)據(jù)庫(kù)、MongoDB 或Cassandra)集成等數(shù)據(jù)挖掘支持架構(gòu)。 ?

Oozie(工作流調(diào)度器) ?

Oozie是一個(gè)可擴(kuò)展的工作體系，集成于Hadoop的堆棧，用于協(xié)調(diào)多個(gè)MapReduce作業(yè)的執(zhí)行。它能夠管理一個(gè)復(fù)雜的系統(tǒng)，基于外部事件來(lái)執(zhí)行，外部事件包括數(shù)據(jù)的定時(shí)和數(shù)據(jù)的出現(xiàn)。 ?

Oozie工作流是放置在控制依賴DAG(有向無(wú)環(huán)圖 Direct Acyclic Graph)中的一組動(dòng)作(例如，Hadoop的Map/Reduce作業(yè)、Pig作業(yè)等)，其中指定了動(dòng)作執(zhí)行的順序。 ?

Oozie使用hPDL(一種XML流程定義語(yǔ)言)來(lái)描述這個(gè)圖。 ?