MapReduce的厲害之處在于高效完整地處理大數(shù)據(jù)。這是只有MapReduce架構才能完成的事情!等待讓我們荒老，但是速度讓我們更有價值!本節(jié)介紹的是Hadoop中利器之一MapReduce的工作機制，我們正在進入大數(shù)據(jù)計算的核心區(qū)域。以下是小編為你整理的大數(shù)據(jù)應該怎么學習 ?

MapReduce工作機制 ?

MapReduce的主體是兩個函數(shù)Map()和Reduce()，Map負責清洗數(shù)據(jù)，Reduce負責數(shù)據(jù)分析并輸出最終結果，而且這兩個功能之間并非一對一的關系，可以根據(jù)具體業(yè)務選擇匹配關系。 ?

Map函數(shù) ?

輸入：鍵值關系的數(shù)據(jù)隊列，鍵是每段內(nèi)容開頭的偏移量。 ?

處理：從輸入中抽取出自定義的關鍵字段。這個處理過程可以很簡單，也可以很復雜。 ?

輸出：鍵值關系的數(shù)據(jù)隊列，通常是保存在硬盤上，而不是HDFS中。因為這個數(shù)據(jù)集只是個中間過程，計算結束時需要被刪除。

Reduce函數(shù) ?

輸入：Map的輸出結果經(jīng)過MapReduce框架處理之后分發(fā)給Reduce函數(shù)，因為通常一個Reduce函數(shù)需要拿到完整的數(shù)據(jù)集之后才能開始分析。 ?

處理：這一步的分析處理將是最為艱難和富有價值的環(huán)節(jié)。根據(jù)不同業(yè)務指標定義處理函數(shù)。 ?

輸出：輸出自定義的格式文件，并且保存在HDFS上。 ?

Combiner函數(shù) ?

輸入：Map的輸出結果未經(jīng)過MapReduce框架處理之后直接傳送給Combiner函數(shù)。 ?

處理：Combiner函數(shù)著手做合并歸類和排序等處理，經(jīng)過處理之后，數(shù)據(jù)集大大縮小。 ?

輸出：這時的輸出結果才傳送給MapReduce架構處理中心。 ?

解決問題：減少帶寬傳輸壓力! ?

大數(shù)據(jù)的用途 ?

淘寶店 ?

假如我們開了一個淘寶的的話，我們就可以從淘寶里面的數(shù)據(jù)魔方這個運用里面獲取大量的數(shù)據(jù)，這些數(shù)據(jù)我們需要好好分析，利用好了，我們就可以創(chuàng)造價值。 ?

微信公眾號 ?

利用微信公眾號，我們也能夠獲得很多的大數(shù)據(jù)，我們投放廣告，每天有每天的數(shù)據(jù)統(tǒng)計，每月有每月的數(shù)據(jù)統(tǒng)計，這些都是大數(shù)據(jù)時代下的小數(shù)據(jù)，我們要好好利用。 ?

百度推廣 ?

我們利用百度推廣來進行廣告投放，這也是獲取大數(shù)據(jù)的一種方式，利用百度推廣來獲取我們需要的各種大數(shù)據(jù)，不過，這需要我們先進行前期的投入。 ?

智匯推 ?

智匯推是騰訊旗下的一款商業(yè)的廣告產(chǎn)品，我們也能夠通過我們自己的廣告模式來獲取我們需要的*化的數(shù)據(jù)，和其他的推廣方式一樣，這里也有每天的數(shù)據(jù)分析，我們同樣可以獲得大數(shù)據(jù)。 ?

頭條號 ?

還有就是現(xiàn)在比較火的頭條了，我們利用頭條來進行我們自己公司的廣告推廣，從而獲得我們需要的一些數(shù)據(jù)，進行統(tǒng)計，進行分析，得出結論，進而進行合理的投放，獲得利益。 ?

微博 ?

微博也是一種獲得大數(shù)據(jù)的推廣方式之一，我們可以通過微博來進行企業(yè)的活動推廣，進而從每日、每月的數(shù)據(jù)中獲得我們需要的信息，讓我們的推廣模式進行改變，為企業(yè)節(jié)約成本，為企業(yè)帶來收益。 ?

大數(shù)據(jù)學習階段 ?

*階段：大數(shù)據(jù)前沿知識及hadoop入門，大數(shù)據(jù)前言知識的介紹，課程的介紹，Linux和unbuntu系統(tǒng)基礎，hadoop的單機和偽分布模式的安裝配置。 ?

第二階段：hadoop部署進階。Hadoop集群模式搭建，hadoop分布式文件系統(tǒng)HDFS深入剖析。使用HDFS提供的api進行HDFS文件操作。Mapreduce概念及思想。 ?

第三階段：大數(shù)據(jù)導入與存儲。mysql數(shù)據(jù)庫基礎知識，hive的基本語法。hive的架構及設計原理。hive部署安裝與案例。sqoop安裝及使用。sqoop組件導入到hive。

?

第四階段：Hbase理論與實戰(zhàn)。Hbase簡介。安裝與配置。hbase的數(shù)據(jù)存儲。項目實戰(zhàn)。 ?

第五階段：Spaer配置及使用場景。scala基本語法。spark介紹及發(fā)展歷史，spark stant a lone模式部署。sparkRDD詳解。 ?

第六階段：spark大數(shù)據(jù)分析原理。spark內(nèi)核，基本定義，spark任務調(diào)度。sparkstreaming實時流計算。sparkmllib機器學習。sparksql查詢。 ?

第七階段：hadoop+spark大數(shù)據(jù)分析。實戰(zhàn)案例深入解析。hadoop+spark的大數(shù)據(jù)分析之分類。logistic回歸與主題推薦。 ?

OODA原型 ?

概而論之，OODA指的是在充分觀察了解你和對手的環(huán)境的前提下，模擬對手在特定環(huán)境下的行為，進而做出一系列的對策，并且快速響應執(zhí)行!之后又迅速收集反饋信息，進入下一個OODA循環(huán)決策。 ?

觀察: ?

指的是通過多角度了解你與對手目前的真實處境。要做的事情就是盡可能全面地收集過去和現(xiàn)在的信息。以求足夠了解對手正在所使用的策略和戰(zhàn)術。 ?

調(diào)整： ?

利用觀察到的信息來感知和分析對手，并且根據(jù)對手的歷史信息模擬其后續(xù)的決策行為，對目前自己的行為作出*的調(diào)整建議。這一步驟也最為關鍵! ?

決策： ?

根據(jù)自己的現(xiàn)狀，從多種調(diào)整方案中篩選權衡出最行之有效的執(zhí)行方案。這一步其實依賴對己方所有大小情況的掌握。勝利屬于作出正確決策的一方! ?

執(zhí)行： ?

這個毋庸置疑，沒有執(zhí)行的方案就是一紙空文。這與平時訓練養(yǎng)成的素質(zhì)有關。*俗語說，“養(yǎng)兵千日，用兵一時?！边@個時候就是生死存亡見分曉的時候了。同時也是在校驗決策的正確性! ?