大數(shù)據(jù)之熱
9月的浦東新區(qū)，天氣已經(jīng)略有涼意。張江高科技園區(qū)一個四周是玻璃的高檔辦公樓里，一大早，市場部門的資深員工李小姐正在自己的座位上開始一天工作之前的熱身：倒杯水，花上一刻鐘到半小時在各大網(wǎng)站上瀏覽當(dāng)天要聞。在她最經(jīng)常去的幾個論壇里，通常汽車、服裝，或者旅游促銷的廣告會不請自來;最近她發(fā)現(xiàn)這種多年不變的情形有了些不經(jīng)意的變化，比如剛剛跳出的這個窗口：大數(shù)據(jù)分析幫助你鎖定高價值客戶“大數(shù)據(jù)”和旅游論壇有啥關(guān)系?她百思不得其解。
她所不知道的是，她在瀏覽器搜索界面里曾經(jīng)輸入的“客戶”、 “促銷”、“通信錄”等關(guān)鍵詞，已被IE上面掛靠的抓取程序自動獲取，并且被關(guān)聯(lián)了相應(yīng)的廣告，由IE插件完成最終的廣告推送。在北京郊區(qū)某處的機(jī)房里，基于“關(guān)聯(lián)規(guī)則”和“聚類”等統(tǒng)計分析方法的分析軟件在時刻不停地處理成千上萬個李小姐產(chǎn)生的數(shù)據(jù)。
她或許還沒有注意到的是，大數(shù)據(jù)和分析正在成為全世界炙手可熱的概念。先是幾年前谷歌首席經(jīng)濟(jì)學(xué)家宣稱：數(shù)據(jù)分析員正成為21世紀(jì)最性感的職業(yè);又有2012年3月29日奧巴馬政府公布“大數(shù)據(jù)研發(fā)計劃” (Big Data Research and Development Initiative)，白宮科技政策委員會(OSTP)還成立了大數(shù)據(jù)高層指導(dǎo)小組以推動這一戰(zhàn)略規(guī)劃。再有就是今年的事情了，地球人都已經(jīng)知道，2013年是“國際統(tǒng)計年”。
幾個月前，JMP的老朋友Michael Rappa教授于美國眾院聆訊，主題正是“Next Generation Computing and Big Data Analytics”――下一代計算及大數(shù)據(jù)分析。Rappa教授作為IAA(Institute of Advanced Analytics, NCSU，北卡州立大學(xué)高等分析學(xué)院)創(chuàng)始人，去年被美國科學(xué)基金會新創(chuàng)立的大數(shù)據(jù)委員會任命為學(xué)術(shù)聯(lián)合主席。奧巴馬政府的大數(shù)據(jù)研發(fā)計劃資金正是來自于美國科學(xué)基金會。
國內(nèi)學(xué)術(shù)界，得益于前中國人民大學(xué)常務(wù)副校長袁衛(wèi)先生及其他統(tǒng)計學(xué)界知名教授學(xué)者的持續(xù)不懈的努力，2012年，教育部終于把統(tǒng)計從數(shù)學(xué)的范疇內(nèi)獨(dú)立出來，正式升級成為與數(shù)學(xué)、物理、化學(xué)、計算機(jī)等大學(xué)科平級的“一級學(xué)科”。
以統(tǒng)計學(xué)為核心的數(shù)據(jù)分析方法正在學(xué)術(shù)、工商和政府等領(lǐng)域顯現(xiàn)出越來越大的價值。李小姐電腦上的變化，則是這一趨勢的小小表征。
最近Gartner發(fā)布了2013年度商業(yè)智能和分析的魔力四象限圖，報告明確指出，大數(shù)據(jù)和分析正在成為企業(yè)IT規(guī)劃的核心。
一切的現(xiàn)象都在告訴人們，一個新的科技時代似乎正在來臨。有些IT職業(yè)追潮人士甚至激動地認(rèn)為“人類歷史上第三次科技革命”即將到來。
大數(shù)據(jù)之惑
問題在于，什么是大數(shù)據(jù)?為什么人人言必稱大數(shù)據(jù)?
“很大很大的數(shù)據(jù)”就是大數(shù)據(jù)。對“大”的定義在不斷刷新。10年前1GB數(shù)據(jù)已經(jīng)很大了，今天，1000GB并不算太大。
問題其實(shí)不在于大，而在價值?！按髷?shù)據(jù)”再大仍舊只是數(shù)據(jù)，沒有足夠有效的分析與應(yīng)用，一切數(shù)據(jù)都是垃圾。紐約時報專欄作家David Brooks認(rèn)為，缺乏足夠有效的分析是大數(shù)據(jù)的最大問題：越來越多的數(shù)據(jù)，帶來越來越多的相關(guān)性;其實(shí)很多相關(guān)性都是沒有意義的，這種欺騙性質(zhì)的數(shù)據(jù)關(guān)聯(lián)會把數(shù)據(jù)管理者和使用者引入歧途，浪費(fèi)大量的人力物力去管理、分析這些數(shù)據(jù)。
除了傳統(tǒng)意義上人們認(rèn)為的那些有行有列有數(shù)值或者文字的數(shù)據(jù)表單之外，IT技術(shù)還幫助人們收集了越來越多的其他類型的資料，比如視頻，語音，圖片，文檔等。這些被稱為“非結(jié)構(gòu)化數(shù)據(jù)”。
結(jié)構(gòu)化與非結(jié)構(gòu)化數(shù)據(jù)每天都在成倍的增加。以道路視頻監(jiān)控為例，全上海的攝像頭有10多萬個，每一刻都在記錄圖片與視頻。一旦發(fā)生案件或者事件，這些記錄在硬盤庫里的資料就成為偵察與審判環(huán)節(jié)的重要證據(jù)。盡管目前技術(shù)尚不支持，業(yè)界仍然期望未來能在TB乃至于PB級的視頻數(shù)據(jù)里搜到一張?zhí)囟ㄉ碛盎蛘吣樋住＿@類搜索/分析技術(shù)未來將是啟動視頻類大數(shù)據(jù)應(yīng)用的引擎。
同樣，基于語音、照片或者文本的分析與數(shù)據(jù)挖掘同樣可以給人類對數(shù)據(jù)的理解帶來革命性的突破。問題在于，這類技術(shù)仍停留在實(shí)驗室階段。
盡管沒有足夠的應(yīng)用，大數(shù)據(jù)仍然不可阻擋地火熱了起來。不扯上大數(shù)據(jù)似乎就要落伍了一樣，大數(shù)據(jù)滿天飛的日子來到了。至于這股潮流到底會演變成象.com一樣的泡沫，還是第三次產(chǎn)業(yè)革命，在華威先生們眼里，已經(jīng)根本不重要了。業(yè)界，數(shù)據(jù)庫/存儲等領(lǐng)域供應(yīng)商當(dāng)然樂見其成，而企業(yè)的IT經(jīng)理們則又多了一個申請預(yù)算的借口。
數(shù)據(jù)的價值及企業(yè)數(shù)據(jù)戰(zhàn)略
數(shù)據(jù)的獲取與存儲仍然是IT建設(shè)的基礎(chǔ)架構(gòu)。一旦決定啟動“大數(shù)據(jù)戰(zhàn)略”，對資源源源不斷的占用使得這一工作黑洞化。如何規(guī)避這種大數(shù)據(jù)黑洞?結(jié)合全球主要行業(yè)領(lǐng)導(dǎo)企業(yè)以及部分小而強(qiáng)的歐洲企業(yè)的成功案例，我認(rèn)為，應(yīng)該以應(yīng)用(分析及業(yè)務(wù)決策)為中心建立相應(yīng)的數(shù)據(jù)戰(zhàn)略，并且隨之建立相應(yīng)的從收集數(shù)據(jù)、管理數(shù)據(jù)到最終業(yè)務(wù)決策的一整套流程。而不是為數(shù)據(jù)而數(shù)據(jù)——首先要建立以應(yīng)用為中心的數(shù)據(jù)戰(zhàn)略。說到應(yīng)用，銀行、保險、汽車、化工等幾乎所有行業(yè)都在開展以數(shù)據(jù)分析為基礎(chǔ)的各種應(yīng)用，以JMP軟件全球行業(yè)案例庫里面的部分典型客戶為例：
電商在分析顧客采購行為數(shù)據(jù),以進(jìn)行促銷和相關(guān)貨品推薦(交叉/提升銷售)
航空公司在調(diào)查旅客反饋,以改進(jìn)空中服務(wù)(客戶挽留)
藥廠在對臨床實(shí)驗數(shù)據(jù)進(jìn)行分析,以判斷新藥的安全性和有效性(研發(fā)新產(chǎn)品)
汽車廠商在對維修信息進(jìn)行分析，以改進(jìn)汽車整車和關(guān)鍵零部件的可靠性以提升客戶滿意度(挽留及獲取客戶)、降低客戶擁有成本和車廠的保修成本(降低成本)
手機(jī)公司在對手機(jī)銷售量進(jìn)行預(yù)測，以合理排產(chǎn)與優(yōu)化庫存(運(yùn)營優(yōu)化)
衛(wèi)生管理部門在運(yùn)用數(shù)據(jù)模型對流行病趨勢進(jìn)行描述、監(jiān)控與預(yù)測
銀行在對客戶服務(wù)流程進(jìn)行優(yōu)化與改善，以提升客戶滿意度
電腦廠商在利用客戶對不同配置組合進(jìn)行市場調(diào)查，以進(jìn)行定價
保險公司在根據(jù)保單出險情況進(jìn)行保單定價的動態(tài)調(diào)整，以確保該產(chǎn)品基本盈利能力
半導(dǎo)體企業(yè)在對制造全流程數(shù)據(jù)進(jìn)行分析/建模/優(yōu)化，以改善工藝，提升良率，從而實(shí)現(xiàn)成本降低與利潤提升
食品公司在利用數(shù)據(jù)分析和市場調(diào)查手段，研發(fā)本地客戶最喜好的口味
快速食品行業(yè)在利用JMP地圖分析工具與人口統(tǒng)計學(xué)相結(jié)合，以進(jìn)行門店選址，客戶獲取及供應(yīng)鏈優(yōu)化
只有足夠有效的應(yīng)用，方可獲取數(shù)據(jù)的價值。企業(yè)只有在戰(zhàn)略層面確立了數(shù)據(jù)分析的重要性，方可持續(xù)改善。以GE為例，六西格瑪及相應(yīng)的數(shù)據(jù)分析流程已經(jīng)成為GE的全球戰(zhàn)略與文化。不僅如何，GE還持續(xù)不懈地推動基于數(shù)據(jù)分析的持續(xù)改善工作。在高端航空發(fā)動機(jī)研發(fā)及GE能源系統(tǒng)業(yè)務(wù)領(lǐng)域方面，GE也與時俱進(jìn)，導(dǎo)入JMP所代表的業(yè)界最高水平的實(shí)驗設(shè)計(DOE)方法，以進(jìn)一步提升其研發(fā)水平。[!--empirenews.page--]
其次，一切都離不開人。與這股指數(shù)級增長的數(shù)據(jù)分析需求相對應(yīng)，統(tǒng)計、分析類人才正成為職場上的稀缺品種和搶手貨。3月初華爾街日報刊登了“全美最搶手職業(yè)排名”，數(shù)據(jù)分析類職位高居榜單第二位。這是美國。對中國來說，或許排名更高，因為稀缺。
最后，建立一整套以數(shù)據(jù)分析及決策流程，以取代傳統(tǒng)的拍腦袋決策體系。這一點(diǎn)對于中國企業(yè)來說尤其需要強(qiáng)調(diào)。這不僅僅是對戰(zhàn)略的有效執(zhí)行，更需要企業(yè)拿出“改變”的決心和勇氣，在制度層面體現(xiàn)出對“改變”的鼓勵和包容。
在這個應(yīng)用為王的年代，對于企業(yè)來說，不論是搭建基礎(chǔ)架構(gòu)還是應(yīng)用軟件，要不要投入，如何投入，其實(shí)是個老話題了，無外乎價值與價格。大數(shù)據(jù)/云計算，不論名字如何變化，邏輯依舊。