大數據時代,你該怎么分析數據?
大數據時代究竟意味著什么?更多數據——理論上,全部數據都可以納入收集、挖掘、分析和利用的范疇。正如牛津大學網絡學院互聯網研究所治理與監管專業教授維克托·邁爾-舍恩伯格在其所著的《大數據時代》一書中指出的,“我們可以分析更多的數據,有時候甚至可以處理和某個特別現象相關的所有數據,而不再依賴于隨機采樣”。
《大數據時代》也指出,海量數據納入分析,必然意味著甄別、篩除,并由此帶來誤差和相對精確的結果。“誤差”和“相對精確”是什么意思呢?基于計算機和互聯網的系統服務、軟件服務仍不免出現出錯乃至面臨崩潰,比如,殺毒軟件會發生“錯殺”、“誤殺”,手機里的防騷擾軟件有時會對通訊錄里邊的已有號碼開展攔截,最可靠的電子郵箱仍不免將明明很安全的郵件驅逐到“垃圾郵箱”。
紐約大學統計系教授馮啟思(Kaiser Fung)在《數據統治世界》一書中,對大數據時代到來背景下,數據挖掘分析所需遵循的統計規律及其應用進行了深入而頗具趣味的探討。馮啟思以反興奮劑組織為例,更深入的探討了誤差和相對精確問題。
對于反興奮劑組織而言,“假陰性”、“假陽性”或許是永遠無法避免的尷尬,前者指的是服用禁藥卻通過某種方式主動或檢測機構的疏漏,而錯誤檢測為隱性,以類固醇檢測為例,每確認一個使用就要漏過十個“假陰性”;后者則指沒有服用過禁藥的無辜者,卻被藥檢為陽性。“假陽性”與正確的藥檢隱性的比例達到了1:899。藥檢檢測機構面對的一個消長關系是:假陽性少了,假陰性就多了,反之亦然,即放寬檢測的某些指標,可以減少乃至防止無辜者被錯檢為假陽性的可能;收緊某些指標,就會減少服用禁藥者逃過處罰的比率,看上去,這是個均衡的風險等式。實則不然,錯檢無辜者的假陽性事件,會給體育部門、反興奮劑組織帶來極大壓力,招致運動員工會、媒體和公眾的強烈抨擊;假陰性引起的批評就要少得多,因為沒有直接的、個人化的受害者。因此,檢測機構會盡量避免假陽性發生,容忍“假陽性”的存在,寧可放過十個,也絕不冤枉一個。
在一些國家和地區,刑事案件偵辦以及反恐機構開展中運用到的測謊,則出現了反向偏向,造成大量的無辜者被認定為罪犯或恐怖主義組織成員,為其沒有犯下的罪行錯誤承擔責任。值得注意的是,無論是反興奮劑檢測,還是反恐檢查,都較早的體現了大數據海量采集數據的理念,應用并不斷更新升級數據挖掘與分析的技術,但仍不能避免假陽性和假陰性兩類誤差帶來的極大代價(經濟代價和社會代價),甚至可能因錯誤檢測和冤案葬送公眾對反恐體系、司法體制的信心。很顯然,大數據時代在誤差不可避免的情況下,要在假陽性和假陰性兩類誤差之間取得某種平衡,讓誤差造成的社會總成本趨于最低,而這也才是相對精確的要義所在。
數據挖掘與分析,所對應的是“統計式思維”。馮啟思在《數據統治世界》這本書中分別談及了平均數與差異性、隨機模型和相關模型、組別差異、精確與誤差、小概率等“統計式思維”涉及到的重要概念。歸結他的觀點,第一,數據分析要避免陷入平均化誤區,要努力辨識發現數據差異性。舉例來說,百年一遇的災害,并不能理解為在一百年內每一年的災害風險只有1%,事實上很多保險公司在償付巨災后的賠款時迅速滑向破產,就源于對災害風險極端變異性和空間集中性的忽略。第二,要挖掘數據之間的相關性,而不能僅僅停留于因果性。第三,要善于建立標準對數據開展分類分組分析,也就是實現更趨精確的比較。第四,重視風險,但要避免將過多資源投放到防止或爭取某些小概率事件發生之上。這些要點不僅是大數據時代值得重視和遵循的數據挖掘分析重要原則,而且也有助于人們更好、更為深入的認識社會復雜系統,借助數據挖掘分析的力量改善工作與生活。
責任編輯:小沈
-
權威發布 | 新能源汽車產業頂層設計落地:鼓勵“光儲充放”,有序推進氫燃料供給體系建設
2020-11-03新能源,汽車,產業,設計 -
中國自主研制的“人造太陽”重力支撐設備正式啟運
2020-09-14核聚變,ITER,核電 -
探索 | 既耗能又可供能的數據中心 打造融合型綜合能源系統
2020-06-16綜合能源服務,新能源消納,能源互聯網
-
新基建助推 數據中心建設將迎爆發期
2020-06-16數據中心,能源互聯網,電力新基建 -
泛在電力物聯網建設下看電網企業數據變現之路
2019-11-12泛在電力物聯網 -
泛在電力物聯網建設典型實踐案例
2019-10-15泛在電力物聯網案例
-
權威發布 | 新能源汽車產業頂層設計落地:鼓勵“光儲充放”,有序推進氫燃料供給體系建設
2020-11-03新能源,汽車,產業,設計 -
中國自主研制的“人造太陽”重力支撐設備正式啟運
2020-09-14核聚變,ITER,核電 -
能源革命和電改政策紅利將長期助力儲能行業發展
-
探索 | 既耗能又可供能的數據中心 打造融合型綜合能源系統
2020-06-16綜合能源服務,新能源消納,能源互聯網 -
5G新基建助力智能電網發展
2020-06-125G,智能電網,配電網 -
從智能電網到智能城市