回歸分析是研究兩種或兩種以上變量之間相互依賴的定量關系的統計分析方法，在很多行業都有廣泛的應用。無論是銀行、保險、電信等服務行業的業務分析人員在進行數據庫營銷、欺詐風險偵測，還是半導體、電子、化工、醫藥、鋼鐵等制造行業的研發技術人員在進行新產品實驗設計與分析、流程優化與過程監控，或者更廣義地說，不同類型的企業在開展質量管理和六西格瑪項目時，都常常會用到回歸分析。

    回歸分析可以幫助我們判斷哪些因素的影響是顯著的，哪些因素的影響是不顯著的，還可以利用求得的回歸方程進行預測和控制。但是，稍微對回歸模型的有效程度和預測精度有一定要求時，我們就會發現回歸分析有一些先天性的不足和隱患：

    1. 缺少用實際數據驗證模型有效性的環節，經常聽到的抱怨是：模型看上去很美，但是一到應用環節就發現預測不準確；

    2. 建模手段單一，不能多角度地考慮問題，從而更好地擬合數據；

    3. 無法系統地比較通過不同方法得到的不同模型，更談不上在眾多候選模型中甄選出一個相對最佳的模型。

    這時，想要消除上述隱患，突破工具瓶頸的理想辦法就是從“回歸分析”的層次上升到“數據挖掘”的層次。

    數據挖掘是一個更大的數據分析概念，主要指從大量的企業數據中揭示出隱含的、先前未知的并有潛在價值的信息的整個過程。從統計技術層面上講，數據挖掘至少具有三大特征：

    1. 強調分析建模之前的數據源劃分，一般需要將所有原始數據分為模型訓練數據training data、模型驗證數據validation data、模型測試數據test data三類。從而從源頭上確保了由此求得的模型是經得起現實復雜情況的嚴峻考驗。

    2. 提供了豐富的建模手段，除了基于最小二乘法、逐步法和Logistic法等傳統的回歸分析之外，還包括很多新穎又實用的建模技術，如：決策樹(Decision Tree)、神經網絡(Neural Network)、關聯規則(Association Rule)、支持向量機(Support Vector Machine)、文本挖掘(Text Mining)等。這使我們在遇到回歸分析失效的情況下，依然具備解決問題的能力。

    3.“模型比較（Model Comparison）”是數據挖掘后期的過程中必不可少的一個環節，這樣一來，我們就可以科學、客觀地從不同的候選模型中找到最理想的模型來做最精準的預測分析，將預測誤差降低到最低。

    顯然，數據挖掘的這三個特征有效地彌補了回歸分析的不足，為我們的建模預測工作奠定了扎實的基礎。下面用一個真實案例來說明從回歸分析到數據挖掘的實際應用，出于數據安全性的考慮，核心數據（包括變量名稱）已做了相應的編碼處理。

    某知名鋼鐵公司的研發部門在一個構建結構鋼端淬曲線預測模型的項目中，先用用SAS公司面向普通工程師和科學家開發的交互式可視化統計發現軟件JMP中的逐步回歸做了一個預測模型（見下圖）。

圖1 JMP軟件中的回歸分析報表

    從分析報告上來看，這個預測模型還是不錯的。但在模型的推廣過程中，多次發現預測誤差很大，甚至嚴重動搖了技術人員應用統計建模的信心。所幸在權威咨詢機構的指導下，發現造成模型預測失誤的主要原因是模型過度擬合，包含了很多不必要擬合的噪聲信息。項目成員重新思考了技術攻關中需要用到的方法論，最終決定升級到高級版JMP Pro，沒有多做一次現場實驗，沒有申請任何額外預算，卻顯著改善了模型的預測效果，達到了預期效果。

    從技術細節上來看，項目后期與前期的不同之處也恰巧體現了前面所介紹的數據挖掘的三大特征，即：

    第一，沒有囫圇吞棗地把所有數據全都用來構建模型，而是有計劃地按照一定比例將所有數據分為訓練數據、驗證數據、測試數據三類，各類數據各司其職，確保由此產生的模型在生產階段的有效性。

圖2 JMP Pro軟件中的數據分層界面

    第二，開拓思路，有機地運用除了回歸分析之外的多種數據挖掘建模工具，如決策樹、神經網絡，以及其衍生工具（如隨機森林Bootstrap Forest、提升樹Boosted Tree等），避免了由于單一方法的生搬硬套而導致的建模錯誤。

圖3 JMP Pro軟件中的決策樹結構圖

圖4 JMP Pro軟件中的神經網絡結構圖

    第三，先松后緊，整合之前求得的各個候選模型，將科學嚴謹的統計量化指標與實際業務經驗相結合，挑選出整體上最合適的預測模型，體現了“博采眾長，取長補短”的建模理念。

圖5 JMP Pro軟件中的模型比較輸出報表

    總之，“從回歸分析到數據挖掘”是企業在精細化管理發展到一定階段后必定會遇到的一個問題。當然，相對于傳統的回歸分析，數據挖掘會顯得相對復雜一些。但是，融合先進算法而關注界面友好的現代化統計分析軟件（如案例中用到的JMP Pro軟件），已經大大降低了數據挖掘的技術門檻，使得無論是科班出身的統計學家，還是沒有統計學功底的普通技術人員，都能快速上手，真正地數據中挖掘出對企業運營有益的信息。

核心關注：拓步ERP系統平臺是覆蓋了眾多的業務領域、行業應用，蘊涵了豐富的ERP管理思想，集成了ERP軟件業務管理理念，功能涉及供應鏈、成本、制造、CRM、HR等眾多業務領域的管理，全面涵蓋了企業關注ERP管理系統的核心領域，是眾多中小企業信息化建設首選的ERP管理軟件信賴品牌。

轉載請注明出處：拓步ERP資訊網http://www.guhuozai8.cn/

本文標題：從回歸分析到數據挖掘

本文網址：http://www.guhuozai8.cn/html/consultation/1083936156.html