您好,歡迎來到易龍商務網!
發布時間:2021-10-27 01:54  
【廣告】





1、傳統關系模型的擴充關系模型實際上還是管理信息系統重要的支撐模型,在此基礎之上,引入新的手段,使之能表達更加復雜的數據關系,擴大其實用性,提高建模能力。從總體上看,擴充一般在兩個方面進行。一是實現關系模型嵌套,這種方式可以實現“表中表”這類較為復雜的數據模型;二是語義擴充,如支持關系繼承及關系函數等。
我們通過“體系感”來把控自己,通過圖紙來建立高樓大廈。同樣,我們可以通過“數據模型”來管理我們的數據。
數據模型就是數據的組織和存儲方法,它強調了從業務、數據存取和使用角度合理存儲數據、有了適合業務和基礎數據存儲環境的模型,那么大數據就會獲得以下好處:
性能
良好的數據模型你幫助我們快速查詢所需要的數據,減少數據的IO吞吐。
成本
良好的數據模型能極大地減少不必要的數據冗余,也能實現計算結果復用,極大地降低大數據系統中的存儲和計算成本。
效率
良好的數據模型能極大地改善用戶使用數據的體驗,提高使用數據的效率。
質量
良好的數據模型能改善數據統計口徑的不一致性,減少計算錯誤的可能下。
維度建模
1、維度和指標的概念
按照維度表、事實表構建數據模型,通過指標評價企業經營活動。
維度一般包括:地區、時間、部門、產品等等。
指標一般包括:銷售數量、銷售金額、平均銷售金額等等。
2、星型模型
星型模是一種多維的數據關系,它由一個事實表和一組維表組成。每個維表都有一個維作為主鍵,所有這些維的主鍵組合成事實表的主鍵。強調的是對維度進行預處理,將多個維度集合到一個事實表,形成一個寬表。這也是我們在使用 hive 時,經常會看到一些大寬表的原因,大寬表一般都是事實表,包含了維度關聯的主鍵和一些度量信息,而維度表則是事實表里面維度的具體信息,使用時候一般通過 join 來組合數據,相對來說對OLAP 的分析比較方便。
數據建模的具體過程可分為六大步驟:
一、制訂目標
制訂目標的前提是理解業務,明確要解決的商業現實問題是什么?
如:在社交平臺KOL中,存在假粉絲的情況,如何識別假粉就是一個要解決的現實問題。
二、數據理解與準備
基于要解決的現實問題,理解和準備數據,一般需要解決以下問題:
1.需要哪些數據指標(即特征提取)?(如:哪些指標能區別真粉和假粉?)
2.數據指標的含義是什么?
3.數據的質量如何?(如:是否存在缺失值?)
4.數據能否滿足需求?
5.數據還需要如何加工?(如:轉換數據指標,將類別型變量轉化為0-1啞變量,或將連續型數據轉化為有序變量)
6.探索數據中的規律和模式,進而形成假設。
需要注意的是,數據準備工作可能需要嘗試多次。因為在復雜的大型數據中,較難發現數據中存在的模式,初步形成的假設可能會被很快推到,這時一定要靜心鉆研,不斷試錯。
數據建模后需要評估模型的效果,因此一般需要將數據分為訓練集和測試集。