異常數據分析方法

1. 如何剔除數據中的異常值

剔除數據中的異常值的方法：

一、異常值檢測

異常值的檢驗有很多種方法，最常見的是圖示法，也有使用分析方法進行探索。

箱盒圖：實驗研究時經常使用，非常直觀的展示出異常數據。

散點圖：研究X和Y的關系時，可直觀展示查看是否有異常數據。

描述分析：可通過最大最小值等各類指標大致判斷數據是否有異常。

其它：比如結合正態分布圖，頻數分析等判斷是否有異常值。

二、異常值判定

上述已經說明異常值會帶來嚴重的影響，扭曲數據結論等。那麼首先需要設定異常值的標准，然後再對其進行處理。異常值的判定標准並不統一，更多是通過人為標准進行設定，SPSSAU提供以下幾類判定規則：

1、設置為Null值；此類處理最簡單，而且絕大多數情況下均使用此類處理；直接將異常值「幹掉」，相當於沒有該異常值。如果異常值不多時建議使用此類方法。

2、填補；如果異常值非常多時，則可能需要進行填補設置，SPSSAU共提供平均值，中位數，眾數和隨機數共四種填補方式。建議使用平均值填補方式。

2. 如何剔除數據中的異常值

剔除數據中的異常值的方法：

箱盒圖：實驗研究時經常使用，非常直觀的展示出異常數據。

散點圖：研究X和Y的關系時，可直觀展示查看是否有異常數據。

描述分析：可通過最大最小值等各類指標大致判斷數據是否有異常。

其它：比如結合正態分布圖，頻數分析等判斷是否有異常值。

定義：

異常值outlier：一組測定值中與平均值的偏差超過兩倍標准差的測定值 。與平均值的偏差超過三倍標准差的測定值，稱為高度異常的異常值。在處理數據時，應剔除高度異常的異常值。異常值是否剔除，視具體情況而定。

在統計檢驗時，指定為檢出異常值的顯著性水平α=0.05，稱為檢出水平；指定為檢出高度異常的異常值的顯著性水平α=0.01，稱為舍棄水平，又稱剔除水平(reject level)。

3. 如何判別測量數據中是否有異常值

一般異常值的檢測方法有基於統計的方法，基於聚類的方法，以及一些專門檢測異常值的方法等，下面對這些方法進行相關的介紹。

1. 簡單統計

如果使用pandas，我們可以直接使用describe()來觀察數據的統計性描述（只是粗略的觀察一些統計量），不過統計數據為連續型的，如下：

df.describe()紅色箭頭所指就是異常值。

以上是常用到的判斷異常值的簡單方法。下面來介紹一些較為復雜的檢測異常值演算法，由於涉及內容較多，僅介紹核心思想，感興趣的朋友可自行深入研究。

4. 基於模型檢測

這種方法一般會構建一個概率分布模型，並計算對象符合該模型的概率，把具有低概率的對象視為異常點。如果模型是簇的集合，則異常是不顯著屬於任何簇的對象；如果模型是回歸時，異常是相對遠離預測值的對象。

離群點的概率定義：離群點是一個對象，關於數據的概率分布模型，它具有低概率。這種情況的前提是必須知道數據集服從什麼分布，如果估計錯誤就造成了重尾分布。

比如特徵工程中的RobustScaler方法，在做數據特徵值縮放的時候，它會利用數據特徵的分位數分布，將數據根據分位數劃分為多段，只取中間段來做縮放，比如只取25%分位數到75%分位數的數據做縮放。這樣減小了異常數據的影響。

優缺點：（1）有堅實的統計學理論基礎，當存在充分的數據和所用的檢驗類型的知識時，這些檢驗可能非常有效；（2）對於多元數據，可用的選擇少一些，並且對於高維數據，這些檢測可能性很差。

5. 基於近鄰度的離群點檢測

統計方法是利用數據的分布來觀察異常值，一些方法甚至需要一些分布條件，而在實際中數據的分布很難達到一些假設條件，在使用上有一定的局限性。

確定數據集的有意義的鄰近性度量比確定它的統計分布更容易。這種方法比統計學方法更一般、更容易使用，因為一個對象的離群點得分由到它的k-最近鄰（KNN）的距離給定。

需要注意的是：離群點得分對k的取值高度敏感。如果k太小，則少量的鄰近離群點可能導致較低的離群點得分；如果K太大，則點數少於k的簇中所有的對象可能都成了離群點。為了使該方案對於k的選取更具有魯棒性，可以使用k個最近鄰的平均距離。

優缺點：（1）簡單；（2）缺點：基於鄰近度的方法需要O(m2)時間，大數據集不適用；（3）該方法對參數的選擇也是敏感的；（4）不能處理具有不同密度區域的數據集，因為它使用全局閾值，不能考慮這種密度的變化。

5. 基於密度的離群點檢測

從基於密度的觀點來說，離群點是在低密度區域中的對象。基於密度的離群點檢測與基於鄰近度的離群點檢測密切相關，因為密度通常用鄰近度定義。一種常用的定義密度的方法是，定義密度為到k個最近鄰的平均距離的倒數。如果該距離小，則密度高，反之亦然。另一種密度定義是使用DBSCAN聚類演算法使用的密度定義，即一個對象周圍的密度等於該對象指定距離d內對象的個數。

優缺點：（1）給出了對象是離群點的定量度量，並且即使數據具有不同的區域也能夠很好的處理；（2）與基於距離的方法一樣，這些方法必然具有O(m2)的時間復雜度。對於低維數據使用特定的數據結構可以達到O(mlogm)；（3）參數選擇是困難的。雖然LOF演算法通過觀察不同的k值，然後取得最大離群點得分來處理該問題，但是，仍然需要選擇這些值的上下界。

6. 基於聚類的方法來做異常點檢測

基於聚類的離群點：一個對象是基於聚類的離群點，如果該對象不強屬於任何簇，那麼該對象屬於離群點。

離群點對初始聚類的影響：如果通過聚類檢測離群點，則由於離群點影響聚類，存在一個問題：結構是否有效。這也是k-means演算法的缺點，對離群點敏感。為了處理該問題，可以使用如下方法：對象聚類，刪除離群點，對象再次聚類（這個不能保證產生最優結果）。

優缺點：（1）基於線性和接近線性復雜度（k均值）的聚類技術來發現離群點可能是高度有效的；（2）簇的定義通常是離群點的補，因此可能同時發現簇和離群點；（3）產生的離群點集和它們的得分可能非常依賴所用的簇的個數和數據中離群點的存在性；（4）聚類演算法產生的簇的質量對該演算法產生的離群點的質量影響非常大。

7. 專門的離群點檢測

其實以上說到聚類方法的本意是是無監督分類，並不是為了尋找離群點的，只是恰好它的功能可以實現離群點的檢測，算是一個衍生的功能。

4. 是什麼分析方法比較適合當前基於公安交通管理綜合應用平台的異常業務數據分析

咨詢記錄 · 回答於2021-10-09

5. 異常檢測有哪些主要的分析方法

1. 概率統計方法
在基於異常檢測技術的IDS中應用最早也是最多的一種方法。
首先要對系統或用戶的行為按照一定的時間間隔進行采樣，樣本的內容包括每個會話的登錄、退出情況，CPU和內存的佔用情況，硬碟等存儲介質的使用情況等。
將每次採集到的樣本進行計算，得出一系列的參數變數對這些行為進行描述，從而產生行為輪廓，將每次采樣後得到的行為輪廓與已有輪廓進行合並，最終得到系統和用戶的正常行為輪廓。IDS通過將當前採集到的行為輪廓與正常行為輪廓相比較，來檢測是否存在網路入侵行為。
2. 預測模式生成法
假設條件是事件序列不是隨機的而是遵循可辨別的模式。這種檢測方法的特點是考慮了事件的序列及其相互聯系，利用時間規則識別用戶行為正常模式的特徵。通過歸納學習產生這些規則集，並能動態地修改系統中的這些規則，使之具有較高的預測性、准確性。如果規則在大部分時間是正確的，並能夠成功地運用預測所觀察到的數據，那麼規則就具有高可信度。
3. 神經網路方法
基本思想是用一系列信息單元(命令)訓練神經單元，這樣在給定一組輸入後、就可能預測出輸出。與統計理論相比，神經網路更好地表達了變數間的非線性關系，並且能自動學習並更新。實驗表明UNIX系統管理員的行為幾乎全是可以預測的，對於一般用戶，不可預測的行為也只佔了很少的一部分。

6. 怎麼對統計數據的異常值進行判斷和處理

異常值，指的是樣本中的一些數值明顯偏離其餘數值的樣本點，所以也稱為離群點。異常值分析就是要將這些離群點找出來，然後進行分析。

異常值判斷

在不同的數據中，鑒別異常值有不同的標准，常規有以下幾種：

（1）數字超過某個標准值

這是最常用的異常值判斷方法之一。主要是看數據中的最大值或最小值，依據專業知識或個人經驗，判斷是否超過了理論范圍值，數據中有沒有明顯不符合實際情況的錯誤。

比如，測量成年男性身高（M），出現17.8m這樣的數據，顯然不符合實際情況。

又或者，如問卷數據使用1-5級量表進行研究，出現-2，-3這類數據，則可能提示為跳轉題、空選等。

（2）數據大於±3標准差

3σ 原則是在數據服從正態分布的時候用的比較多，在這種情況下，異常值被定義為一組測定值中與平均值的偏差超過3倍標准差的值。

在數據處理的時候，按照正態分布的性質，三個標准差以外的數據都可以被看作是錯誤的數據從而排除掉。

7. 數據分析方法

常見的分析方法有：分類分析，矩陣分析，漏斗分析，相關分析，邏輯樹分析，趨勢分析，行為軌跡分析，等等。 我用HR的工作來舉例，說明上面這些分析要怎麼做，才能得出洞見。

01） 分類分析
比如分成不同部門、不同崗位層級、不同年齡段，來分析人才流失率。比如發現某個部門流失率特別高，那麼就可以去分析。

02） 矩陣分析
比如公司有價值觀和能力的考核，那麼可以把考核結果做出矩陣圖，能力強價值匹配的員工、能力強價值不匹配的員工、能力弱價值匹配的員工、能力弱價值不匹配的員工各佔多少比例，從而發現公司的人才健康度。

03） 漏斗分析
比如記錄招聘數據，投遞簡歷、通過初篩、通過一面、通過二面、通過終面、接下Offer、成功入職、通過試用期，這就是一個完整的招聘漏斗，從數據中，可以看到哪個環節還可以優化。

04） 相關分析
比如公司各個分店的人才流失率差異較大，那麼可以把各個分店的員工流失率，跟分店的一些特性（地理位置、薪酬水平、福利水平、員工年齡、管理人員年齡等）要素進行相關性分析，找到最能夠挽留員工的關鍵因素。

05） 邏輯樹分析
比如近期發現員工的滿意度有所降低，那麼就進行拆解，滿意度跟薪酬、福利、職業發展、工作氛圍有關，然後薪酬分為基本薪資和獎金，這樣層層拆解，找出滿意度各個影響因素裡面的變化因素，從而得出洞見。

06） 趨勢分析
比如人才流失率過去12個月的變化趨勢。

07）行為軌跡分析
比如跟蹤一個銷售人員的行為軌跡，從入職、到開始產生業績、到業績快速增長、到疲憊期、到逐漸穩定。

8. 常用的數據分析方法有哪些

常見的數據分析方法有哪些？
1.趨勢分析
當有大量數據時，我們希望更快，更方便地從數據中查找數據信息，這時我們需要使用圖形功能。所謂的圖形功能就是用EXCEl或其他繪圖工具來繪制圖形。
趨勢分析通常用於長期跟蹤核心指標，例如點擊率，GMV和活躍用戶數。通常，只製作一個簡單的數據趨勢圖，但並不是分析數據趨勢圖。它必須像上面一樣。數據具有那些趨勢變化，無論是周期性的，是否存在拐點以及分析背後的原因，還是內部的或外部的。趨勢分析的最佳輸出是比率，有環比，同比和固定基數比。例如，2017年4月的GDP比3月增加了多少，這是環比關系，該環比關系反映了近期趨勢的變化，但具有季節性影響。為了消除季節性因素的影響，引入了同比數據，例如：2017年4月的GDP與2016年4月相比增長了多少，這是同比數據。更好地理解固定基準比率，即固定某個基準點，例如，以2017年1月的數據為基準點，固定基準比率是2017年5月數據與該數據2017年1月之間的比較。
2.對比分析
水平對比度：水平對比度是與自己進行比較。最常見的數據指標是需要與目標值進行比較，以了解我們是否已完成目標；與上個月相比，要了解我們環比的增長情況。
縱向對比：簡單來說，就是與其他對比。我們必須與競爭對手進行比較以了解我們在市場上的份額和地位。
許多人可能會說比較分析聽起來很簡單。讓我舉一個例子。有一個電子商務公司的登錄頁面。昨天的PV是5000。您如何看待此類數據？您不會有任何感覺。如果此簽到頁面的平均PV為10,000，則意味著昨天有一個主要問題。如果簽到頁面的平均PV為2000，則昨天有一個跳躍。數據只能通過比較才有意義。
3.象限分析
根據不同的數據，每個比較對象分為4個象限。如果將IQ和EQ劃分，則可以將其劃分為兩個維度和四個象限，每個人都有自己的象限。一般來說，智商保證一個人的下限，情商提高一個人的上限。
說一個象限分析方法的例子，在實際工作中使用過：通常，p2p產品的注冊用戶由第三方渠道主導。如果您可以根據流量來源的質量和數量劃分四個象限，然後選擇一個固定的時間點，比較每個渠道的流量成本效果，則該質量可以用作保留的總金額的維度為標准。對於高質量和高數量的通道，繼續增加引入高質量和低數量的通道，低質量和低數量的通過，低質量和高數量的嘗試策略和要求，例如象限分析可以讓我們比較和分析時間以獲得非常直觀和快速的結果。
4.交叉分析
比較分析包括水平和垂直比較。如果要同時比較水平和垂直方向，則可以使用交叉分析方法。交叉分析方法是從多個維度交叉顯示數據，並從多個角度執行組合分析。
分析應用程序數據時，通常分為iOS和Android。
交叉分析的主要功能是從多個維度細分數據並找到最相關的維度，以探究數據更改的原因。

9. 如何做數據分析

數據分析行業應用,一般數據來源：智能手機 感知裝置 物聯網 社群媒體等 雲計算存儲.cda官網有很多行業案例,比如
風能發電業務場景
風力發電機有一個葉片，時間長了就要換，否則不安全，過去這個葉片一般10年換一次，因為沒辦法知道具體產品的使用情況，只能根據以往葉片老化的情況來估算。但這家公司在葉片上裝了感測器，就能檢測每個葉片的具體使用情況了，風大的地方，葉片老化快，可能8年就要換，風力均勻的地方，有些葉片可能用15年，這樣就能節省資本更新的成本了。
而且，過去這家公司只生產設備，這些設備被賣到國外，具體安裝到什麼地方，他是不知道的，有了感測器，公司就能知道這些發電機被安裝到哪裡，這些地方的風力是大是小，一年四季哪天有風哪天有雨，這些數據都可以獲取。根據這些數據，就能知道哪些地區風力資源豐富，有重點地規劃未來市場。傳統的行業利用大數據，就能更好地實現市場預判和銷售提升，分分鍾實現逆襲。