① R語言之決策樹和隨機森林
R語言之決策樹和隨機森林
總結決策樹之前先總結一下特徵的生成和選擇，因為決策樹就是一種內嵌型的特徵選擇過程，它的特徵選擇和演算法是融合在一起的，不需要額外的特徵選擇。
一、特徵生成：
特徵生成是指在收集數據之時原始數據就具有的數據特徵，這些數據特徵由收集的數據決定（其實也就是在產品定型時設定的需要收集的數據特徵），當然，在數據預處理時，也可以在此基礎上構造一些新的數據特徵，這些特徵越多越好，表示你考慮問題比較周全，具體那些變數有用或沒用，這要交給下一步特徵選擇來決定。
二、特徵選擇
特徵選擇是指在原有數據特徵的基礎上，去除重要性比較低的特徵變數，過濾出有用的特徵變數。這里比較困難的是搞清楚什麼樣的特徵比較重要？這需要根據具體的問題具體分析，有些變數的選擇可以很直觀的看出來，但這種直覺也不一定正確。對於常用特徵選擇方法主要有：過濾型、包裝型、內嵌型。
過濾型：是指你可以根據某個統計量的大小排序來選擇特徵變數，如相關系數、p值、R值等
包裝型：是指在一個特徵集合中選取最優的特徵子集。具體需要考慮：用什麼樣的演算法來選取？選取的最優的標準是什麼？
常用的演算法是分步回歸包括向前搜索、向後刪除、雙向搜索
向前搜索：每次選取一個能使模型預測或分類效果最好的特徵變數進來，進來後不退出，直到模型改善效果不再明顯；
向後刪除：是指每次從特徵全集中每次刪除一個特徵變數能使模型預測或分類效果最好，退出後不進來，直到模型改善效果不再明顯；
雙向搜索：是指每次每次刪除一個特徵變數或加入一個特徵變數能使模型預測或分類效果最好，退出的不進來，進來的不退出，直到模型改善效果不再明顯；
這里再提一下特徵變數選擇的幾個標准：p值、R值、AIC（越小效果越好）、BIC（越小效果越好）、熵（越小效果越好）
內嵌型：這里應該主要就是像決策樹這樣的情況，演算法內部完成特徵變數的選取。
三、決策樹
決策的幾個要點：1、如何決策？（也就是如何樹如何分叉）------熵和信息增益---這裡麵包含的就是特徵的選擇？哪個特徵變數包含的信息量大，就排在前面，至於最後樹的深度就決定特徵變數的個數。
當然不同的演算法使用的衡量的標准不同，還有：信息增益比、基尼不純系數
2、如何剪枝？-----一般是事後剪枝
3、連續性變數如何離散化？-----閾值的選擇
熵：是指信息的混合程度（混亂程度），熵【0-1】越大表示該集合中混合的信息越多，也就表明這次的分叉效果不好還是有很多不同類的信息混在一起
信息增益：熵值的減少量，越大越好
決策樹模型特點：模型易於解釋；存儲空間較小，以樹的形式存儲，決策樹是一個弱分類器，不能完全分類，需要把多個弱分類器通過多數投票法組合在一起。
四、R包實現決策樹
library(rpart)
library(rpart.plot)
## rpart.control對樹進行一些設置
## xval是10折交叉驗證
## minsplit是最小分支節點數，這里指大於等於20，那麼該節點會繼續分劃下去，否則停止
## minbucket：葉子節點最小樣本數
## maxdepth：樹的深度
## cp全稱為complexity parameter，指某個點的復雜度，對每一步拆分,模型的擬合優度必須提高的程度
ct <- rpart.control(xval=10, minsplit=20, cp=0.1)
## kyphosis是rpart這個包自帶的數據集
## na.action：缺失數據的處理辦法，默認為刪除因變數缺失的觀測而保留自變數缺失的觀測。
## method：樹的末端數據類型選擇相應的變數分割方法:
## 連續性method=「anova」,離散型method=「class」,計數型method=「poisson」,生存分析型method=「exp」
## parms用來設置三個參數:先驗概率、損失矩陣、分類純度的度量方法（gini和information）
## cost是損失矩陣，在剪枝的時候，葉子節點的加權誤差與父節點的誤差進行比較，考慮損失矩陣的時候，從將「減少-誤差」調整為「減少-損失」
data("Kyphosis")
fit <- rpart(Kyphosis~Age + Number + Start,data=kyphosis, method="class",control=ct,parms = list(prior = c(0.65,0.35), split = "information"));
## 作圖有2種方法
## 第一種：
par(mfrow=c(1,3));plot(fit); text(fit,use.n=T,all=T,cex=0.9)
## 第二種，這種會更漂亮一些：
rpart.plot(fit, branch=1, branch.type=2, type=1, extra=102,
shadow.col="gray", box.col="green",
border.col="blue", split.col="red",
split.cex=1.2, main="Kyphosis決策樹");
## rpart包提供了復雜度損失修剪的修剪方法，printcp會告訴分裂到每一層，cp是多少，平均相對誤差是多少
## 交叉驗證的估計誤差（「xerror」列），以及標准誤差(「xstd」列)，平均相對誤差=xerror±xstd
printcp(fit)
## 通過上面的分析來確定cp的值
##調用CP（complexity parameter）與xerror的相關圖，一種方法是尋找最小xerror點所對應
#的CP值，並由此CP值決定樹的大小，另一種方法是利用1SE方法，尋找xerror+SE的最小點對應的CP值。
plotcp(fit)
##利用以下方法進行修剪：
## prune(fit, cp= fit$cptable[which.min(fit$cptable[,"xerror"]),"CP"])
fit2 <- prune(fit, cp=0.01)
#利用模型預測
ndata=data.frame(...)
predict(fit,newdata=ndata)
#案例
str(iris)
set.seed(1234)#設置隨機數種子--使每次運行時產生的一組隨機數相同，便於結果的重現
#抽樣：從iris數據集中隨機抽70%定義為訓練數據集，30%為測試數據集（常用）
#這里是對行抽樣,ind是一個只含1和2的向量
ind <- sample(2, nrow(iris), replace=TRUE, prob=c(0.7, 0.3))
trainData <- iris[ind==1,]
testData <- iris[ind==2,]
f<-Species ~ Sepal.Length + Sepal.Width + Petal.Length + Petal.Width
#訓練數據
fit<-rpart(f,trainData)
#預測
re<-predict(fit,testData)
#******************或者用其他包********************
library(party)
#建立決策樹模型預測花的種類
myFormula <- Species ~ Sepal.Length + Sepal.Width + Petal.Length + Petal.Width
iris_ctree <- ctree(myFormula, data=trainData)
# 查看預測的結果
z<-table(predict(iris_ctree), trainData$Species)
#可以根據以上列聯表求出預測的正確率---評估模型
#計算準確度
q<-sum(diag(z))/sum(z)
五、機器集成與隨機森林法則
前面說過，決策樹的一個特點是：弱分類器，分類不完全，需要利用集成投票的方式來增加精確度和穩健性。
機器集成演算法：對於數據集訓練多個模型，對於分類問題，可以採用投票的方法，選擇票數最多的類別作為最終的類別，而對於回歸問題，可以採用取均值的方法，取得的均值作為最終的結果。主要的集成演算法有bagging和adaboost演算法。
隨機森林：隨機森林就是利用機器集成多個決策樹，主要有兩個參數，一個是決策樹的個數，一個是每棵樹的特徵變數個數。
隨機森林特點：精確度高、穩健性好，但可解釋性差。(可以知道各個變數的重要性)
R包實現機器集成演算法：
#adabag包均有函數實現bagging和adaboost的分類建模
#利用全部數據建模
library(adabag)
a<-boosting(Species~.,data=iris)
z0<-table(iris[,5],predict(a,iris)$class)
#計算誤差率
E0<-(sum(z0)-sum(diag(z0)))/sum(z0)
barplot(a$importance)
b<-errorevol(a,iris)#計算全體的誤差演變
plot(b$error,type="l",main="AdaBoost error vs number of trees") #對誤差演變進行畫圖
a<-bagging(Species~.,data=iris)
z0<-table(iris[,5],predict(a,iris)$class)
#計算誤差率
E0<-(sum(z0)-sum(diag(z0)))/sum(z0)
barplot(a$importance)
b<-errorevol(a,iris)#計算全體的誤差演變
plot(b$error,type="l",main="AdaBoost error vs number of trees") #對誤差演變進行畫圖
#5折交叉驗證
set.seed(1044) #設定隨機種子
samp=c(sample(1:50,25),sample(51:100,25),sample(101:150,25)) #進行隨機抽樣
a=boosting(Species~.,data=iris[samp,]) #利用訓練集建立adaboost分類模
z0<-table(iris[samp,5],predict(a,iris[samp,])$class)#訓練集結果
z1<-table(iris[-samp,5],predict(a,iris[-samp,])$class)#測試集結果
E0<-(sum(z0)-sum(diag(z0)))/sum(z0)
E1<-(sum(z0)-sum(diag(z0)))/sum(z1)
a=bagging(Species~.,data=iris[samp,]) #利用訓練集建立adaboost分類模
z0<-table(iris[samp,5],predict(a,iris[samp,])$class)#訓練集結果
z1<-table(iris[-samp,5],predict(a,iris[-samp,])$class)#測試集結果
E0<-(sum(z0)-sum(diag(z0)))/sum(z0)
E1<-(sum(z0)-sum(diag(z0)))/sum(z1)
R包實現隨機森林：
#隨機森林法則
library(randomForest)
library(foreign)
data("iris")
#抽樣數據
ind<-sample(2,nrow(iris),replace = TRUE,prob=c(0.7,0.3))
traning<-iris[ind==1,]
testing<-iris[ind==2,]
#訓練數據
rf <- randomForest(Species ~ ., data=traning, ntree=100, proximity=TRUE)
#預測
table(predict(rf),traning$Species)
table(predict(rf,testing),testing$Species)
#查看預測的效果
print(rf)
plot(rf)
#查看重要性
importance(rf)
varImpPlot(rf)
② R語言進行PCoA分析
#PCoA 分析在R語言中進行主要依賴於以下得包，進行這個分析得主要可以應用於形態學數據得相似與差異性分析。
library(ade4)
library(ggplot2)
library(RColorBrewer)
library(vegan)
這里我們使用R自帶得數據iris
data(iris)
在R語言中通常都會使用這個數據進行案例分析
#iris
data(iris)
iris
data01<-iris[,-5]#數據預處理，去掉最後一列得數據標簽
data01
dis01<-vegdist(data01,method = "euclidean")#這里是為了算矩陣距離，方法根據數據選擇合適得方法
dis01
pcoa1<- di.pco(dis01, scan = FALSE,nf=3)#進行PCoA分析
pcoa1
pcoa1_eig<-pcoa1$eig[1:2]/sum(pcoa1$eig)#算一下前兩列對整個數據得解釋比例
pcoa1_eig
samplesite1<-data.frame({pcoa1$li})[1:2]#將前兩列的數據分析結果放到sample_site1裡面
sample_site1
sample_site1$names<-rownames(sample_site1)#設置名稱
sample_site1$names
iris$Species
sample_site1$level<-factor(iris$Species,levels = c("setosa","versicolor","virginica"))#設置level的標簽
sample_site1$level
names(sample_site1)[1:2]<-c("PCoA1","PCoA2")
p<-ggplot(sample_site1, mapping=aes(PCoA1, PCoA2,color=level))+theme_classic()
p<-p+geom_point()#繪制散點圖
p
③ 【R語言 第3篇】用R進行主成分分析
主成分分析和探索性因子分析是兩種用來探索和簡化多變數復雜關系的常用方法。
主成分分析（PCA）是一種將數據降維技巧，它將大量相關變數轉化成一組很少的不相關變數，這些無相關變數稱為主成分。
探索性因子分析（EFA）是一系列用來發現一組變數的潛在結構的方法。
R基礎安裝包提供了PCA和EFA的函數，分別是princomp()和factanal()。本章重點介紹psych包中提供的函數，該包提供了比基礎函數更豐富和有用的選項。
最常見步驟
1、數據預處理，在計算前請確保數據沒有缺失值；
2、選擇因子模型，是選擇PCA還是EFA，如果選擇EFA，需要選擇一種估計因子模型，如最大似然法估計；
3、判斷要選擇的主成分/因子數目；
4、選擇主成分/因子；
5、旋轉主成分/因子；
6、解釋結果；
7、計算主成分或因子得分。
載入psych包
library(ggplot2)
library(psych)
展示基於觀測特徵值的碎石檢驗、根據100個隨機數據矩陣推導出來的特徵值均值、以及大於1的特徵值准則（Y=1的水平線）
fa.parallel(USJudgeRatings[, -1], fa = "pc", n.iter = 100, show.legend = FALSE, main = 'Scree plot with parallel analysis')
對數據USJudgeRatings進行主成分分析
pc<-principal(USJudgeRatings[, -1],nfactors=1)
pc
④ R語言中的特殊值及缺失值NA的處理方法
R語言中存在一些空值（null-able values），當我們進行數據分析時，理解這些值是非常重要的。
通常來說，R語言中存在：
這四種數據類型在R中都有相應的函數用以判斷。
NA即Not available，是一個 長度為1的邏輯常數 ，通常代表缺失值。NA可以被強制轉換為任意其他數據類型的向量。
可以採用is.na()進行判斷。另外，NA和「NA」不可以互換。
NULL是一個 對象（object） ，當 表達式或函數產生無定義的值 或者 導入數據類型未知的數據 時就會返回NULL。
可以採用is.null()進行判斷。
NaN即Not A Number，是一個 長度為1的邏輯值向量 。
可以採用is.nan()進行判斷。另外，我們可以採用is.finite()或is.infinite()函數來判斷元素是有限的還是無限的，而對NaN進行判斷返回的結果都是False。
Inf即Infinity無窮大，通常代表一個很大的數或以0為除數的運算結果，Inf說明數據並沒有缺失（NA）。
可以採用is.finite()或is.finite()進行判斷。
理解完四種類型數值以後，我們來看看該採取什麼方法來處理最最常見的缺失值NA。
小白學統計在推文《有缺失值怎麼辦？系列之二：如何處理缺失值》里說「 處理缺失值最好的方式是什麼？答案是：沒有最好的方式。或者說，最好的方式只有一個，預防缺失，盡量不要缺失。 」
在缺失數很少且數據量很大的時候，直接刪除法的效率很高，而且通常對結果的影響不會太大。
如數據框df共有1000行數據，有10行包含NA，不妨直接採用函數na.omit()來去掉帶有NA的行，也可以使用tidyr包的drop_na()函數來指定去除哪一列的NA。
用其他數值填充數據框中的缺失值NA。
使用tidyr包的replace_na()函數。
使用tidyr包的fill()函數將上/下一行的數值填充至選定列中NA。
除此之外，類似原理的填充法還有均值填充法（用該變數的其餘數值的均值來填充）、LOCF（last observation carried forward）、BOCF（baseline observation carried forward）、WOCF（worst observation carried forward）等。
當分類自變數出現NA時，把缺失值單獨作為新的一類。
在性別中，只有男和女兩類，虛擬變數的話以女性為0，男性為1。如果出現了缺失值，可以把缺失值賦值為2，單獨作為一類。由於將缺失值賦值，在統計時就不會把它當做缺失值刪除，避免了由於這一個變數缺失而導致整個觀測值被刪除的情況。
假定有身高和體重兩個變數，要填補體重的缺失值，我們可以把體重作為因變數，建立體重對身高的回歸方程，然後根據身高的非缺失值，預測體重的缺失值。
參考資料：
⑤ R語言游戲數據分析與挖掘：為什麼要對游戲進行分析
本書從實際應用出發，結合實例及應用場景，通過對大量案例進行詳細闡述和深入分析，進而指導讀者在實際工作中通過R語言對 游戲 數據進行分析和挖掘。這是一本關於數據分析實戰的書籍，裡面的知識、方法、理論是可以直接應用到整個互聯網的。
全書一共13章，分為三篇：基礎篇、實戰篇和提高篇。
第一篇是基礎篇（第1~4章）： 介紹了 游戲 數據分析的基本理論知識、R語言的安裝與使用、R語言中的數據結構、常用操作和繪圖功能。
第1章主要介紹了 游戲 數據分析的必要性和流程；第2章講解了R語言和RStudio的安裝及使用方法，並對數據對象和數據導入進行了介紹；第3章介紹了R語言繪圖基礎，包括常用圖形參數設置、低級繪圖函數和高級繪圖函數；第4章介紹了lattice和ggplot2繪圖包，並詳細介紹了一些基於R語言可用於生成互動式圖形的軟體包，包括rCharts、recharts、rbokeh、plotly等。
第二篇是實戰篇（第5~11章）： 主要介紹了 游戲 數據的預處理、常用分析方法、玩家路徑分析和用戶分析。
第5章介紹了 游戲 數據預處理常用的手段，包括數據抽樣、數據清洗、數據轉換和數據啞變數處理；第6章介紹了 游戲 數據分析的常用方法，包括指標數據可視化、 游戲 數據趨勢分析、 游戲 數據相關性分析和 游戲 數據中的降維技術；第7章介紹了事件點擊行為常用的漏斗分析和路徑分析；第8章介紹了留存指標的計算、留存率計算與預測、常用分類演算法原理和模型評估；第9章介紹了常用用戶指標計算、LTV計算與預測、用戶物品購買關聯分析、基於用戶物品購買智能推薦和 社會 網路分析；第10章介紹了渠道數據分析的必要性和對渠道用戶進行質量評級；第11章介紹了常用收入指標計算、利用用戶活躍度衡量 游戲 經濟狀況、RFM模型研究。
第三篇是提高篇（第12~13章）： 介紹了R語言圖形界面工具Rattle和Web開發框架shiny包。
第12章介紹了R語言的圖形界面工具Rattle，該工具能夠在圖形化的界面上完成數據導入、數據 探索 、數據可視化、數據建模和模型評估整個數據挖掘流程；第13章介紹了Web開發框架shiny包，使得R的使用者不必太了解CSS、JS，只需要了解一些HTML的知識就可以快速完成Web開發。
關鍵詞： 程序語言，程序設計
完整課程可前往UWA學堂《R語言 游戲 數據分析與挖掘》閱讀。
https://e.uwa4d.com/course-intro/0/383
隨著 游戲 市場競爭的日趨激烈，在如何獲得更大收益延長 游戲 周期的問題上，越來越多的手機 游戲 開發公司開始選擇藉助大數據，以便挖掘更多更細的用戶群來進行精細化、個性化的運營。數據分析重要的不是提供 歷史 和現狀，而是通過分析發現手機 游戲 現狀，以及對未來進行預測。一切以數據出發，用數據說話，讓數據更好地指導運營服務好玩家，對玩家的行為和體驗不斷進行分析和調整，使玩家可以在虛擬世界中得到各方面的滿足。要實現這個目的，需要搭建專業的數據化運營團隊。此外， 游戲 數據分析與其他行業的數據分析不同的是， 游戲 綜合了經濟、廣告、社交、心理等方面的內容，這就對數據分析師提出了更高的要求。
伴隨著 游戲 互聯網的快速發展和智能終端的普及，移動 游戲 進入了全民時代。越來越多的玩家利用碎片化時間進行 游戲 ，使得 游戲 數據呈現井噴式增長，同時也對數據存儲技術、計算能力、數據分析手段提出了更高的要求。海量數據的存儲是必須面對的第一個挑戰，隨著分布式技術的逐漸成熟，越來越多的互聯網企業採用分布式的伺服器集群 分布式存儲的海量存儲器進行數據的存儲和計算，從而解決數據存儲和計算能力不足的問題。如何在海量的、復雜高維的 游戲 數據中發掘出有價值的知識，將是很多公司下一步亟待解決的難題。
雖然積累了海量的玩家數據，很多公司也開發了自己的BI報表系統，但是多數停留在「看數據」階段，還是用傳統的數據分析方法對數據進行簡單的加工、統計及展示，並沒有進行深度挖掘發現數據背後的規律和把握未來趨勢。正是在這樣的大背景下， 游戲 數據分析逐漸在 游戲 行業中變得重要。公司需要從傳統的粗放型運營進化到精細化運營，從而了解如何有效地獲取用戶、評估效果；如何激活用戶、評估產品質量；如何提升收益，並挖掘潛在的高價值用戶。要滿足精細化運營的需求，數據化運營就應運而生了。數據化運營就是在以海量數據的存儲、分析、挖掘和應用的核心技術支持的基礎上，通過可量化、可細分、可預測等一系列精細化的方式來進行的。
數據化運營是飛速發展的數據存儲技術、數據挖掘技術等諸多先進數據技術直接推動的結果。數據技術的飛速發展，使數據存儲成本大大減低，同時提供了成熟的數據挖掘演算法和工具讓公司可以去嘗試海量數據的分析、挖掘、提煉和應用。有了數據分析、數據挖掘的強有力支持，運營不再靠「拍腦袋」，可以真正做到運營過程自始至終都心中有數。比如，在玩家的細分推送中，數據分析師利用數據挖掘手段對玩家進行分群，運營根據不同的用戶群制定差異化策略，數據分析師再根據推送效果進行評估。
完整課程可前往UWA學堂《R語言 游戲 數據分析與挖掘》閱讀。
https://e.uwa4d.com/course-intro/0/383
1、 游戲 數據分析師
2、 游戲 產品運營人員
3、產品數據挖掘
⑥ 《R語言實戰》自學筆記71-主成分和因子分析
主成分分析
主成分分析（(Principal Component Analysis，PCA）是一種數據降維技巧，它能將大量相關變數轉化為一組很少的不相關變數，這些無關變數稱為主成分（原來變數的線性組合）。整體思想就是化繁為簡，抓住問題關鍵，也就是降維思想。
主成分分析法是通過恰當的數學變換，使新變數——主成分成為原變數的線性組合，並選取少數幾個在變差總信息量中比例較大的主成分來分析事物的一種方法。主成分在變差信息量中的比例越大，它在綜合評價中的作用就越大。
因子分析
探索性因子分析法（Exploratory Factor Analysis，EFA）是一系列用來發現一組變數的潛在結構的方法。它通過尋找一組更小的、潛在的或隱藏的結構來解釋已觀測到的、顯式的變數間的關系。
PCA與EFA模型間的區別
參見圖14-1。主成分（PC1和PC2）是觀測變數（X1到X5）的線性組合。形成線性組合的權重都是通過最大化各主成分所解釋的方差來獲得，同時還要保證個主成分間不相關。相反，因子（F1和F2）被當做是觀測變數的結構基礎或「原因」，而不是它們的線性組合。
R的基礎安裝包提供了PCA和EFA的函數，分別為princomp()和factanal()。
最常見的分析步驟
(1)數據預處理。PCA和EFA都根據觀測變數間的相關性來推導結果。用戶可以輸入原始數據矩陣或者相關系數矩陣到principal()和fa()函數中。若輸入初始數據，相關系數矩陣將會被自動計算，在計算前請確保數據中沒有缺失值。
(2)選擇因子模型。判斷是PCA（數據降維）還是EFA（發現潛在結構）更符合你的研究目標。如果選擇EFA方法，你還需要選擇一種估計因子模型的方法（如最大似然估計）。
(3)判斷要選擇的主成分/因子數目。
(4)選擇主成分/因子。
(5)旋轉主成分/因子。
(6)解釋結果。
(7)計算主成分或因子得分。
PCA的目標是用一組較少的不相關變數代替大量相關變數，同時盡可能保留初始變數的信息，這些推導所得的變數稱為主成分，它們是觀測變數的線性組合。如第一主成分為：
它是k個觀測變數的加權組合，對初始變數集的方差解釋性最大。第二主成分也是初始變數的線性組合，對方差的解釋性排第二，同時與第一主成分正交（不相關）。後面每一個主成分都最大化它對方差的解釋程度，同時與之前所有的主成分都正交。理論上來說，你可以選取與變數數相同的主成分，但從實用的角度來看，我們都希望能用較少的主成分來近似全變數集。
主成分與原始變數之間的關系
（1）主成分保留了原始變數絕大多數信息。
（2）主成分的個數大大少於原始變數的數目。
（3）各個主成分之間互不相關。
（4）每個主成分都是原始變數的線性組合。
數據集USJudgeRatings包含了律師對美國高等法院法官的評分。數據框包含43個觀測，12個變數。
用來判斷PCA中需要多少個主成分的准則：
根據先驗經驗和理論知識判斷主成分數；
根據要解釋變數方差的積累值的閾值來判斷需要的主成分數；
通過檢查變數間k × k的相關系數矩陣來判斷保留的主成分數。
最常見的是基於特徵值的方法。每個主成分都與相關系數矩陣的特徵值相關聯，第一主成分與最大的特徵值相關聯，第二主成分與第二大的特徵值相關聯，依此類推。
Kaiser-Harris准則建議保留特徵值大於1的主成分，特徵值小於1的成分所解釋的方差比包含在單個變數中的方差更少。Cattell碎石檢驗則繪制了特徵值與主成分數的圖形。這類圖形可以清晰地展示圖形彎曲狀況，在圖形變化最大處之上的主成分都可保留。最後，你還可以進行模擬，依據與初始矩陣相同大小的隨機數據矩陣來判斷要提取的特徵值。若基於真實數據的某個特徵值大於一組隨機數據矩陣相應的平均特徵值，那麼該主成分可以保留。該方法稱作平行分析。
圖形解讀：線段和x符號組成的圖（藍色線）：特徵值曲線；
紅色虛線：根據100個隨機數據矩陣推導出來的平均特徵值曲線；
綠色實線：特徵值准則線（即：y=1的水平線）
判別標准：特徵值大於平均特徵值，且大於y=1的特徵值准則線，被認為是可保留的主成分。根據判別標准，保留1個主成分即可。
fa.parallel函數學習
fa.parallel(data,n.obs=,fa=」pc」/」both」,n.iter=100,show.legend=T/F)
data：原始數據數據框；
n.obs：當data是相關系數矩陣時，給出原始數據（非原始變數）個數，data是原始數據矩陣時忽略此參數；
fa：「pc」為僅計算主成分，「fa」為因子分析，「both」為計算主成分及因子；
n.iter：模擬平行分析次數；
show.legend：顯示圖例。
principal(r, nfactors = , rotate = , scores = )
r：相關系數矩陣或原始數據矩陣；
nfactors：設定主成分數（默認為1）；
rotate：指定旋轉的方法，默認最大方差旋轉（varimax）。
scores：設定是否需要計算主成分得分（默認不需要）。
PC1欄包含了成分載荷，指觀測變數與主成分的相關系數。如果提取不止一個主成分，那麼還將會有PC2、PC3等欄。成分載荷（component loadings）可用來解釋主成分的含義，解釋主成分與各變數的相關程度。
h2欄為成分公因子方差，即主成分對每個變數的方差解釋度。
u2欄為成分唯一性，即方差無法被主成分解釋的部分（1-h2）。
SS loadings包含了與主成分相關聯的特徵值，其含義是與特定主成分相關聯的標准化後的方差值，即可以通過它來看90%的方差可以被多少個成分解釋，從而選出主成分（即可使用nfactors=原始變數個數來把所有特徵值查出，當然也可以直接通過eigen函數對它的相關矩陣進行查特徵值）。
Proportion Var表示每個主成分對整個數據集的解釋程度。
Cumulative Var表示各主成分解釋程度之和。
Proportion Explained及Cumulative Proportion分別為按現有總解釋方差百分比劃分主成分及其累積百分比。
結果解讀：第一主成分（PC1）與每個變數都高度相關，也就是說，它是一個可用來進行一般性評價的維度。ORAL變數99.1%的方差都可以被PC1來解釋，僅僅有0.91%的方差不能被PC1解釋。第一主成分解釋了11個變數92%的方差。
結果解讀：通過碎石圖可以判定選擇的主成分個數為2個。
結果解讀：從結果Proportion Var： 0.58和0.22可以判定，第一主成分解釋了身體測量指標58%的方差，而第二主成分解釋了22%，兩者總共解釋了81%的方差。對於高度變數，兩者則共解釋了其88%的方差。
旋轉是一系列將成分載荷陣變得更容易解釋的數學方法，它們盡可能地對成分去噪。旋轉方法有兩種：使選擇的成分保持不相關（正交旋轉），和讓它們變得相關（斜交旋轉）。旋轉方法也會依據去噪定義的不同而不同。最流行的正交旋轉是方差極大旋轉，它試圖對載荷陣的列進行去噪，使得每個成分只是由一組有限的變數來解釋（即載荷陣每列只有少數幾個很大的載荷，其他都是很小的載荷）。 結果列表中列的名字都從PC變成了RC，以表示成分被旋轉。
當scores = TRUE時，主成分得分存儲在principal()函數返回對象的scores元素中。
如果你的目標是尋求可解釋觀測變數的潛在隱含變數，可使用因子分析。
EFA的目標是通過發掘隱藏在數據下的一組較少的、更為基本的無法觀測的變數，來解釋一
組可觀測變數的相關性。這些虛擬的、無法觀測的變數稱作因子。（每個因子被認為可解釋多個
觀測變數間共有的方差，因此准確來說，它們應該稱作公共因子。）
其中 是第i個可觀測變數（i = 1…k）， 是公共因子（j = 1…p），並且p<k。 是 變數獨有的部分（無法被公共因子解釋）。 可認為是每個因子對復合而成的可觀測變數的貢獻值。
碎石檢驗的前兩個特徵值（三角形）都在拐角處之上，並且大於基於100次模擬數據矩陣的特徵值均值。對於EFA，Kaiser-Harris准則的特徵值數大於0，而不是1。
結果解讀：PCA結果建議提取一個或者兩個成分，EFA建議提取兩個因子。
fa(r, nfactors=, n.obs=, rotate=, scores=, fm=)
r是相關系數矩陣或者原始數據矩陣；
nfactors設定提取的因子數（默認為1）；
n.obs是觀測數（輸入相關系數矩陣時需要填寫）；
rotate設定旋轉的方法（默認互變異數最小法）；
scores設定是否計算因子得分（默認不計算）；
fm設定因子化方法（默認極小殘差法）。
與PCA不同，提取公共因子的方法很多，包括最大似然法（ml）、主軸迭代法（pa）、加權最小二乘法（wls）、廣義加權最小二乘法（gls）和最小殘差法（minres）。統計學家青睞使用最大似然法，因為它有良好的統計性質。
結果解讀：兩個因子的Proportion Var分別為0.46和0.14，兩個因子解釋了六個心理學測試60%的方差。
結果解讀：閱讀和詞彙在第一因子上載荷較大，畫圖、積木圖案和迷宮在第二因子上載荷較大，非語言的普通智力測量在兩個因子上載荷較為平均，這表明存在一個語言智力因子和一個非語言智力因子。
正交旋轉和斜交旋轉的不同之處。
對於正交旋轉，因子分析的重點在於因子結構矩陣（變數與因子的相關系數），而對於斜交旋轉，因子分析會考慮三個矩陣：因子結構矩陣、因子模式矩陣和因子關聯矩陣。
因子模式矩陣即標准化的回歸系數矩陣。它列出了因子預測變數的權重。因子關聯矩陣即因子相關系數矩陣。
圖形解讀：詞彙和閱讀在第一個因子（PA1）上載荷較大，而積木圖案、畫圖和迷宮在第二個因子（PA2）上載荷較大。普通智力測驗在兩個因子上較為平均。
與可精確計算的主成分得分不同，因子得分只是估計得到的。它的估計方法有多種，fa()函數使用的是回歸方法。
R包含了其他許多對因子分析非常有用的軟體包。FactoMineR包不僅提供了PCA和EFA方法，還包含潛變數模型。它有許多此處我們並沒考慮的參數選項，比如數值型變數和類別型變數的使用方法。FAiR包使用遺傳演算法來估計因子分析模型，它增強了模型參數估計能力，能夠處理不等式的約束條件，GPArotation包則提供了許多因子旋轉方法。最後，還有nFactors包，它提供了用來判斷因子數目的許多復雜方法。
主成分分析
1.數據導入
數據結構：對10株玉米進行了生物學性狀考察，考察指標有株高，穗位，莖粗，穗長，禿頂，穗粗，穗行數，行粒數。
結果解讀：選擇2個主成分即可保留樣本大量信息。
3.提取主成分
結果解讀：主成分1可解釋44%的方差，主成分2解釋了26%的方差，合計解釋了70%的方差。
4.獲取主成分得分
5.主成分方程
PC1 = 0.27 株高 - 0.04 穗位 + 0.29 莖粗 - 0.01 穗長 - 0.21 禿頂 - 0.13 穗粗 + 0.16 穗行數 + 0.24 行粒數
PC2 = -0.01 株高 + 0.36 穗位 - 0.10 莖粗 + 0.41 穗長 - 0.08 禿頂 + 0.43 穗粗 - 0.15 穗行數 + 0.01 行粒數
圖形解讀：此圖反映了變數與主成分的關系，三個藍點對應的RC2值較高，點上的標號2，4，6對應變數名穗位，穗長，穗粗，說明第2主成分主要解釋了這些變數，與這些變數相關性強；黑點分別對應株高，莖粗，穗行數，行粒數，說明第一主成分與這些變數相關性強，第一主成分主要解釋的也是這些變數，而5號點禿頂對於兩個主成分均沒有顯示好的相關性。
因子分析
圖解：可以看到需要提取4個因子。
2.提取因子
結果解讀：因子1到4解釋了80%的方差。
3.獲取因子得分
圖解：可以看出，因子1和因子2的相關系數為0.4，行粒數，株高，莖粗，禿頂在因子1的載荷較大，穗長，穗位在因子2上的載荷較大；因子3隻有穗行數相關，因子4隻有穗粗相關。
參考資料：
⑦ 有了處理excel數據的R語言代碼如何應用
數據科學和機器學習是該時代最需求的技術，這一需求促使每個人都學習不同的庫和軟體包以實現它們。這篇博客文章將重點介紹用於數據科學和機器學習的Python庫。這些是您掌握市場上最被炒作的兩項技能的庫。
以下是此博客中將涉及的主題列表：
數據科學與機器學習導論為什麼要使用Python進行數據科學和機器學習？用於數據科學和機器學習的Python庫用於統計的Python庫用於可視化的Python庫用於機器學習的Python庫深度學習的Python庫用於自然語言處理的Python庫數據科學與機器學習導論
當我開始研究數據科學和機器學習時，總是有這個問題困擾我最大。是什麼導致圍繞這兩個話題的熱門話題？
嗡嗡聲與我們生成的數據量有很大關系。數據是驅動ML模型所需的燃料，並且由於我們處在大數據時代，因此很清楚為什麼將數據科學視為該時代最有希望的工作角色！
我會說數據科學和機器學習是技能，而不僅僅是技術。它們是從數據中獲得有用的見解並通過建立預測模型解決問題所需的技能。
從形式上來講，這就是兩者的定義方式。
數據科學是從數據中提取有用信息以解決實際問題的過程。
機器學習是使機器學習如何通過提供大量數據來解決問題的過程。
這兩個域是高度互連的。
機器學習是數據科學的一部分，它利用ML演算法和其他統計技術來了解數據如何影響和發展業務。
為什麼要使用Python？
Python在用於實現機器學習和數據科學的最流行的編程語言中排名第一。讓我們了解為什麼。
易於學習：Python使用非常簡單的語法，可用於實現簡單的計算，例如將兩個字元串添加到復雜的過程中，例如構建復雜的ML模型。更少的代碼：實施數據科學和機器學習涉及無數的演算法。得益於Python對預定義包的支持，我們不必編寫演算法。為了使事情變得更容易，Python提供了一種「在編碼時檢查」的方法，從而減輕了測試代碼的負擔。預建庫：Python有100多個預建庫，用於實現各種ML和深度學習演算法。因此，每次您要在數據集上運行演算法時，只需要做的就是用單個命令安裝和載入必要的程序包。預先構建的庫的示例包括NumPy，Keras，Tensorflow，Pytorch等。與平台無關：Python可以在多個平台上運行，包括Windows，macOS，Linux，Unix等。在將代碼從一個平台轉移到另一個平台時，您可以使用諸如PyInstaller之類的軟體包，該軟體包將解決所有依賴性問題。大量的社區支持：除擁有大量支持者外，Python還擁有多個社區，團體和論壇，程序員可以在其中發布他們的錯誤並互相幫助。Python庫
Python在AI和ML領域普及的唯一最重要的原因是，Python提供了數千個內置庫，這些庫具有內置功能和方法，可以輕松地進行數據分析，處理，處理，建模等。 。在下一節中，我們將討論以下任務的庫：
統計分析數據可視化數據建模與機器學習深度學習自然語言處理（NLP）統計分析
統計是數據科學和機器學習的最基本基礎之一。所有ML和DL演算法，技術等均基於統計的基本原理和概念。
Python附帶了大量的庫，僅用於統計分析。在此博客中，我們將重點介紹提供內置函數以執行最復雜的統計計算的頂級統計軟體包。
這是用於統計分析的頂級Python庫的列表：
NumPySciPyPandas統計模型NumPy
NumPy或數值Python是最常用的Python庫之一。該庫的主要功能是它支持用於數學和邏輯運算的多維數組。NumPy提供的功能可用於索引，分類，整形和傳輸圖像和聲波，這些圖像和聲波是多維實數數組。
以下是NumPy的功能列表：
執行簡單到復雜的數學和科學計算對多維數組對象的強大支持以及用於處理數組元素的函數和方法的集合傅里葉變換和數據處理常式執行線性代數計算，這對於機器學習演算法（例如線性回歸，邏輯回歸，樸素貝葉斯等）是必需的。SciPy
SciPy庫建立在NumPy之上，是一組子軟體包的集合，可幫助解決與統計分析有關的最基本問題。SciPy庫用於處理使用NumPy庫定義的數組元素，因此它通常用於計算使用NumPy無法完成的數學方程式。
這是SciPy的功能列表：
它與NumPy數組一起使用，提供了一個平台，提供了許多數學方法，例如數值積分和優化。它具有可用於矢量量化，傅立葉變換，積分，插值等子包的集合。提供完整的線性代數函數堆棧，這些函數可用於更高級的計算，例如使用k-means演算法的聚類等。提供對信號處理，數據結構和數值演算法，創建稀疏矩陣等的支持。Pandas
Pandas是另一個重要的統計庫，主要用於統計，金融，經濟學，數據分析等廣泛領域。該庫依賴於NumPy數組來處理Pandas數據對象。NumPy，Pandas和SciPy在執行科學計算，數據處理等方面都嚴重依賴彼此。
我經常被要求在Pandas，NumPy和SciPy中選擇最好的，但是，我更喜歡使用它們，因為它們彼此之間非常依賴。Pandas是處理大量數據的最佳庫之一，而NumPy對多維數組具有出色的支持，另一方面，Scipy提供了一組執行大多數統計分析任務的子包。
以下是Pandas的功能列表：
使用預定義和自定義索引創建快速有效的DataFrame對象。它可用於處理大型數據集並執行子集，數據切片，索引等。提供用於創建Excel圖表和執行復雜數據分析任務的內置功能，例如描述性統計分析，數據整理，轉換，操作，可視化等。提供對處理時間序列數據的支持統計模型
StatsModels Python軟體包建立在NumPy和SciPy之上，是創建統計模型，數據處理和模型評估的最佳選擇。除了使用SciPy庫中的NumPy數組和科學模型外，它還與Pandas集成以進行有效的數據處理。該庫以統計計算，統計測試和數據探索而聞名。
以下是StatsModels的功能列表：
NumPy和SciPy庫中找不到的執行統計檢驗和假設檢驗的最佳庫。提供R樣式公式的實現，以實現更好的統計分析。它更隸屬於統計人員經常使用的R語言。由於它廣泛支持統計計算，因此通常用於實現廣義線性模型（GLM）和普通最小二乘線性回歸（OLM）模型。包括假設檢驗（零理論）在內的統計檢驗是使用StatsModels庫完成的。因此，它們是用於統計分析的最常用和最有效的Python庫。現在讓我們進入數據科學和機器學習中的數據可視化部分。
數據可視化
圖片說出一千多個單詞。我們都聽說過關於藝術方面的引用，但是，對於數據科學和機器學習也是如此。
數據可視化就是通過圖形表示有效地表達來自數據的關鍵見解。它包括圖形，圖表，思維導圖，熱圖，直方圖，密度圖等的實現，以研究各種數據變數之間的相關性。
在本博客中，我們將重點介紹最好的Python數據可視化軟體包，這些軟體包提供內置函數來研究各種數據功能之間的依賴關系。
這是用於數據可視化的頂級Python庫的列表：
Matplotlib是Python中最基本的數據可視化軟體包。它支持各種圖形，例如直方圖，條形圖，功率譜，誤差圖等。它是一個二維圖形庫，可生成清晰明了的圖形，這對於探索性數據分析（EDA）至關重要。
這是Matplotlib的功能列表：
Matplotlib通過提供選擇合適的線條樣式，字體樣式，格式化軸等功能，使繪制圖形變得極為容易。創建的圖形可幫助您清楚地了解趨勢，模式並進行關聯。它們通常是推理定量信息的工具。它包含Pyplot模塊，該模塊提供了與MATLAB用戶界面非常相似的界面。這是Matplotlib軟體包的最佳功能之一。提供面向對象的API模塊，以使用GUI工具（例如Tkinter，wxPython，Qt等）將圖形集成到應用程序中。Matplotlib
Matplotlib庫構成了Seaborn庫的基礎。與Matplotlib相比，Seaborn可用於創建更具吸引力和描述性的統計圖。除了對數據可視化的廣泛支持外，Seaborn還附帶一個面向數據集的內置API，用於研究多個變數之間的關系。
以下是Seaborn的功能列表：
提供用於分析和可視化單變數和雙變數數據點以及將數據與其他數據子集進行比較的選項。支持針對各種目標變數的線性回歸模型的自動統計估計和圖形表示。通過提供執行高級抽象的功能，構建用於構造多圖網格的復雜可視化。帶有許多內置主題，可用於樣式設置和創建matplotlib圖Ploty
Ploty是最知名的圖形Python庫之一。它提供了互動式圖形，以了解目標變數和預測變數之間的依賴性。它可以用於分析和可視化統計，財務，商業和科學數據，以生成清晰明了的圖形，子圖，熱圖，3D圖表等。
這是使Ploty成為最佳可視化庫之一的功能列表：
它具有30多種圖表類型，包括3D圖表，科學和統計圖，SVG地圖等，以實現清晰的可視化。藉助Ploty的Python API，您可以創建由圖表，圖形，文本和Web圖像組成的公共/私有儀錶板。使用Ploty創建的可視化以JSON格式序列化，因此您可以在R，MATLAB，Julia等不同平台上輕松訪問它們。它帶有一個稱為Plotly Grid的內置API，該API可讓您直接將數據導入Ploty環境。Bokeh
Bokeh是Python中交互性最強的庫之一，可用於為Web瀏覽器構建描述性的圖形表示形式。它可以輕松處理龐大的數據集並構建通用圖，從而有助於執行廣泛的EDA。Bokeh提供定義最完善的功能，以構建互動式繪圖，儀錶板和數據應用程序。
這是Bokeh的功能列表：
使用簡單的命令幫助您快速創建復雜的統計圖支持HTML，筆記本和伺服器形式的輸出。它還支持多種語言綁定，包括R，Python，lua，Julia等。Flask和django也與Bokeh集成在一起，因此您也可以在這些應用程序上表達可視化效果它提供了對轉換為其他庫（如matplotlib，seaborn，ggplot等）中編寫的可視化文件的支持因此，這些是用於數據可視化的最有用的Python庫。現在，讓我們討論用於實現整個機器學習過程的頂級Python庫。
機器學習
創建可以准確預測結果或解決特定問題的機器學習模型是任何數據科學項目中最重要的部分。
實施ML，DL等涉及對數千行代碼進行編碼，當您要創建通過神經網路解決復雜問題的模型時，這可能變得更加麻煩。但值得慶幸的是，我們無需編寫任何演算法，因為Python隨附了多個軟體包，僅用於實現機器學習技術和演算法。
在此博客中，我們將重點介紹提供內置函數以實現所有ML演算法的頂級ML軟體包。
以下是用於機器學習的頂級Python庫的列表：
Scikit-learnXGBoostElI5Scikit-learn
Scikit-learn是最有用的Python庫之一，是用於數據建模和模型評估的最佳庫。它附帶了無數功能，其唯一目的是創建模型。它包含所有有監督的和無監督的機器學習演算法，並且還具有用於集合學習和促進機器學習的定義明確的功能。
以下是Scikit學習的功能列表：
提供一組標准數據集，以幫助您開始使用機器學習。例如，著名的Iris數據集和Boston House Price數據集是Scikit-learn庫的一部分。用於執行有監督和無監督機器學習的內置方法。這包括解決，聚類，分類，回歸和異常檢測問題。帶有用於特徵提取和特徵選擇的內置功能，可幫助識別數據中的重要屬性。它提供了執行交叉驗證以評估模型性能的方法，還提供了用於優化模型性能的參數調整功能。XGBoost
XGBoost代表「極端梯度增強」，它是執行Boosting Machine Learning的最佳Python軟體包之一。諸如LightGBM和CatBoost之類的庫也同樣配備了定義明確的功能和方法。建立該庫的主要目的是實現梯度提升機，該梯度提升機用於提高機器學習模型的性能和准確性。
以下是其一些主要功能：
該庫最初是用C ++編寫的，被認為是提高機器學習模型性能的最快，有效的庫之一。核心的XGBoost演算法是可並行化的，並且可以有效地利用多核計算機的功能。這也使該庫足夠強大，可以處理大量數據集並跨數據集網路工作。提供用於執行交叉驗證，參數調整，正則化，處理缺失值的內部參數，還提供scikit-learn兼容的API。該庫經常在頂級的數據科學和機器學習競賽中使用，因為它一直被證明優於其他演算法。ElI5
ELI5是另一個Python庫，主要致力於改善機器學習模型的性能。該庫相對較新，通常與XGBoost，LightGBM，CatBoost等一起使用，以提高機器學習模型的准確性。
以下是其一些主要功能：
提供與Scikit-learn軟體包的集成，以表達功能重要性並解釋決策樹和基於樹的集成的預測。它分析並解釋了XGBClassifier，XGBRegressor，LGBMClassifier，LGBMRegressor，CatBoostClassifier，CatBoostRegressor和catboost所做的預測。它提供了對實現多種演算法的支持，以便檢查黑盒模型，其中包括TextExplainer模塊，該模塊可讓您解釋由文本分類器做出的預測。它有助於分析包括線性回歸器和分類器在內的scikit學習通用線性模型（GLM）的權重和預測。深度學習
機器學習和人工智慧的最大進步是通過深度學習。隨著深度學習的介紹，現在可以構建復雜的模型並處理龐大的數據集。幸運的是，Python提供了最好的深度學習軟體包，可幫助構建有效的神經網路。
在此博客中，我們將專注於提供用於實現復雜的神經網路的內置功能的頂級深度學習軟體包。
以下是用於深度學習的頂級Python庫的列表：
TensorFlow是用於深度學習的最佳Python庫之一，是一個用於跨各種任務進行數據流編程的開源庫。它是一個符號數學庫，用於構建強大而精確的神經網路。它提供了直觀的多平台編程界面，可在廣闊的領域中實現高度擴展。
以下是TensorFlow的一些關鍵功能：
它允許您構建和訓練多個神經網路，以幫助適應大型項目和數據集。除支持神經網路外，它還提供執行統計分析的功能和方法。例如，它帶有用於創建概率模型和貝葉斯網路（例如伯努利，Chi2，Uniform，Gamma等）的內置功能。該庫提供了分層的組件，這些組件可以對權重和偏差執行分層的操作，並且還可以通過實施正則化技術（例如批標准化，丟包等）來提高模型的性能。它帶有一個稱為TensorBoard的可視化程序，該可視化程序創建互動式圖形和可視化圖形以了解數據功能的依賴性。Pytorch
Pytorch是一個基於Python的開源科學計算軟體包，用於在大型數據集上實施深度學習技術和神經網路。Facebook積極地使用此庫來開發神經網路，以幫助完成各種任務，例如面部識別和自動標記。
以下是Pytorch的一些主要功能：
提供易於使用的API與其他數據科學和機器學習框架集成。與NumPy一樣，Pytorch提供了稱為Tensors的多維數組，與NumPy不同，它甚至可以在GPU上使用。它不僅可以用於對大型神經網路進行建模，而且還提供了一個界面，具有200多種用於統計分析的數學運算。創建動態計算圖，以在代碼執行的每個點建立動態圖。這些圖有助於時間序列分析，同時實時預測銷售量。Keras
Keras被認為是Python中最好的深度學習庫之一。它為構建，分析，評估和改進神經網路提供全面支持。Keras基於Theano和TensorFlow Python庫構建，該庫提供了用於構建復雜的大規模深度學習模型的附加功能。
以下是Keras的一些關鍵功能：
為構建所有類型的神經網路提供支持，即完全連接，卷積，池化，循環，嵌入等。對於大型數據集和問題，可以將這些模型進一步組合以創建完整的神經網路它具有執行神經網路計算的內置功能，例如定義層，目標，激活功能，優化器和大量工具，使處理圖像和文本數據更加容易。它帶有一些預處理的數據集和經過訓練的模型，包括MNIST，VGG，Inception，SqueezeNet，ResNet等。它易於擴展，並支持添加包括功能和方法的新模塊。自然語言處理
您是否曾經想過Google如何恰當地預測您要搜索的內容？Alexa，Siri和其他聊天機器人背後的技術是自然語言處理。NLP在設計基於AI的系統中發揮了巨大作用，該系統有助於描述人類語言與計算機之間的交互。
在此博客中，我們將重點介紹提供內置功能以實現基於高級AI的系統的頂級自然語言處理包。
這是用於自然語言處理的頂級Python庫的列表：
NLTKspaCyGensimNLTK（自然語言工具包）
NLTK被認為是分析人類語言和行為的最佳Python軟體包。NLTK庫是大多數數據科學家的首選，它提供易於使用的界面，其中包含50多種語料庫和詞彙資源，有助於描述人與人之間的互動以及構建基於AI的系統（例如推薦引擎）。
這是NLTK庫的一些關鍵功能：
提供一套數據和文本處理方法，用於文本分析的分類，標記化，詞干，標記，解析和語義推理。包含用於工業級NLP庫的包裝器，以構建復雜的系統，以幫助進行文本分類並查找人類語音的行為趨勢和模式它帶有描述計算語言學實現的綜合指南和完整的API文檔指南，可幫助所有新手開始使用NLP。它擁有龐大的用戶和專業人員社區，它們提供全面的教程和快速指南，以學習如何使用Python進行計算語言學。spaCy
spaCy是一個免費的開源Python庫，用於實現高級自然語言處理（NLP）技術。當您處理大量文本時，重要的是要了解文本的形態學意義以及如何將其分類以理解人類語言。通過spaCY可以輕松實現這些任務。
這是spaCY庫的一些關鍵功能：
除了語言計算外，spaCy還提供了單獨的模塊來構建，訓練和測試統計模型，從而更好地幫助您理解單詞的含義。帶有各種內置的語言注釋，可幫助您分析句子的語法結構。這不僅有助於理解測試，還有助於查找句子中不同單詞之間的關系。它可用於對包含縮寫和多個標點符號的復雜嵌套令牌應用令牌化。除了非常強大和快速之外，spaCy還提供對51種以上語言的支持。Gensim
Gensim是另一個開源Python軟體包，其建模旨在從大型文檔和文本中提取語義主題，以通過統計模型和語言計算來處理，分析和預測人類行為。無論數據是原始數據還是非結構化數據，它都有能力處理龐大的數據。
以下是Genism的一些主要功能：
它可用於構建可通過理解每個單詞的統計語義來有效分類文檔的模型。它帶有諸如Word2Vec，FastText，潛在語義分析之類的文本處理演算法，這些演算法研究文檔中的統計共現模式，以過濾掉不必要的單詞並構建僅具有重要功能的模型。提供可以導入並支持各種數據格式的I / O包裝器和讀取器。它具有簡單直觀的界面，可供初學者輕松使用。API學習曲線也很低，這解釋了為什麼許多開發人員喜歡此庫。
⑧ 53-R語言中缺失值處理方法
缺失值被認為是預測建模的首要障礙，盡管一些機器學習演算法聲稱能夠從根本上解決這個問題，但是誰又能知道究竟在「黑盒子」里能解決得多好。
缺失值填補方法的選擇，在很大程度上影響了模型的預測能力。一般處理方法是直接刪除相關行，但這樣並不好，因為會造成信息丟失。
Hmice是一個多用途的軟體包，可用於數據分析、高級圖形、缺失值處理、高級表格製作、模型擬合和診斷(線性回歸、 Logit模型和cox回歸)等。 該軟體包包含的功能范圍廣泛，它提供了兩個強大的函數，用於處理缺失值。分別為 impute ()和 aregImpute ()。
impute()函數使用用戶定義的統計方法(中間值，最大值，平均值等)來估算缺失值。 默認是使用中位數。另一方面，aregImpute()允許使用加性回歸、自舉和預測平均匹配進行填補（additive regression, bootstrapping, and predictive mean matching）。
bootstrapping對替代原始數據的樣本擬合了一個柔性可加模型(非參數回歸方法) ，並利用非缺失值(自變數)對缺失值(因變數)進行了預測。然後，使用預測均值匹配(預設值)來估算缺失值。
使用平均值填充：
使用隨機值填充：
同樣，還可以使用min,max,median來估算缺失值。
aregImpute ()自動識別變數類型並相應地處理它們：
輸出顯示預測缺失值的 R 2 值， 數值越高，預測的數值越好。還可以使用以下命令查看估算值：
畫個好看一點的圖：
估算缺失值：
pmm：預測均值匹配(PMM)-用於數值變數
logreg： (Logit模型)-二元變數
polyreg(Bayesian polytomous regression)：因子變數(>=2個水平)
polr：Proportional odds model(ordered, >= 2 levels)
查看估算的缺失值
由於生成有5個輸入數據集，您可以使用 complete ()函數選擇任何數據集：
還可以使用5個數據集構建模型，最後將結果合並：
對比一下：
使用生成的6個數據集合並後的回歸系數與原始數據的回歸系數還是非常接近的。
⑨ 如何用R語言預測話務量
R ARIMA 模型 R自帶模型擬合 下載 forecast包，，auto.arima( ) 直接擬合， 然後 forecast（ h=預測期數）行了。
這是對外行人來說的，
但是如果你真的想學好的話，還需要對模型進行著各種檢驗，特別是殘差。
⑩ r語言logistic回歸怎麼做預測
二元logit回歸
1.打開數據，依次點擊：analyse--regression--binarylogistic，打開二分回歸對話框。
2.將因變數和自變數放入格子的列表裡，上面的是因變數，下面的是自變數（單變數拉入一個，多因素拉入多個）。
3.設置回歸方法，這里選擇最簡單的方法：enter，它指的是將所有的變數一次納入到方程。其他方法都是逐步進入的方法。
4.等級資料，連續資料不需要設置虛擬變數。多分類變數需要設置虛擬變數。
虛擬變數ABCD四類，以a為參考，那麼解釋就是b相對於a有無影響，c相對於a有無影響，d相對於a有無影響。
5.選項裡面至少選擇95%CI。
點擊ok。