機器學習最佳方法

1. 機器學習該怎麼入門

機器學習入門最佳的方法其實就是理論和代碼一起學習。一邊看相應的理論推導，一邊看並且實踐經典代碼。所以，為了更快入門，我推薦你最好能夠懂點MATLAB或者是Python語言。

Matlab和Python說實話做高端的機器學習肯定是不推薦的，但是如果你想的是機器學習快速入門，那這兩門語言絕對是絕佳選擇。

第一步
有了上述基礎後，你可以開始看點機器學習的相關內容了。我看很多人推薦elements of machine learning。我想說，你想讓一個基礎為零的人去看這本書，真的合適嗎？？？

所以，我推薦的是Machine Learning in action，（這裡面的完成語言為Python）這是英文版本的。當然如果你覺得英文對你是一個完全過不去的坎，（雖然我建議做技術的人都必須至少要看得懂英文）現在有中文版本，叫「機器學習實踐」。

這本書用盡量少的公式把機器學習的基本演算法都過了一遍，而且還講得很清楚，更為重要的是他將公式和代碼結合了起來。因此，你的機器學習並沒有那麼的抽象了，你知道演算法里的公式如何的轉化為代碼。

所以，第一步，你可以耐著性子將這本書看完。反正我當時，把書中的代碼自己敲了一次，雖然代碼有的下載，你也可以選擇只是把代碼看懂完事。但我還是建議，自己敲一次，運行運行，這樣你會得到不一樣的體會。

第二步

學習Coursera上面Andrew Ng老師的machine learning的課程。這門課造福了眾多機器學習的入門者，不僅僅是因為課程全面，內容由淺入深。

總之，一定要耐著性子過一遍甚至是幾面這個課程。

第三步

這時候你已經對機器學習很多簡單的演算法比較清楚了，但是可能還沒有一種大的全局觀。所以，我建議大家可以看看這兩本中文教材。周志華老師的西瓜書《機器學習》和李航老師的《統計學習方法》。

在前沿部分和第一到第三步的內容，如果你能按照這幾步走下來，入門是肯定可以的。至於後面的機器學習精通部分，我也只能說：Good Luck and Have Fun

2. 機器學習一般常用的演算法有哪些

機器學習是人工智慧的核心技術，是學習人工智慧必不可少的環節。機器學習中有很多演算法，能夠解決很多以前難以企的問題，機器學習中涉及到的演算法有不少，下面小編就給大家普及一下這些演算法。

一、線性回歸

一般來說，線性回歸是統計學和機器學習中最知名和最易理解的演算法之一。這一演算法中我們可以用來預測建模，而預測建模主要關注最小化模型誤差或者盡可能作出最准確的預測，以可解釋性為代價。我們將借用、重用包括統計學在內的很多不同領域的演算法，並將其用於這些目的。當然我們可以使用不同的技術從數據中學習線性回歸模型，例如用於普通最小二乘法和梯度下降優化的線性代數解。就目前而言，線性回歸已經存在了200多年，並得到了廣泛研究。使用這種技術的一些經驗是盡可能去除非常相似（相關）的變數，並去除噪音。這是一種快速、簡單的技術。

二、Logistic 回歸

它是解決二分類問題的首選方法。Logistic 回歸與線性回歸相似，目標都是找到每個輸入變數的權重，即系數值。與線性回歸不同的是，Logistic 回歸對輸出的預測使用被稱為 logistic 函數的非線性函數進行變換。logistic 函數看起來像一個大的S，並且可以將任何值轉換到0到1的區間內。這非常實用，因為我們可以規定logistic函數的輸出值是0和1並預測類別值。像線性回歸一樣，Logistic 回歸在刪除與輸出變數無關的屬性以及非常相似的屬性時效果更好。它是一個快速的學習模型，並且對於二分類問題非常有效。

三、線性判別分析（LDA）

在前面我們介紹的Logistic 回歸是一種分類演算法，傳統上，它僅限於只有兩類的分類問題。而LDA的表示非常簡單直接。它由數據的統計屬性構成，對每個類別進行計算。單個輸入變數的 LDA包括兩個，第一就是每個類別的平均值，第二就是所有類別的方差。而在線性判別分析，進行預測的方法是計算每個類別的判別值並對具備最大值的類別進行預測。該技術假設數據呈高斯分布，因此最好預先從數據中刪除異常值。這是處理分類預測建模問題的一種簡單而強大的方法。

四、決策樹

決策樹是預測建模機器學習的一種重要演算法。決策樹模型的表示是一個二叉樹。這是演算法和數據結構中的二叉樹，沒什麼特別的。每個節點代表一個單獨的輸入變數x和該變數上的一個分割點。而決策樹的葉節點包含一個用於預測的輸出變數y。通過遍歷該樹的分割點，直到到達一個葉節點並輸出該節點的類別值就可以作出預測。當然決策樹的有點就是決策樹學習速度和預測速度都很快。它們還可以解決大量問題，並且不需要對數據做特別准備。

五、樸素貝葉斯

其實樸素貝葉斯是一個簡單但是很強大的預測建模演算法。而這個模型由兩種概率組成，這兩種概率都可以直接從訓練數據中計算出來。第一種就是每個類別的概率，第二種就是給定每個 x 的值，每個類別的條件概率。一旦計算出來，概率模型可用於使用貝葉斯定理對新數據進行預測。當我們的數據是實值時，通常假設一個高斯分布，這樣我們可以簡單的估計這些概率。而樸素貝葉斯之所以是樸素的，是因為它假設每個輸入變數是獨立的。這是一個強大的假設，真實的數據並非如此，但是，該技術在大量復雜問題上非常有用。所以說，樸素貝葉斯是一個十分實用的功能。

六、K近鄰演算法

K近鄰演算法簡稱KNN演算法，KNN 演算法非常簡單且有效。KNN的模型表示是整個訓練數據集。KNN演算法在整個訓練集中搜索K個最相似實例（近鄰）並匯總這K個實例的輸出變數，以預測新數據點。對於回歸問題，這可能是平均輸出變數，對於分類問題，這可能是眾數類別值。而其中的訣竅在於如何確定數據實例間的相似性。如果屬性的度量單位相同，那麼最簡單的技術是使用歐幾里得距離，我們可以根據每個輸入變數之間的差值直接計算出來其數值。當然，KNN需要大量內存或空間來存儲所有數據，但是只有在需要預測時才執行計算。我們還可以隨時更新和管理訓練實例，以保持預測的准確性。

七、Boosting 和 AdaBoost

首先，Boosting 是一種集成技術，它試圖集成一些弱分類器來創建一個強分類器。這通過從訓練數據中構建一個模型，然後創建第二個模型來嘗試糾正第一個模型的錯誤來完成。一直添加模型直到能夠完美預測訓練集，或添加的模型數量已經達到最大數量。而AdaBoost 是第一個為二分類開發的真正成功的 boosting 演算法。這是理解 boosting 的最佳起點。現代 boosting 方法建立在 AdaBoost 之上，最顯著的是隨機梯度提升。當然，AdaBoost 與短決策樹一起使用。在第一個決策樹創建之後，利用每個訓練實例上樹的性能來衡量下一個決策樹應該對每個訓練實例付出多少注意力。難以預測的訓練數據被分配更多權重，而容易預測的數據分配的權重較少。依次創建模型，每一個模型在訓練實例上更新權重，影響序列中下一個決策樹的學習。在所有決策樹建立之後，對新數據進行預測，並且通過每個決策樹在訓練數據上的精確度評估其性能。所以說，由於在糾正演算法錯誤上投入了太多注意力，所以具備已刪除異常值的干凈數據十分重要。

八、學習向量量化演算法（簡稱 LVQ）

學習向量量化也是機器學習其中的一個演算法。可能大家不知道的是，K近鄰演算法的一個缺點是我們需要遍歷整個訓練數據集。學習向量量化演算法（簡稱 LVQ）是一種人工神經網路演算法，它允許你選擇訓練實例的數量，並精確地學習這些實例應該是什麼樣的。而學習向量量化的表示是碼本向量的集合。這些是在開始時隨機選擇的，並逐漸調整以在學習演算法的多次迭代中最好地總結訓練數據集。在學習之後，碼本向量可用於預測。最相似的近鄰通過計算每個碼本向量和新數據實例之間的距離找到。然後返回最佳匹配單元的類別值或作為預測。如果大家重新調整數據，使其具有相同的范圍，就可以獲得最佳結果。當然，如果大家發現KNN在大家數據集上達到很好的結果，請嘗試用LVQ減少存儲整個訓練數據集的內存要求

3. 既然人工智慧未必都是通過機器學習的方式實現的，那麼除了機器學習的方法還有哪些實現人工智慧的方法

用Python做深度學習。感興趣可以搜搜視頻課程，人工智慧包含機器學習，機器學習包含深度學習。

4. 第六講.怎樣選擇機器學習方法

圖片是 coursera 上機器學習公開課中的截圖，簡單說一下： 如果特徵數量遠大於訓練樣本數，則使用邏輯回歸或線性核方法的SVM 如果特徵數較小，而樣本數量相對較多，可以考慮高斯核方法的SVM 如果特徵數少兒樣本數極大，可以考慮增加一些特徵

5. 機器學習有哪些學習方法

在繼續學，我感覺有一些特定的方式來完成你的思想思維以及思想作為。

6. 機器學習：幾種常見的學習方法

1、有準備的去聽，也就是說聽課前要先預習，找出不懂的知識、發現問題，帶著知識點和問題去聽課會有解惑的快樂，也更聽得進去，容易掌握；
2、參與交流和互動，不要只是把自己擺在「聽」的旁觀者，而是「聽」的參與者，積極思考老師講的或提出的問題，能回答的時候積極回答（回答問題的好處不僅僅是表現，更多的是可以讓你注意力更集中）。
3、聽要結合寫和思考。純粹的聽很容易懈怠，能記住的點也很少，所以一定要學會快速的整理記憶。

7. 經典的機器學習方法

機器學習：一種實現人工智慧的方法

機器學習最基本的做法，是使用演算法來解析數據、從中學習，然後對真實世界中的事件做出決策和預測。與傳統的為解決特定任務、硬編碼的軟體程序不同，機器學習是用大量的數據來「訓練」，通過各種演算法從數據中學習如何完成任務。

舉個簡單的例子，當我們瀏覽網上商城時，經常會出現商品推薦的信息。這是商城根據你往期的購物記錄和冗長的收藏清單，識別出這其中哪些是你真正感興趣，並且願意購買的產品。這樣的決策模型，可以幫助商城為客戶提供建議並鼓勵產品消費。

傳統的機器學習演算法包括決策樹、聚類、貝葉斯分類、支持向量機、EM、Adaboost等等。這篇文章將對常用演算法做常識性的介紹，沒有代碼，也沒有復雜的理論推導，就是圖解一下，知道這些演算法是什麼，它們是怎麼應用的。

決策樹

根據一些 feature 進行分類，每個節點提一個問題，通過判斷，將數據分為兩類，再繼續提問。這些問題是根據已有數據學習出來的，再投入新數據的時候，就可以根據這棵樹上的問題，將數據劃分到合適的葉子上。

8. 目前最流行的機器學習演算法是什麼

毫無疑問，機器學習在過去幾年越來越受歡迎。由於大數據是目前技術行業最熱門的趨勢，機器學習是非常強大的，可以根據大量數據進行預測或計算推理。
如果你想學習機器演算法，要從何下手呢？
監督學習
1. 決策樹：決策樹是一種決策支持工具，使用的決策及其可能產生的後果，包括隨機事件的結果，資源消耗和效用的樹狀圖或模型。
從業務決策的角度來看，決策樹是人們必須要選擇是/否的問題，以評估大多數時候作出正確決策的概率。它允許您以結構化和系統的方式來解決問題，以得出邏輯結論。
2.樸素貝葉斯分類：樸素貝葉斯分類器是一種簡單的概率分類器，基於貝葉斯定理，其特徵之間具有強大（樸素）的獨立性假設。
特徵圖像是方程 - P（A | B）是後驗概率，P（B | A）是似然度，P（A）是類先驗概率，P（B）是預測先驗概率。
一些現實世界的例子是：
判斷郵件是否為垃圾郵件
分類技術，將新聞文章氛圍政治或體育類
檢查一段表達積極情緒或消極情緒的文字
用於面部識別軟體
3.普通最小二乘回歸：如果你了解統計學，你可能已經聽說過線性回歸。最小二乘法是一種執行線性回歸的方法。
您可以將線性回歸視為擬合直線穿過點狀分布的任務。有多種可能的策略可以做到這一點，「普通最小二乘法」策略就像這樣 -你可以畫一條線，然後把每個數據點，測量點和線之間的垂直距離，添加上去;擬合線將是距離總和的盡可能小的線。
線性是指您正在使用的模型來迎合數據，而最小二乘可以最小化線性模型誤差。
4.邏輯回歸： Logistic回歸是一個強大的統計學方法，用一個或多個解釋變數建模二項式結果。它通過使用邏輯函數估計概率，來衡量分類因變數與一個或多個獨立變數之間的關系，後者是累積邏輯分布。
邏輯回歸用於生活中：
信用評級
衡量營銷活動的成功率
預測某一產品的收入
某一天會有地震嗎
5.支持向量機： SVM是二元分類演算法。給定N維空間中兩種種類型的點，SVM生成（N-1）維的超平面將這些點分成2組。
假設你有一些可以線性分離的紙張中的兩種類型的點。SVM將找到一條直線，將這些點分成兩種類型，並盡可能遠離所有這些點。
在規模上，使用SVM解決的一些特大的問題（包括適當修改的實現）是：廣告、人類基因剪接位點識別、基於圖像的性別檢測，大規模圖像分類...
6.集成方法：集成方法是構建一組分類器的學習演算法，然後通過對其預測進行加權投票來對新的數據點進行分類。原始的集成方法是貝葉斯平均法，但更新的演算法包括糾錯輸出編碼、bagging和boosting。
那麼集成方法如何工作，為什麼它們優於單個模型？
均衡偏差：如果你均衡了大量的傾向民主黨的投票和大量傾向共和黨的投票，你總會得到一個不那麼偏頗的結果。
降低方差：集合大量模型的參考結果，噪音會小於單個模型的單個結果。在金融領域，這被稱為投資分散原則(diversification)——一個混搭很多種股票的投資組合，比單獨的股票更少變故。
不太可能過度擬合：如果您有單個模型不完全擬合，您以簡單的方式（平均，加權平均，邏輯回歸）結合每個模型建模，那麼一般不會發生過擬合。
無監督學習
7. 聚類演算法：聚類是對一組對象進行分組的任務，使得同一組（集群）中的對象彼此之間比其他組中的對象更相似。
每個聚類演算法是不同的，比如：
基於Centroid的演算法
基於連接的演算法
基於密度的演算法
概率
降維
神經網路/深度學習
8. 主成分分析： PCA是使用正交變換將可能相關變數的觀察值轉換為主成分的線性不相關變數值的一組統計過程。
PCA的一些應用包括壓縮、簡化數據、便於學習、可視化。請注意，領域知識在選擇是否繼續使用PCA時非常重要。數據嘈雜的情況（PCA的所有組件都有很大差異）的情況不適用。
9.奇異值分解：在線性代數中，SVD是真正復雜矩陣的因式分解。對於給定的m * n矩陣M，存在分解，使得M =UΣV，其中U和V是酉矩陣，Σ是對角矩陣。
PCA實際上是SVD的簡單應用。在計算機視覺技術中，第一個人臉識別演算法使用PCA和SVD，以將面部表示為「特徵臉」的線性組合，進行降維，然後通過簡單的方法將面部匹配到身份;雖然這種方法更復雜，但仍然依賴於類似的技術。
10.獨立成分分析： ICA是一種統計技術，用於揭示隨機變數、測量或信號集合的隱藏因素。ICA定義了觀察到的多變數數據的生成模型，通常將其作為大型樣本資料庫。
在模型中，假設數據變數是一些未知潛在變數的線性混合，混合系統也是未知的。潛變數被假定為非高斯和相互獨立的，它們被稱為觀測數據的獨立成分。
ICA與PCA相關，但它是一種更強大的技術，能夠在這些經典方法完全失敗時找到潛在的源因素。其應用包括數字圖像、文檔資料庫、經濟指標和心理測量。

9. 如何讓機器學習得更快

如何更好地掌握機器學習Colorado是伯克利大學的在讀博士，同時也是Metacademy的創始人。Metacademy是一個優秀的開源平台，許多專業人員共同在這個平台上編寫wiki文章。目前，這些文章主要圍繞著機器學習和人工智慧這兩個主題。在Colorado的建議中，更好地學習機器學習的方法就是不斷的通過書本學習。他認為讀書的目的就是讓心中有書。一個博士在讀生給出這樣的建議並不令人驚訝，以前本站可能還推薦過類似的建議。這個建議還可以，但我不認為適用每個人。如果你是個開發者，想實現機器學習的演算法。下面列出的書籍是一個很好的參考，可以從中逐步學習。機器學習路線圖他的關於機器學習的路線圖分為5個級別，每個級別都對應一本書必須要掌握的書。這5個級別如下：Level0（新手）：閱讀《DataSmart:》。需要了解電子表格、和一些演算法的高級數據流。Level1（學徒）：閱讀《MachineLearningwithR》。學習在不同的情況下用R語言應用不同的機器學習演算法。需要一點點基本的編程、線性代數、微積分和概率論知識。Level2（熟練工）：閱讀《》。從數學角度理解機器學習演算法的工作原理。理解並調試機器學習方法的輸出結果，同時對機器學習的概念有更深的了解。需要有演算法、較好的線性代數、一些向量積分、一些演算法實現經驗。Level3（大師）：閱讀《ProbabilisticGraphicalModels:PrinciplesandTechniques》。深入了解一些高級主題，如凸優化、組合優化、概率論、微分幾何，及其他數學知識。深入了解概率圖模型，了解何時應該使用以及如何解釋其輸出結果。Leval4（宗師）：隨便去學吧，記得反饋社區。Colorado針對每個級別中列出的書中章節閱讀建議，並給出了建議去了解的相關頂級項目。Colorado後來重新發布了一篇博客，其中對這個路線圖做了一點修改。他移除了最後一個級別，並如下定義了新的級別：好奇者、新手、學徒、熟練工、大師。他說道，Level0中的機器學習好奇者不應該閱讀相關書籍，而是瀏覽觀看與機器學習有關的頂級視頻。機器學習中被忽視的主題ScottLocklin也閱讀了Colorado的那篇博客，並從中受到了啟發，寫了一篇相應的文章，名為「機器學習中被忽視的想法」（文中有BorisArtzybasheff繪制的精美圖片）。Scott認為Colorado給出的建議並沒有充分的介紹機器學習領域。他認為很少有書籍能做到這一點，不過他還是喜歡PeterFlach所著的《MachineLearning:》這本書，因為書中也接觸了一些隱晦的技術。Scott列出了書本中過分忽視的內容。如下所示：實時學習：對流數據和大數據很重要，參見VowpalWabbit。強化學習：在機器人方面有過討論，但很少在機器學習方面討論。「壓縮」序列預測技術：壓縮數據發現學習模式。參見CompLearn。面向時間序列的技術。一致性預測：為實時學習精確估計模型。雜訊背景下的機器學習：如NLP和CV。特徵工程：機器學習成功的關鍵。無監督和半監督學習。這個列表很好的指出了機器學習中沒有注意到的領域。最後要說明的是，我自己也有一份關於機器學習的路線圖。與Colorado一樣，我的路線圖僅限於分類/回歸類型的監督機器學習，但還在完善中，需要進一步的調查和添加所有感興趣的主題。與前面的「讀這些書就可以了」不同，這個路線圖將會給出詳細的步驟。

10. 機器學習中常用的方法有什麼

機器學習中常用的方法有LR，SVM，集成學習，貝葉斯