感知機演算法的對偶形式是如何推導出來的?

時間 2021-06-26 15:57:34

1樓:曇鳶

不知道是不是正確Get了題主的意思,我的理解是:題主認為,SVM的對偶形式是通過使用拉格朗日乘子法解原始最優化問題的對偶問題得到的,而Perceptron的對偶形式為何不能同樣通過解某個最優化問題而直接得到呢?為什麼要先用梯度下降得到解的形式,然後從中"看出"一些"規律",最後"設計"出對偶形式?

(下面是我個人的一些觀點,僅供參考哈)

首先,Perceptron的最優化問題不同於SVM的最優化問題——SVM是有約束條件的最優化問題,當然可以用拉格朗日乘子法解決;而Perceptron的最優化問題沒有約束條件,因此無法使用拉格朗日乘子法。也因此,Perceptron的最優化問題沒有拉格朗日對偶形式。

然而,「Perceptron的最優化問題沒有拉格朗日對偶形式」並不代表「Perceptron沒有對偶形式」。對偶是指乙個硬幣的兩面,一種問題的兩種等價表現形式。SVM通過解帶約束條件的最優化問題的對偶問題得到其對偶形式,Perceptron通過梯度下降法解原始最優化問題得到其對偶形式,也並沒有什麼不一樣。

感知機w x b 0怎麼理解?數學推導是什麼樣的?

zideajang 不能不談的感知機,雖然這個模型相對今天模型要簡單多,但是感知機也是機器學習里程碑,是神經網路的雛形,SVM 的設計也借鑑了感知機的設計 lixiaoshi 可以先從1維 2維簡單的情況理解。1維情況下,w是乙個1維向量,退化成乙個實數,b是實數。由w x b 0解出x b w,這...

植物是如何感知世界的?

我有嘉賓 含羞草在感受到外界刺激的時候葉子會捲曲 來自wapbike emmm 植物與動物不同,沒有神經系統,沒有肌肉,它不會感知外界的刺激,而含羞草與一般植物不同,它在受到外界觸動時,葉柄下垂,小葉片合閉,此動作人們理解為 害羞 故稱之為含羞草 知羞草 怕醜草。含羞草細胞是由細小如網狀的蛋白質 肌...

拉普拉斯方程極座標形式是怎麼推導出來的啊?

咚咚咚 我人已經無了.昨天看書看到有這個題目 第二個,應該也是這裡說的拉普拉斯方程的左邊 然後中間有個步驟一直看不懂,我看了乙個小時都沒看懂.就是這裡的步驟 然後抱著睡覺的時候大腦會自動思考的想法,我過了一天再來做,然後就,應該算做出來了吧 中間那個極座標中極徑對極點的偏角等於0的解釋感覺還是有些拖...