在回歸問題中,為何對MSE損失的最小化等效於最大似然估計?

時間 2021-06-08 04:40:40

1樓:Shikun Liu

根據中心極限定理,誤差服從正態分佈,此時使得樣本似然函式最大等價於使得MSE最小。

歷史上是這樣的,

算數平均是優良的——>誤差必須服從正態分佈 (最小二乘能推出算數平均,假設算術平均是極大似然的解,由極大似然推出正態密度函式)

誤差服從正態分佈——>算術平均和最小二乘估計是優良的(根據誤差的正態密度函式得出樣本的似然函式,由極大似然推出最小二乘及算數平均)

但高斯這樣的說法帶有迴圈論證的氣味,後來拉普拉斯根據中心極限定理,誤差應該有正態分佈,那麼算術平均的優良性就有了理由,至此,這斷裂的一環被連線起來了,成了乙個和諧的整體。

中心極限定理——>誤差服從正態分佈——>算術平均、最小二乘是優良的

如果誤差服從拉普拉斯分布的話,樣本似然函式最大等價於最小化平均絕對偏差(MAD),結果是樣本的中位數。

2樓:靜學社-學無止境

假設誤差項符合正態分佈的情況下,最大似然法計算出來的結果恰好和最小二乘結果一致,也就是最後求解回歸係數的公式一摸一樣。

這兩種求解方法的思路是不一樣的,但是都有「最優化」的思想在裡面,基於「最優化」的思想,這二者又是一致的,看似巧合,其實並不巧合。最大似然,看看「最大」兩個字就明白是一種最優化方法,最小二乘,看看「最小」二字也是一種「最優化」方法。在「假設誤差項符合正態分佈的情況下」這二者統一了起來。

逐步回歸方法在解決多重共線性問題中是否可靠?

靜學社 學無止境 逐步回歸方法解決多重共線性是一種錯誤方法,這種方法在國內很多大學裡老師就是這麼教的,我只能說一句,現在不學習的老師實在太多了,作為乙個教書育人的老師,在教 計量經濟學 的時候能不能多讀幾本經典回歸分析的書再去教學生?逐步回歸是線形回歸自變數選擇的方法。在執行這個方法之前我們首先要判...

CTR預估問題中XGB LR在工業界用的多嗎?效果如何?

我這XGB LR比單純的LR的auc漲3pp左右,但拆開分析看增幅主要來自XGB,和葉子不葉子關係不但,因為單純的XGB也能比LR漲3pp左右,當然2個在千分位是要高一點點 boom 在dnn橫行的年代,還在用gbdt lr略顯老套哈,別誤解,我們組也在用根據我司幾個組的經驗來看,auc提公升的上限...

在城市規劃快題中,建築形式不夠豐富的問題應如何加強?

金錢就是生產力 其實很簡單,多看多抄一些匡神的平面圖,看建築的組合形式,最典型的3個普通體加1個變體的形式,做節奏的變化。公升級一下的話就去看濟景的專案,或者sasaki,看看如何把規劃結構和建築形態完美結合。 陳鎧楠 要解決建築形式不夠豐富的問題,可結合個人能力與喜好,將下列思路組合運用。對原本只...