最小二乘估計需要假設誤差正態性嗎?

時間 2021-05-06 00:58:09

1樓:

需不需要這個假設是看你想用最小二乘估計來做什麼,想達到什麼目的。因為這假設不影響最小二乘估計的演算法,只影響統計性質結果。

如果只需要算出不偏均值和方差,不做區間估計或檢驗,有沒有這假設無所謂。但是做區間估計或檢驗的話,要看情況:

大樣本,只要符合 CLT 的假設,有沒有這假設都沒問題。

小樣本,資料符合這假設就方便,因為區間估計或檢驗只需要把正太分布標準化就可以方便檢驗。那如果資料不符合這假設的話,其實還是能做區間估計或檢驗的,只需要求出實際樣本分佈就可以做。但是不方便,因為樣本實際分布未必有方便的理論解,可能需要模擬、數值法(numerical method)估計分布。

2樓:太胖飛不動

小樣本經典ols需要,原因是為了得到引數的條件正態分佈,進而進行假設檢驗,大樣本條件下,本身擾動項會依分布收斂到正態,所以不需要假設了。

3樓:相模雄獅

不需要,你估計引數的時候不是解了乙個方程組求出來的嗎?沒用到任何假設。但是極大似然估計在構建似然函式的時候用到了隨機項的分布,這個需要正態假設,最小二乘法不需要

最大似然估計和最小二乘估計,為什麼在常用分布中的估計值是一樣的?

Leastsq 普通的最小二乘估計 least squares,LS 其實不在意是否是隨機過程還是確定性過程,只要建立了量測模型後,得到了量測矩陣,即可實現估計,其最優準則是估計偏差平方和最小,即沒有利用被估計物件的任何統計特徵,比如概率分布密度函式 觀測雜訊的特性等,一方面應用方便,但另一方面也不...

最小均方誤差和最小二乘有什麼區別?

糊鍋巴 LS是 最小二乘 MMSE 最小均方誤差 是兩種優化代價函式的準則,二者的理論基礎相當,主要區別是前者不使用統計量,後者使用統計量,乙個是統計意義,乙個是確定意義的。 twxtron 均值 均方誤差MSE 二乘法LS 其中 指樣本值,指樣本均值,指理論真值 指觀測值,指擬合值。三者的關係 均...

在解最小二乘問題上,ceres還有哪些改進點(lm為例),或者說如何寫出超越ceres的優化器?

範帝楷 沒想到還有人關注這個問題。本質上最小二乘法的求解公式是比較簡單的 這個公式是有解析解的 normal equation 這其實沒啥好說的,多數時候直接LLT就求解了,但是求解這個方程實際上是有兩個問題的 當 的維度足夠大時,求解速度很慢 當 的條件數很大時,的條件數將會更大 後者條件數是前者...