深度學習中提取的為非線性的特徵,而其他方法如PCA提取的是線性特徵,為什麼非線性特徵比線性特徵更高階?

時間 2022-01-20 14:58:34

1樓:藍紫色的我

高階的理解是比較片面的。

線性特徵說到底就是特徵可以用乙個y=ax+b或類似的線性方程可以擬合特徵變化,複雜度較低,理解較為容易。

非線性特徵也就是不能用線性方程擬合特徵變化,複雜度較高,理解較為困難。

但是自然生活中,存在的特徵千千萬,可以利用線性擬合的特徵一般比較少,而非線性特徵一般比較多。而非線性特徵由於研究方法較為麻煩,可能存在的隱含資訊更多,因此可能會看起來更高階一點。

2樓:

pca提取的新的特徵都是原始特徵的線性相加wx,這要求資料點基本都在w生成的子空間裡面,這個自空間可以說成是乙個平面,也就是要求資料點基本都在這個平面附近。然而實際的資料集的內在流體結構並不是這樣的平面,當然需要非線性的轉換才能做更好的特徵提取。

3樓:

沒有誰比誰高階這麼一種說法的。

只不過是現實世界大量的事物都是非線性可分的,而線性可分是最簡單可處理的,所以我們需要通過非線性變換(深層網路就是非線性變換的次數多),把它們送到乙個幾乎線性可分的特徵空間裡去表達出來。

CNN中影象的非線性特徵和線性特徵具體指的是什麼?

自來也 本身卷積運算屬於線性濾波器,因為輸出是加權和。只有單個conv層只會得到線性特徵。非線性濾波器,作非加權和運算,如取最大值,絕對值,中值。如maxpooling層 在dl的cnn網路裡,即包含了線性濾波器conv,也包含了非線性濾波器如maxpooling,還包含了輸出層的非線性函式soft...

做影象分類時keras提取的深度學習特徵與傳統特徵怎樣進行融合?

川彙金城武 直接使用concat拼接張量的效果應該不佳吧,周文罡教授Collaborative Index Embedding for Image Retrieval文章裡提到的方法效果怎麼樣?您實驗了嗎 王華 實時模型融合,也叫做多輸入模型,用keras就是下面這樣搭建 defmulti inpu...

學習非線性分析中的拓撲度理論需要什麼基礎?

李大鵬 拓撲度理論可以從分析,幾何,代數不同的方向給出定義展開研究,但本質上都是一樣的。如果是有限維的拓撲度理論,也就是布勞威爾度,只需要本科的向量場和基本的數學分析就能看懂了。如果是學無限維的 leray schauder 度的話至少需要學過線性泛函分析,各種函式空間。拓撲度也可以學得很深,看你具...