多層神經網路特徵提取的特徵最後到底是在提取什麼?為什麼說那玩意兒是特徵?

時間 2021-05-11 22:54:15

1樓:圖資料庫

神經網路特徵提取的特徵最後是在提取降維的向量表達。

神經網路就是可以用一些基礎函式無限接近表達乙個分類函式。可以理解他是乙個轉換器。高維進,低維出。

2樓:阿亮

首先理解對於每一層來說都進行了乙個線性變化加非線性變換即:

Y=f(WX+B)

其次:WX的本質其實是乙個線性組合,把WX展開就是w1x1+w2x2+w3x3....實質是不同特徵的乙個加權組合。

比如:身高和體重這兩個特徵就會加權組合為身材勻稱這一特徵,而身材勻稱這個特徵即是高度抽象的特徵,更有利於進行分類/回歸任務。

f()非線性變換代表啟用函式。也就是說只有高度抽象的特徵達到一定程度才允許被進入下一層的網路中,不經意間實現了特徵選擇的任務。

答案:多層神經網路特徵提取的特徵最後到底是在提取什麼?提取高度抽象的特徵。

為什麼說那玩意兒是特徵?是特徵的組合也算特徵吧。

更多關於神經網路的資料可參考 @YJango ,我基本看他的文章入門以上

3樓:雲時之間

最後了提取出來的無非就是高維特徵,因為提取出來的特徵包含有位置資訊,因此卷積層之間結合結合基本很容易判別出來,當然,這些特徵咱們看是挺困難的。

比如這樣,提取出來結合上下看,很容易分析出來這是個5,要是單獨看,鬼知道是啥。

至於為什麼說玩的是特徵。。

比如分類,因為只有提取出來正確的特徵你才可能進行正確的分類啊特徵提取錯了,還玩啥呀

機器學習中特徵提取技術已經被神經網路中的特徵提取淘汰了嗎?

傳統影象處理還有前景嗎?膽大路野的回答 知乎 https www.zhihu.com question 342035031 answer 1771888184能啟發思路用於dl?摘抄2.在深度學習神經網路中需要特徵工程嗎?理論上是不需要的,基於端到端的特點深度學習神經網路中會在訓練中自行的學習特徵。...

目標檢測演算法中特徵提取網路通常需要先在影象分類資料集上預訓練,然後再來訓練目標檢測網路,具體是怎麼做?

禪與電單車維修技術 預訓練好的模型刪掉最後的全聯接層 DenseLayer,用於輸出各類別的置信概率 可以做目標檢測網路的backbone,用於從網路中提取特徵。如果再多刪掉幾層卷積層,則backbone的輸出解析度會更高,對應整個網路的感受野會更小,更容易識別小物體。 lonely fish 看你...

神經網路中對需要concat的特徵進行線性變換然後相加是否好於直接concat

民科局長 直接相加會損失資訊,比如對於 1 2 兩個特徵,相加後就是 3 和 0 3 或是 1.5 1.5 相加沒有區別。concat至少保留了所有資訊。 崔果果 第一,add方法把兩個n維的資訊壓縮至n維,而concat依然保持了2n維。從資訊量的角度來看,我們可以完全肯定,2n維包含的資訊量遠遠...