人工智慧是不是乙個閉環,MLP CNN TRANSFORMER MLP?

時間 2021-07-03 00:13:33

1樓:yearn

瀉藥,好多類似的問題,那麼就用類似的回答(狗頭

在MSRA的時候老闆專門做CV裡的transformer,也看過一段時間NLP中的CNN

Transformer在CV中確實展示了很多的設計技巧,有很多transformer和高階CNN正規化聯合起來組成更強更快transformer的工作 (deformable Detr)。不止如此,CNN在NLP中達到的效果也是非常不錯的,最近也有人用CNN代替attention做預訓練效果很不錯。

與此同時Global-Local一直是transformer改進的核心之一,無論是CV還是NLP,而conv其實就是非常非常local的attention,所以到底是CNN->TRANSFORMER,還是TRANSFORMER->CNN呢?老闆說過:目前CNN和attention的邊界已經越來越模糊了,誰強誰弱尚未可知(狗頭。

MLP完全替代上面兩者的可能性就更小了,transformer的參數量和計算複雜度已經很被人詬病了,更何況完全體的MLP。目前來看所謂完全的MLP還是非常難得,除非又回到local版的mlp,那再改改就是conv了。

所以所謂的閉環目前看來是閉不起來的,之所以認為MLP->CNN->TRANSFORMER更多的是出現時間先後而已,並不是說二者誰一定更強,至少目前還無從得知,更多的可能是相互融合吧。

現在的人工智慧是不是真正的人工智慧?人工智慧發展到什麼程度了?

換些問題驗角度 人工智慧,智慧型達到動物的水平,達不到人類的水平。動物只能處理當前的事情,比如獅群圍獵,羚羊逃跑,甚至烏鴉引導孤狼捕捉兔子,大象 藏驢刨坑喝水等等。它們無法處理複雜的關係,只會處當前,而不會 述往事 思來者 人工智慧,因為沒有生命,無法達到人類所能具備的意識。 zhangyi2099...

人工智慧是不是乙個追求熵減的過程

我反對 個人愚見,熵減是乙個創新的過程,是由舊到新的過程,是兩個量級之間的質變。1 1 2,消耗了兩個1,得到了乙個2,但這兩個1並沒有被真正犧牲掉,廣義上講,沒有付出任何代價,1是永恆的。一家企業投入數百萬美元,研究人工智慧,最後以失敗收場,員工拿到了應得的工資報酬,各得其所,這又有什麼損失呢?這...

人工智慧是不是走錯了方向?

劉鈞文 我覺得這個想法有點本末倒置了。數學是為了描述現實世界的現象,便於人去理解其中的規律。而不是世界當中的現象來遷就人類的數學模型或者人工智慧。人工智慧再強也是基於這種邏輯工具衍生出來的,至於說大腦裡面有沒有傅利葉變換什麼的,說真的,用三體的一句話來說,主不在乎。 zhmym 人工智慧本來就沒有在...