1樓：徐雙雙
在《神經網路哲學的數學原理》出版前，你提出的任何新穎的技術方案，除了實際效果還不錯外，可能真的沒有一點可以證明其正確性和適用性的依據。
如果稍微換個模型，這套技術方案的效果還能保證麼？或許只有實踐才知道。如果依靠神經科學，能將這個方案的適用範圍描述出來，多少給出一點理論依據，那麼是否也可以減少很多不必要的嘗試呢？
2樓：小心假設
這就涉及到到底哪個層面才是最 fundamental 的層面。
如果從數學層面來說，本質上都是函式對映。
先做此一結論，有時間再展開。
3樓：
工程領域的話不需要。
事實上在工程領域你都不需要知道你在做什麼，只要掌握好每個黑箱的輸入和輸出然後將它們以正確的順序堆在一起就行了。
目前深度學習的研究很像早期的化學研究，沒有乙個統一的理論指導，所以很多研究都是借鑑人腦而來的，這個階段估計要持續很長一段時間。
研究領域尚且如此，工程領域就更加如是了，如果對於學術沒有興趣的話，做好乙個堆箱人就好了，沒有必要去了解其它學科。
4樓：Feitong Yang
我覺得問題中至少包含兩個子問題：
1. 如何定義合理性？什麼叫做『神經科學、認知科學和生物學等其他領域的合理性』？
2. 為什麼我們需要尋找生物合理性？給工程方法尋找生物合理性的原因和動力是什麼？
首先的問題在於：什麼叫做『神經科學、認知科學和生物學等其他領域的合理性』？
根據我的觀察，很多時候，所謂的合理性指的是符合對應科學的觀察和現象。這些觀察和現象能夠在一定的層面上解釋神經系統資訊加工機制，但是並不代表這就是整個故事了。因為這樣乙個具有神經科學合理性的理論或者現象很有可能是乙個結果，而不是乙個原因，而你需要解釋為什麼這個生物合理性的規律是『合理的』。
比如我們說Hebbian Rule，這樣乙個神經科學理論用一句話描述是fire together, wire together。這個規則主要是描述了神經元連線的一種規律。但是，為什麼會需要有這樣一種規律？
這種規律要完成什麼樣的目的和功能？每乙個所謂生物合理性的設計背後都需要有更多的研究來解釋：為什麼這個設計是合理的？
如果工程領域的研究能夠解釋這個『為什麼』，那麼就是這個工程方法來解釋生物合理性，而不是尋求生物合理性。
舉個例子，我們看到鳥在飛，然後我們決定做乙個飛行器。在做這個飛行器的過程中，我們使用很多任務程的方法。我們在這個過程中是否單純地尋求這些飛行相關的工程方法和原理的生物合理性呢？
我覺得不是。我覺得是這些方法的研究使得『鳥有翅膀』、『鳥長成流線型的樣子』這樣的生物學現象更加合理了，而不是『鳥有翅膀』、『鳥長成流線型的樣子』使得這些方法更加合理了。這些方法本身的合理性是需要大量的物理學實驗和理論推導來證明和支援的。
第二個問題在於：為什麼我們需要尋找生物合理性？我們是希望用生物學的合理性的規律使得工程學的方法看起來更合理一些，還是怎麼樣？
如果我們說『這個工程方法是合理的，因為人腦也是這麼做的』，這完全沒有解釋這個工程方法的合理性，這叫甩鍋，一口鍋全甩到了人腦研究的研究者身上。為什麼人腦要這麼做？為什麼人腦這麼做是合理的？
為什麼人腦這麼做就是高效的？為什麼？
我們的根本的目的在於：我們是為了解釋和理解事物背後的原理，而從各種不同的角度和學科來思考，我們當然不能只停留在『這方法好用』，我們還要了解『為什麼這個方法好用』，對工程方法也是這樣，對神經科學研究也是這樣——這也是我們為什麼能夠有無窮盡的研究可以做的原因之一。如果神經科學上相關的知識，能夠幫助我們理解工程方法的工作原理，我們當然可以使用我們懂得稍微多一點的神經科學研究結果來解釋現在我們並不是太懂工程方法。
我們的目的始終是為了更好地了解工程方法本身的原理，而尋求生物合理性只是一種工具和途徑，能夠幫助我們達到我們的目的。
比如神經科學中的『感受野』這個概念，很有可能在工程上發現這是一種合理的控制計算複雜度的過程（我都是猜的，我不是研究深度網路的）。將來的深度網路研究很有可能從數學的角度解釋為什麼『感受野』這樣的設計能夠是的運算更加高效——比如有可能是減少冗餘，或者降低相關，或者其他的什麼的。如果我們知道了數學方面的解釋，我們可以回到大腦系統來看，在整個大腦皮層為什麼需要這些功能——比如減少冗餘，或者降低相關——從而幫助我們了解大腦皮層到底在進行什麼樣的資訊加工：
處理了哪些資訊，丟掉了哪些資訊，為什麼要丟掉這些資訊，為什麼要保留另外的資訊，這些保留了的資訊是如何決定我們的感覺和知覺的。這兩個學科的共同進步，我相信是可以同時推動這兩個學科的共同發展的。就像當年數學和物理兩個學科互相促進，共同推進發展一樣。
為了說明這種相互性，我試著舉這樣乙個例子：如果乙個工程方法，比如人工神經網路，沒有使用Hebbian Rule，但是照樣很高效，那又怎麼樣呢？這只是說明我們不能借Hebbian Rule來理解人工神經網路，僅此而已。
這既不能證明這個人工網路就一定是不行的，也不能證明Hebbian Rule就是唯一的正確解，也不能說明人工網路就沒有進行Hebbian Rule背後所需要的計算過程和功能。萬一，乙個沒有把Hebbian Rule放入設計的人工神經網路，在數萬次迭代之後，自然而然地出現了Hebbian Rule類似的現象——如果不同節點資訊傳遞頻繁，他們之間的連線更加緊密——我們到底是去用Hebbian Rule在解釋這個人工網路，還是去用人工網路在解釋Hebbian Rule？
最後，在這裡吐個槽。認知科學家和神經科學家之間經常看不上眼，吐槽對方的研究。
神經科學家看到認知科學家構建那些貝葉斯模型，概率模型，就嘲笑說：神經元怎麼可能做貝葉斯，你這個模型在生物學上就不合理。
你怎麼就知道貝葉斯不具有生物合理性？誠然，乙個神經元的動作電位可能很難讓人想象怎麼做貝葉斯模型，但是這並不代表大腦就不在做貝葉斯運算啊。神經元組成環路，環路組成腦區，你怎麼就知道神經環路不能進行貝葉斯運算，你怎麼就知道腦區裡面那麼多神經元一起不能進行貝葉斯運算了？
計算機最基本的元件只有0/1兩種狀態，跟神經元比起來差多了，但是連這些元件組成的整個計算機系統都可以非常順利地進行各種貝葉斯運算——不信的話你可以開啟Matlab、R、Python，隨你喜歡——為什麼乙個更加厲害的資訊處理系統反倒是不能做貝葉斯推論了？
我們不能用不具備生物合理性來說乙個模型是不合理的，也不能為了讓乙個模型合理而強行給它加上所謂生物合理性，因為很有可能是我們現在既不了解生物，也不了解模型。等到我們都了解得更多的時候，等我們逐漸知道背後原理到底是什麼，我們才有可能發現他們可能都是合理的，而且還有可能是同一種計算過程的不同實現方式。
5樓：bright
新人不需要。這就像你要先完成機器學習的本科學位，才能做博士碩士研究。
頂級專家，想多倫多大學Hinton他搞了各個領域的專家團隊研究一些基礎問題和理論前沿，然後應用到各個領域。
人工神經網路與深度學習方向研究生，想要學一些神經生物學相關的入門內容，請問有什麼可以推薦的？
各位答主也不要一味的批評嘛，了解生物也不一定是要在演算法原理上創新，也可以做做應用嘛，比如我知道有機械人做的很厲害的組就也研究生物，一直追nature最新的文章那種 Jinbiao Yang 先給題主推薦一本書On Intelligence，是乙個IT界牛人轉行腦科學後寫的書。書中的觀點並非新潮，也...
「深度學習」和「多層神經網路」的區別
資本西側 深度學習是在神經網路基礎上發展出來的一種演算法，主要優勢能夠通過feature learning選擇初始特徵，這解決了一般神經網路容易陷入區域性最優解的難題。此外，深度學習訓練多層網路的速度更快。更多關於深度學習和神經網路的區別，推薦這個博主的回答 帳號登入 水果豆腐 深度學習，主要指深層...
學深度學習和神經網路之前要先學機器學習嗎？
Chow 必須要學，至少是當下必須要學。首先，從大家最關心的就業角度來說，機器學習的崗位暫時還是遠多於深度學習的崗位。因為深度學習是最近3 5年火起來的，而面試你的人，大都在這之前就已經入行了，所以他們不一定很懂深度學習，但是必定學過機器學習。因此，主流公司的演算法工程師的面試，深度學習可能不考，但...