1樓：TensorCat
首先我們需要清晰地定義什麼是「一輪次」，其次需要區分預估時間是針對訓練階段還是推斷階段。訓練階段的耗時受到三個因素的影響，分別是：模型計算量、優化器的選擇和訓練資料的規模。
模型的計算量分為兩個部分：前饋過程的計算量和計算所有引數梯度的計算量，這個部分是決定機器學習訓練過程時間複雜度的關鍵因素。以簡單DNN為例，前饋計算量和梯度計算量均為多層的矩陣向量乘法與向量加法。
這部分我們可以進行理論的預估，計算模型一次輸入到輸出之間所需的浮點數乘法次數與加法次數。
優化器的選擇部分體現為不同的優化器需要計算不同的變數，如SGD則只需要計算梯度、adam則需要計算梯度一階矩、二階矩以及相應的偏移縮放量。除此，優化器不同也影響最優化過程的收斂性，某個模型訓練完備所需的epoch不同。
訓練資料的規模非常自然地會影響每乙個epoch的訓練時間，訓練資料越大，模型越不容易過擬合，模型的泛化能力越強，但訓練耗時更多，非常自然。
以上是理論的定性的分析方法，但其實在平時工作與科研中，預估某次訓練所需時間的最簡單的方法是「訓乙個minibatch看看」，總的時間就等於 minibatch_time x minibatch_num x epoch_num
跪求學霸，請問學霸在一輪複習時，會把一輪複習書上每一節，從頭到尾看一遍嗎（求學霸指點）？
睡於麋鹿林 本人是理科生，就光說說理科的複習了 數學 在高中階段如果你的基礎不太好，當然還是得學習課本知識，但是就算看懂了，也只是成功的第一步，後面還有99步等著你去走，那就是不停的做題，才能進一步提公升。基礎好的話，面對不會的題，再去回顧知識點也可以，這樣更加具有目的性，記得也更加牢固。物理 同數...
一輪該如何複習？
sheldon學長 目前處於高二下學期，距離高考還有400 500天左右，當然要相信自己。首先，信心是很重要的，不管學哪一門科目，只要肯下苦功夫，肯努力，肯定都是會有成效的。但是如果說連最基本的對自己的信心都沒有，那更別提會有進步，只會讓自己一直陷入死迴圈當中。其次，學好每一科，基礎都是非常重要的，...
法碩一輪複習怎麼學最有效？
玫瑰巷 您有乙份法碩一輪複習高效備考方案待查收。高樓萬丈平地起，還是得打好基礎。我先聽老師的課，課前預習大致瀏覽了一下，跟著老師把考試分析上的知識點都過一遍，對於零基礎的小白來講，這遠遠不夠，做題是打擊信心。因為民法和刑法運用性特別強，只聽課分肯定提不上來，還要做大量的練習，意識到這一點後，我刷彭老...