對於同乙個ML Model或者DL Model,不同機器體現出的差異,在訓練時間上會差多少?

時間 2021-07-01 16:14:25

1樓:Lanking

原因有很多,先不說處理器效能。我們來搞一下模型本身。如果你的輸入輸出都能做到飽和而不是瓶頸,那麼在處理和顯示卡上能體現出區別,否則你可能會覺得差不多。

那麼如果能做到上面的這些,如果你的模型用了RNN或者大量LSTM結構,在feature大小不大的情況下會感覺GPU些許比CPU要快,然後效能提公升不是很明顯。主要是迴圈結構可能沒辦法並行加速,模型本身的設計短板在這裡,再好的卡效能提公升也都很困難...

如果是CNN這類的,現在cuda優化很好的,直接效能快5-10倍輕輕鬆鬆的... 然後更好的卡快的越明顯... 大家都在對特定的運算元優化提公升效能。

總的來說,如果你所使用的運算元在cpu/gpu上沒有特異性優化,效能提公升不會很明顯...

2樓:啊啊啊啊啊啊

無窮大吧。

因為,網路稍微深度一點,cpu壓根沒法算,上次我訓練乙個resnet,兩個小時迭代一次。。。 所以效能之差是無窮大。

3樓:lulululalala

首先,你應該說的是CPU和gpu的差距,如果是常見的框架比如TensorFlow,pytorch,Keras等,兩者速度相差極大,幾十倍都是有可能的。

dl嚴格來說屬於ml,經典ml所需的計算量比較小,如果訓練的dl模型比較小,計算量也不大,也會導致gpu的利用率不高,二者差距可能也就幾倍。

跟研究生舍友同乙個導師或者在同乙個實驗室是什麼體驗?

啊lala 第一次回答問題,有點小緊張,嘿嘿。我和舍友一入校就發現自己想選的導師是乙個,當時還沒面試,我們兩個就和導師說是乙個宿舍的要不要一起面,哈哈哈哈。後面分開面試了,老師還分別問,要是只要了你舍友不要你會怎麼樣。當時我們兩個剛入校才見了一天,回答完全不同,我覺得她選上我沒上是因為她優秀,而她一...

考研室友和你考同乙個大學同乙個專業?

落辰 如果ta比你優秀 比你更加上進,你不妨主動提出與ta一起努力,有困難互相照應一下,多交流一下學習期間的經驗。如果ta意志不堅定 做事拖沓 沒什麼理想,那你選擇乙個人奮鬥會更好,回到寢室盡量不要再學習,也不要聽ta或者其他室友說些沒用的話,保證自己良好的心態。當然有時候和室友簡單聊聊,可以緩解壓...

同乙個物種不同品種間同乙個基因的鹼基序列完全相同嗎?相似度會達到多少?

鐘文 分子生物學實驗想拿到乙個蛋白,常用的基因序列不外乎human,rat,mouse,monkey等模式生物的cDNA文庫,在此之前你得去multi alignment各個物種的序列,構建進化樹來確定這個基因的conserve程度。同乙個物種不同品種,比如說同乙個物種的monkey,不同品種比如說...