為什麼rtx3070的gpu加速慢

1樓：真中合歡

樓上幾位典型的沒用過在這裡胡扯。

tensorflow2.4就是用cuda11編譯的，而且其gpu版在去年12月就已經發布，可以用pip直接安裝。

我用3090+tf2.4跑知識圖譜都跑了好幾周了，我難道用幽靈跑的？

還有說nightly要2.5的，nightly我從去年dev20201027開始用的，那之前就支援cuda11了。無論是支援30系顯示卡，還是優化蘋果m1晶元，tf都比pytorch動作快，樓上就要硬踩一腳tf抬pytorch。

安裝環境時，應該先完全解除安裝tf：

pip uninstall tensorflow

pip uninstall protobuf

把原有的cuda10挪個地方，但是不要刪。有強迫症可以去把環境變數刪了，不刪無所謂。

安裝cuda11，安裝tf2.4。如果執行時提醒缺dll，就去之前cuda10檔案裡找，放到cuda11同樣位置。

2樓：rootkitchao

實名反對說tensorflow不支援CUDA11順帶吹pytorch的

而且拿Tested build configurations說tf目前不支援CUDA11也太不專業了吧，這裡面的環境只是經測試可以正常編譯，和支援的CUDA版本無關。另外那張截圖還是過時的，上面的最高版本還是一年之前的tensorflow 2.1.

0。Tested build configurations

tensorflow 2.4.0開始支援CUDA11+cuDNN8，第乙個rc(rc0)2023年11月3日發布，正式版則發布於26天前，詳情請見tf的GitHub

tensorflow 2.4.0 release note

TensorFlow pip packages are now built with CUDA11 and cuDNN 8.0.2.

至於為什麼訓練慢，推測是因為沒有使用GPU，從描述的環境看並沒有嚴格遵守tensorflow install guide

(請切換到英文版本，中文版本更新往往會滯後，如果因為不可描述的原因無法訪問請使用http://

google.cn

上的版本，不一定會和tf官網同步)

GPU 支援 | TensorFlow

在Software requirements裡面很明確地寫了：

The following NVIDIA software must be installed on your system:

NVIDIA GPU drivers —CUDA 11.0 requires 450.x or higher.

CUDA Toolkit —TensorFlow supports CUDA 11 (TensorFlow >= 2.4.0)

CUPTI ships with the CUDA Toolkit.

cuDNN SDK 8.0.4 cuDNN versions).

(Optional) TensorRT 6.0 to improve latency and throughput for inference on some models.

而你安裝的是CUDA11.1，版本不對，官方的pip需要完全一致的cuda版本，如果一定要用CUDA11.1則需要自行從原始碼編譯(耗時數個小時，需要你有一顆強壯的CPU)；不過通常對cuDNN的版本號要求不是特別嚴格。

3樓：彧言

這個是因為你安裝的tensorflow2.4是CPU版本的，不是GPU版本的。

pip安裝途徑中，tf2.x+cuda11的資源是沒有的。如果你從pip安裝，是cpu版本的tf。

別人編譯好的docker容器倒是可以找找看，說不定docker hub上有。

截至今天2023年1月9日，tensorflow官網上並沒有給出對CUDA11的支援的描述。其經過驗證的GPU支援，只更新到了cuda10.1。下面是我給你截的圖。

如果你要在本機測試cuda11+tf2.x，目前你有兩種途徑：

參考tensorflow官網的cuda10教程，從原始碼編譯。雖然他沒驗證過，也許你摸索一下也能work。

使用別人做好的docker映象，在映象裡跑。

順便說一句，pytorch的支援就很及時，cuda11出來沒多久，就給出了官方安裝方法。這個從tensorflow和pytorch的使用者搜尋趨勢也能看出來，社群規模要反轉了。

3070的GPU加速肯定是不慢的，你可以通過智星雲這樣的GPU雲伺服器平台去測試對比，上面的GPU型別非常多，1080ti, 2080ti, 3070, 3080, 3090, V100, A100全都有。短期測試可以開彈性分時使用的模式進行對比測試，十分方便。