亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

如何使用GPU運行Keras Model.Predict()

如何使用GPU運行Keras Model.Predict()

寶慕林4294392 2024-01-04 17:11:30
我驗證了我的 TF 正確使用了我的 GPU。TF 使用 GPU 來運行 model.fit(),在 HWiNFO64 中看到大約 50% 的使用率。但是,如果我隨后將此單元添加到筆記本中,筆記本將使用該模型來預測測試集中圖像的標簽:import numpy as npfor img in test_images:? ? prediction = model.predict(np.expand_dims(img, axis=0)) # Here? ? print(class_names[np.argmax(prediction)])我看到 GPU 使用率只有 1%(Chrome 和其他進程使用)。有沒有辦法讓我在 GPU 上運行 model.predict(),或者是否有任何替代方案可以為單個輸入提供模型輸出?
查看完整描述

1 回答

?
慕桂英3389331

TA貢獻2036條經驗 獲得超8個贊

您的代碼在 GPU 上運行,認為 GPU 利用率可以告訴您代碼是否在 GPU 中運行是一種誤解。

問題在于,predict對每個圖像執行一次調用的效率非常低,因為在 GPU 上幾乎無法執行并行性,如果傳遞整個圖像數組,那么它將提高 GPU 利用率,因為可以向 GPU 和每個圖像提供批次并行處理。

GPU 僅加速特定工作負載,因此您唯一的選擇是在調用中使用更多圖像predict


查看完整回答
反對 回復 2024-01-04
  • 1 回答
  • 0 關注
  • 202 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號