日志显示llm device和embedding device为cuda，但实际跑的时候显卡没吃到，全由cpu在运行。

[moy-xz]

日志信息如下，但是为什么实际跑的时候是cpu在跑，我在任务管理器里看到只有显存是占用，显卡一点占用都没有。是我配置不对还是其他什么原因？

options:
INFO  2023-08-08 10:05:18,160-1d:
loading model config
llm device: cuda
embedding device: cuda
dir: E:\langchain-ChatGLM

'gcc' 不是内部或外部命令，也不是可运行的程序
或批处理文件。
WARNING 2023-08-08 10:05:37,866-1d: Compile parallel cpu kernel gcc -O3 -fPIC -pthread -fopenmp -std=c99

[ShawJoe]

我也遇到了torch版本的问题，换成2.0.1即可

[ZK8768]

请问解决了吗，我也是