输出速度好慢

[omaidb]

输出速度真是难以置信的慢，能否优化一下它的输出速度啊。
需求1：例如，我想上传txt文本给它，让它进行学习，但是不能上传文件给它。

[rnchg]

默认使用CPU进行推理，在中文模式下的确会比较慢，后续版本想办法优化，以及增加上传图片和文档功能。

[omaidb]

默认使用CPU进行推理，在中文模式下的确会比较慢，后续版本想办法优化，以及增加上传图片和文档功能。

我本地有nvdia显卡，能设置使用nvdia显卡推理嘛

[dongfangzhizhu]

你们编译成功了吗，理论上把onnxruntime替换成对应平台版本的onnxruntime-gpu，配置cuda环境就可以使用显卡推理了