Issue 2687 Xorbitsaiinference Github

启动报错 · Issue #2687 · xorbitsai/inference · GitHub
启动报错 · Issue #2687 · xorbitsai/inference · GitHub
Xinference能否添加认证功能? · Issue #2872 · xorbitsai/inference · GitHub
Xinference能否添加认证功能? · Issue #2872 · xorbitsai/inference · GitHub
xinference无法正常运行 · Issue #2597 · xorbitsai/inference · GitHub
xinference无法正常运行 · Issue #2597 · xorbitsai/inference · GitHub
Docker部署Xinference时显示无GPU(实际有) · Issue #1778 · xorbitsai/inference · GitHub
Docker部署Xinference时显示无GPU(实际有) · Issue #1778 · xorbitsai/inference · GitHub
xinference-V2.3.0无法加载、启动自定义模型 · Issue #4723 · xorbitsai/inference · GitHub
xinference-V2.3.0无法加载、启动自定义模型 · Issue #4723 · xorbitsai/inference · GitHub
Xinference存在未授权访问漏洞 · Issue #3841 · xorbitsai/inference · GitHub
Xinference存在未授权访问漏洞 · Issue #3841 · xorbitsai/inference · GitHub
集群部署xinference注册自定义模型 · Issue #1327 · xorbitsai/inference · GitHub
集群部署xinference注册自定义模型 · Issue #1327 · xorbitsai/inference · GitHub
社区版OAuth2功能改进建议 · Issue #1487 · xorbitsai/inference · GitHub
社区版OAuth2功能改进建议 · Issue #1487 · xorbitsai/inference · GitHub
启动服务器下载好的本地音频模型报错 · Issue #2691 · xorbitsai/inference · GitHub
启动服务器下载好的本地音频模型报错 · Issue #2691 · xorbitsai/inference · GitHub
XINFERENCE_HOME环境变量问题 · Issue #771 · xorbitsai/inference · GitHub
XINFERENCE_HOME环境变量问题 · Issue #771 · xorbitsai/inference · GitHub
对于系统上的一些参数,文档上描述不是很全面,麻烦解答一下 · Issue #2676 · xorbitsai/inference · GitHub
对于系统上的一些参数,文档上描述不是很全面,麻烦解答一下 · Issue #2676 · xorbitsai/inference · GitHub
版本升级到0.10.0,加载自定义LLM报错 · Issue #1269 · xorbitsai/inference · GitHub
版本升级到0.10.0,加载自定义LLM报错 · Issue #1269 · xorbitsai/inference · GitHub
使用xinference部署模型,输出异常截断的问题 · Issue #1480 · xorbitsai/inference · GitHub
使用xinference部署模型,输出异常截断的问题 · Issue #1480 · xorbitsai/inference · GitHub
xinference并发处理问题 · Issue #1502 · xorbitsai/inference · GitHub
xinference并发处理问题 · Issue #1502 · xorbitsai/inference · GitHub
0.15.1运行minicpm3-4b 报错 · Issue #2317 · xorbitsai/inference · GitHub
0.15.1运行minicpm3-4b 报错 · Issue #2317 · xorbitsai/inference · GitHub
BUG: 请求频率过快,后端会崩掉 · Issue #1206 · xorbitsai/inference · GitHub
BUG: 请求频率过快,后端会崩掉 · Issue #1206 · xorbitsai/inference · GitHub
并发调用模型后,占用GPU显存越来越大,但是不会下降 · Issue #2470 · xorbitsai/inference · GitHub
并发调用模型后,占用GPU显存越来越大,但是不会下降 · Issue #2470 · xorbitsai/inference · GitHub
求助,服务器的UI页面 本地无法访问 · Issue #1999 · xorbitsai/inference · GitHub
求助,服务器的UI页面 本地无法访问 · Issue #1999 · xorbitsai/inference · GitHub
支持CosyVoice2.0-0.5B · Issue #2701 · xorbitsai/inference · GitHub
支持CosyVoice2.0-0.5B · Issue #2701 · xorbitsai/inference · GitHub
请问能将lora也纳入网页部署的选择内容吗 · Issue #1105 · xorbitsai/inference · GitHub
请问能将lora也纳入网页部署的选择内容吗 · Issue #1105 · xorbitsai/inference · GitHub
有计划支持通义千问的moe架构吗 · Issue #1223 · xorbitsai/inference · GitHub
有计划支持通义千问的moe架构吗 · Issue #1223 · xorbitsai/inference · GitHub
调用restful api时报错 · Issue #2720 · xorbitsai/inference · GitHub
调用restful api时报错 · Issue #2720 · xorbitsai/inference · GitHub
0.10.3版本无法下载m3e以及其他embedding模型 · Issue #1434 · xorbitsai/inference · GitHub
0.10.3版本无法下载m3e以及其他embedding模型 · Issue #1434 · xorbitsai/inference · GitHub
xinference launch无法挂载到GPU · Issue #1817 · xorbitsai/inference · GitHub
xinference launch无法挂载到GPU · Issue #1817 · xorbitsai/inference · GitHub
建立虚拟环境,安装依赖后报错,如何解决 · Issue #3858 · xorbitsai/inference · GitHub
建立虚拟环境,安装依赖后报错,如何解决 · Issue #3858 · xorbitsai/inference · GitHub
Dash-infer support maybe? · Issue #2107 · xorbitsai/inference · GitHub
Dash-infer support maybe? · Issue #2107 · xorbitsai/inference · GitHub
v0.14.3启动报错 · Issue #2167 · xorbitsai/inference · GitHub
v0.14.3启动报错 · Issue #2167 · xorbitsai/inference · GitHub
BUG Failed to load models · Issue #1031 · xorbitsai/inference · GitHub
BUG Failed to load models · Issue #1031 · xorbitsai/inference · GitHub
BUG replica=2时,系统报错 · Issue #1580 · xorbitsai/inference · GitHub
BUG replica=2时,系统报错 · Issue #1580 · xorbitsai/inference · GitHub
v10.2.post1,模型限流后会处于假死状态 · Issue #1344 · xorbitsai/inference · GitHub
v10.2.post1,模型限流后会处于假死状态 · Issue #1344 · xorbitsai/inference · GitHub
使用文档里的命令,启动embeeding模型,报错 · Issue #2140 · xorbitsai/inference · GitHub
使用文档里的命令,启动embeeding模型,报错 · Issue #2140 · xorbitsai/inference · GitHub
docker拉取镜像 · Issue #4802 · xorbitsai/inference · GitHub
docker拉取镜像 · Issue #4802 · xorbitsai/inference · GitHub
调用embedding模型报错 · Issue #2157 · xorbitsai/inference · GitHub
调用embedding模型报错 · Issue #2157 · xorbitsai/inference · GitHub
模型为什么经常重启呢 · Issue #1831 · xorbitsai/inference · GitHub
模型为什么经常重启呢 · Issue #1831 · xorbitsai/inference · GitHub
Failed to infer device type · Issue #2756 · xorbitsai/inference · GitHub
Failed to infer device type · Issue #2756 · xorbitsai/inference · GitHub
BUG: failed to load models · Issue #496 · xorbitsai/inference · GitHub
BUG: failed to load models · Issue #496 · xorbitsai/inference · GitHub

Loading image details...

Source
Dimensions