Issue 2691 Xorbitsaiinference Github

启动服务器下载好的本地音频模型报错 · Issue #2691 · xorbitsai/inference · GitHub
启动服务器下载好的本地音频模型报错 · Issue #2691 · xorbitsai/inference · GitHub
Xinference能否添加认证功能? · Issue #2872 · xorbitsai/inference · GitHub
Xinference能否添加认证功能? · Issue #2872 · xorbitsai/inference · GitHub
Docker部署Xinference时显示无GPU(实际有) · Issue #1778 · xorbitsai/inference · GitHub
Docker部署Xinference时显示无GPU(实际有) · Issue #1778 · xorbitsai/inference · GitHub
xinference无法正常运行 · Issue #2597 · xorbitsai/inference · GitHub
xinference无法正常运行 · Issue #2597 · xorbitsai/inference · GitHub
启动报错 · Issue #2687 · xorbitsai/inference · GitHub
启动报错 · Issue #2687 · xorbitsai/inference · GitHub
Xinference存在未授权访问漏洞 · Issue #3841 · xorbitsai/inference · GitHub
Xinference存在未授权访问漏洞 · Issue #3841 · xorbitsai/inference · GitHub
版本升级到0.10.0,加载自定义LLM报错 · Issue #1269 · xorbitsai/inference · GitHub
版本升级到0.10.0,加载自定义LLM报错 · Issue #1269 · xorbitsai/inference · GitHub
xinference-V2.3.0无法加载、启动自定义模型 · Issue #4723 · xorbitsai/inference · GitHub
xinference-V2.3.0无法加载、启动自定义模型 · Issue #4723 · xorbitsai/inference · GitHub
求助,服务器的UI页面 本地无法访问 · Issue #1999 · xorbitsai/inference · GitHub
求助,服务器的UI页面 本地无法访问 · Issue #1999 · xorbitsai/inference · GitHub
集群部署xinference注册自定义模型 · Issue #1327 · xorbitsai/inference · GitHub
集群部署xinference注册自定义模型 · Issue #1327 · xorbitsai/inference · GitHub
BUG: 请求频率过快,后端会崩掉 · Issue #1206 · xorbitsai/inference · GitHub
BUG: 请求频率过快,后端会崩掉 · Issue #1206 · xorbitsai/inference · GitHub
集群部署时,报错 · Issue #2955 · xorbitsai/inference · GitHub
集群部署时,报错 · Issue #2955 · xorbitsai/inference · GitHub
xinference并发处理问题 · Issue #1502 · xorbitsai/inference · GitHub
xinference并发处理问题 · Issue #1502 · xorbitsai/inference · GitHub
使用xinference部署模型,输出异常截断的问题 · Issue #1480 · xorbitsai/inference · GitHub
使用xinference部署模型,输出异常截断的问题 · Issue #1480 · xorbitsai/inference · GitHub
XINFERENCE_HOME环境变量问题 · Issue #771 · xorbitsai/inference · GitHub
XINFERENCE_HOME环境变量问题 · Issue #771 · xorbitsai/inference · GitHub
对于系统上的一些参数,文档上描述不是很全面,麻烦解答一下 · Issue #2676 · xorbitsai/inference · GitHub
对于系统上的一些参数,文档上描述不是很全面,麻烦解答一下 · Issue #2676 · xorbitsai/inference · GitHub
Xinference launch 不能指定一个端口启动模型 · Issue #2281 · xorbitsai/inference · GitHub
Xinference launch 不能指定一个端口启动模型 · Issue #2281 · xorbitsai/inference · GitHub
支持CosyVoice2.0-0.5B · Issue #2701 · xorbitsai/inference · GitHub
支持CosyVoice2.0-0.5B · Issue #2701 · xorbitsai/inference · GitHub
调用restful api时报错 · Issue #2720 · xorbitsai/inference · GitHub
调用restful api时报错 · Issue #2720 · xorbitsai/inference · GitHub
v0.14.3启动报错 · Issue #2167 · xorbitsai/inference · GitHub
v0.14.3启动报错 · Issue #2167 · xorbitsai/inference · GitHub
并发调用模型后,占用GPU显存越来越大,但是不会下降 · Issue #2470 · xorbitsai/inference · GitHub
并发调用模型后,占用GPU显存越来越大,但是不会下降 · Issue #2470 · xorbitsai/inference · GitHub
使用自带的聊天页面或者接入dify之后输出很慢 · Issue #2690 · xorbitsai/inference · GitHub
使用自带的聊天页面或者接入dify之后输出很慢 · Issue #2690 · xorbitsai/inference · GitHub
有计划支持通义千问的moe架构吗 · Issue #1223 · xorbitsai/inference · GitHub
有计划支持通义千问的moe架构吗 · Issue #1223 · xorbitsai/inference · GitHub
请问能将lora也纳入网页部署的选择内容吗 · Issue #1105 · xorbitsai/inference · GitHub
请问能将lora也纳入网页部署的选择内容吗 · Issue #1105 · xorbitsai/inference · GitHub
Supervisor集群异常 · Issue #2901 · xorbitsai/inference · GitHub
Supervisor集群异常 · Issue #2901 · xorbitsai/inference · GitHub
一张大显存的显卡(一个slot)可以运行多个语言模型 · Issue #2298 · xorbitsai/inference · GitHub
一张大显存的显卡(一个slot)可以运行多个语言模型 · Issue #2298 · xorbitsai/inference · GitHub
v10.2.post1,模型限流后会处于假死状态 · Issue #1344 · xorbitsai/inference · GitHub
v10.2.post1,模型限流后会处于假死状态 · Issue #1344 · xorbitsai/inference · GitHub
0.10.3版本无法下载m3e以及其他embedding模型 · Issue #1434 · xorbitsai/inference · GitHub
0.10.3版本无法下载m3e以及其他embedding模型 · Issue #1434 · xorbitsai/inference · GitHub
xinference launch无法挂载到GPU · Issue #1817 · xorbitsai/inference · GitHub
xinference launch无法挂载到GPU · Issue #1817 · xorbitsai/inference · GitHub
BUG Failed to load models · Issue #1031 · xorbitsai/inference · GitHub
BUG Failed to load models · Issue #1031 · xorbitsai/inference · GitHub
启动 xinference 在加载模型时卡住不动 · Issue #2403 · xorbitsai/inference · GitHub
启动 xinference 在加载模型时卡住不动 · Issue #2403 · xorbitsai/inference · GitHub
Dash-infer support maybe? · Issue #2107 · xorbitsai/inference · GitHub
Dash-infer support maybe? · Issue #2107 · xorbitsai/inference · GitHub
inference arm64 support · Issue #3076 · xorbitsai/inference · GitHub
inference arm64 support · Issue #3076 · xorbitsai/inference · GitHub
使用文档里的命令,启动embeeding模型,报错 · Issue #2140 · xorbitsai/inference · GitHub
使用文档里的命令,启动embeeding模型,报错 · Issue #2140 · xorbitsai/inference · GitHub
xinference经常丢失模型 · Issue #2128 · xorbitsai/inference · GitHub
xinference经常丢失模型 · Issue #2128 · xorbitsai/inference · GitHub
v0.13.3 Docker 镜像无法拉起 · Issue #1949 · xorbitsai/inference · GitHub
v0.13.3 Docker 镜像无法拉起 · Issue #1949 · xorbitsai/inference · GitHub

Loading image details...

Source
Dimensions