Bug Issue 1683 Xorbitsaiinference Github

BUG · Issue #1683 · xorbitsai/inference · GitHub
BUG · Issue #1683 · xorbitsai/inference · GitHub
BUG Failed to load models · Issue #1031 · xorbitsai/inference · GitHub
BUG Failed to load models · Issue #1031 · xorbitsai/inference · GitHub
BUG replica=2时,系统报错 · Issue #1580 · xorbitsai/inference · GitHub
BUG replica=2时,系统报错 · Issue #1580 · xorbitsai/inference · GitHub
BUG embedding和rerank模型持续显存占用 · Issue #1741 · xorbitsai/inference · GitHub
BUG embedding和rerank模型持续显存占用 · Issue #1741 · xorbitsai/inference · GitHub
BUG: 请求频率过快,后端会崩掉 · Issue #1206 · xorbitsai/inference · GitHub
BUG: 请求频率过快,后端会崩掉 · Issue #1206 · xorbitsai/inference · GitHub
BUG xinference部署bge rerank模型经常出现服务错误 · Issue #1416 · xorbitsai ...
BUG xinference部署bge rerank模型经常出现服务错误 · Issue #1416 · xorbitsai ...
BUG: load model failed · Issue #666 · xorbitsai/inference · GitHub
BUG: load model failed · Issue #666 · xorbitsai/inference · GitHub
BUG: Yi-200k model deploy error · Issue #633 · xorbitsai/inference · GitHub
BUG: Yi-200k model deploy error · Issue #633 · xorbitsai/inference · GitHub
BUG: failed to load models · Issue #496 · xorbitsai/inference · GitHub
BUG: failed to load models · Issue #496 · xorbitsai/inference · GitHub
BUG 启动部分modelscope模型时,自动选择的vLLM无法启动 · Issue #1112 · xorbitsai/inference ...
BUG 启动部分modelscope模型时,自动选择的vLLM无法启动 · Issue #1112 · xorbitsai/inference ...
[BUG]: inference ERROR again · Issue #3063 · hpcaitech/ColossalAI · GitHub
[BUG]: inference ERROR again · Issue #3063 · hpcaitech/ColossalAI · GitHub
BUG: Failed to launch model · Issue #501 · xorbitsai/inference · GitHub
BUG: Failed to launch model · Issue #501 · xorbitsai/inference · GitHub
启动报错 · Issue #2687 · xorbitsai/inference · GitHub
启动报错 · Issue #2687 · xorbitsai/inference · GitHub
Docker部署Xinference时显示无GPU(实际有) · Issue #1778 · xorbitsai/inference · GitHub
Docker部署Xinference时显示无GPU(实际有) · Issue #1778 · xorbitsai/inference · GitHub
BUG:运行bge-large-zh-v1.5报错 · Issue #1139 · xorbitsai/inference · GitHub
BUG:运行bge-large-zh-v1.5报错 · Issue #1139 · xorbitsai/inference · GitHub
求助,服务器的UI页面 本地无法访问 · Issue #1999 · xorbitsai/inference · GitHub
求助,服务器的UI页面 本地无法访问 · Issue #1999 · xorbitsai/inference · GitHub
使用xinference部署模型,输出异常截断的问题 · Issue #1480 · xorbitsai/inference · GitHub
使用xinference部署模型,输出异常截断的问题 · Issue #1480 · xorbitsai/inference · GitHub
xinference-V2.3.0无法加载、启动自定义模型 · Issue #4723 · xorbitsai/inference · GitHub
xinference-V2.3.0无法加载、启动自定义模型 · Issue #4723 · xorbitsai/inference · GitHub
BUG: model exited abnormally · Issue #912 · xorbitsai/inference · GitHub
BUG: model exited abnormally · Issue #912 · xorbitsai/inference · GitHub
0.10.3版本无法下载m3e以及其他embedding模型 · Issue #1434 · xorbitsai/inference · GitHub
0.10.3版本无法下载m3e以及其他embedding模型 · Issue #1434 · xorbitsai/inference · GitHub
请问能将lora也纳入网页部署的选择内容吗 · Issue #1105 · xorbitsai/inference · GitHub
请问能将lora也纳入网页部署的选择内容吗 · Issue #1105 · xorbitsai/inference · GitHub
xinference无法正常运行 · Issue #2597 · xorbitsai/inference · GitHub
xinference无法正常运行 · Issue #2597 · xorbitsai/inference · GitHub
embedding模型在WebUI中无法部署 · Issue #2083 · xorbitsai/inference · GitHub
embedding模型在WebUI中无法部署 · Issue #2083 · xorbitsai/inference · GitHub
对于系统上的一些参数,文档上描述不是很全面,麻烦解答一下 · Issue #2676 · xorbitsai/inference · GitHub
对于系统上的一些参数,文档上描述不是很全面,麻烦解答一下 · Issue #2676 · xorbitsai/inference · GitHub
启动服务器下载好的本地音频模型报错 · Issue #2691 · xorbitsai/inference · GitHub
启动服务器下载好的本地音频模型报错 · Issue #2691 · xorbitsai/inference · GitHub
有计划支持通义千问的moe架构吗 · Issue #1223 · xorbitsai/inference · GitHub
有计划支持通义千问的moe架构吗 · Issue #1223 · xorbitsai/inference · GitHub
集群部署xinference注册自定义模型 · Issue #1327 · xorbitsai/inference · GitHub
集群部署xinference注册自定义模型 · Issue #1327 · xorbitsai/inference · GitHub
v0.14.3启动报错 · Issue #2167 · xorbitsai/inference · GitHub
v0.14.3启动报错 · Issue #2167 · xorbitsai/inference · GitHub
Failed to load model · Issue #1828 · xorbitsai/inference · GitHub
Failed to load model · Issue #1828 · xorbitsai/inference · GitHub
建立虚拟环境,安装依赖后报错,如何解决 · Issue #3858 · xorbitsai/inference · GitHub
建立虚拟环境,安装依赖后报错,如何解决 · Issue #3858 · xorbitsai/inference · GitHub
pip install show error · Issue #814 · xorbitsai/inference · GitHub
pip install show error · Issue #814 · xorbitsai/inference · GitHub
inference arm64 support · Issue #3076 · xorbitsai/inference · GitHub
inference arm64 support · Issue #3076 · xorbitsai/inference · GitHub
自行下载的模型如何注册,请给个例子 · Issue #1632 · xorbitsai/inference · GitHub
自行下载的模型如何注册,请给个例子 · Issue #1632 · xorbitsai/inference · GitHub
QUESTION · Issue #1016 · xorbitsai/inference · GitHub
QUESTION · Issue #1016 · xorbitsai/inference · GitHub
v0.13.3 Docker 镜像无法拉起 · Issue #1949 · xorbitsai/inference · GitHub
v0.13.3 Docker 镜像无法拉起 · Issue #1949 · xorbitsai/inference · GitHub
failed to register · Issue #2036 · xorbitsai/inference · GitHub
failed to register · Issue #2036 · xorbitsai/inference · GitHub

Loading image details...

Source
Dimensions