Embedding Issue 2157 Xorbitsaiinference Github
FEAT: embedding API · Issue #173 · xorbitsai/inference · GitHub
调用embedding模型报错 · Issue #2157 · xorbitsai/inference · GitHub
0.10.3版本无法下载m3e以及其他embedding模型 · Issue #1434 · xorbitsai/inference · GitHub
Docker部署Xinference时显示无GPU（实际有） · Issue #1778 · xorbitsai/inference · GitHub
集群部署时，报错 · Issue #2955 · xorbitsai/inference · GitHub
版本升级到0.10.0，加载自定义LLM报错 · Issue #1269 · xorbitsai/inference · GitHub
xinference==0.15.0版本的vLLM引擎报错 · Issue #2307 · xorbitsai/inference · GitHub
unsupported audio codec? · Issue #2157 · filebrowser/filebrowser · GitHub
使用文档里的命令，启动embeeding模型，报错 · Issue #2140 · xorbitsai/inference · GitHub
embedding模型在WebUI中无法部署 · Issue #2083 · xorbitsai/inference · GitHub
Advertisement Space (300x250)
Xinference能否在AMD GPU上进行模型推理？ · Issue #2148 · xorbitsai/inference · GitHub
embedding模型指定gpu启动报错 · Issue #2707 · xorbitsai/inference · GitHub
embedding模型和rerank模型显存不释放 · Issue #2162 · xorbitsai/inference · GitHub
xinfer会话接口并发时，响应时间和并发数成比例 期望解答 · Issue #2284 · xorbitsai/inference · GitHub
qwen2-vl-instruct 部署报错 · Issue #2255 · xorbitsai/inference · GitHub
请问能将lora也纳入网页部署的选择内容吗 · Issue #1105 · xorbitsai/inference · GitHub
有计划支持通义千问的moe架构吗 · Issue #1223 · xorbitsai/inference · GitHub
对于系统上的一些参数，文档上描述不是很全面，麻烦解答一下 · Issue #2676 · xorbitsai/inference · GitHub
FP8量化支持 · Issue #1647 · xorbitsai/inference · GitHub
求助，服务器的UI页面 本地无法访问 · Issue #1999 · xorbitsai/inference · GitHub
Advertisement Space (336x280)
BUG embedding和rerank模型持续显存占用 · Issue #1741 · xorbitsai/inference · GitHub
Error loading embedding file · Issue #2382 · AUTOMATIC1111/stable ...
Dash-infer support maybe? · Issue #2107 · xorbitsai/inference · GitHub
启动服务器下载好的本地音频模型报错 · Issue #2691 · xorbitsai/inference · GitHub
并发调用模型后，占用GPU显存越来越大，但是不会下降 · Issue #2470 · xorbitsai/inference · GitHub
BUG: 请求频率过快，后端会崩掉 · Issue #1206 · xorbitsai/inference · GitHub
Xinference能否添加认证功能？ · Issue #2872 · xorbitsai/inference · GitHub
模型无法选择gpu，只有cpu选项 · Issue #2578 · xorbitsai/inference · GitHub
xinference-V2.3.0无法加载、启动自定义模型 · Issue #4723 · xorbitsai/inference · GitHub
inference/setup.cfg at main · xorbitsai/inference · GitHub
Advertisement Space (336x280)
Embedding Models | xorbitsai/inference | DeepWiki
xinference模型每次重启完可以正常回答，过一段时间对话一直转圈 · Issue #2674 · xorbitsai/inference ...
BUG: Qwen 7/13b inference failed with utf-8 decode error. · Issue #766 ...
使用官方镜像v0.12.3，运行自定义embedding，还是去连接huggingface是为啥 · Issue #1760 ...
0.15.2版本xinference启动本地模型报错Model not found · Issue #2358 · xorbitsai ...
希望运行embedding模型和rerank模型的时候可以指定gpu的device_id · Issue #1207 · xorbitsai ...