参考教程： 1. https://www.giserdqy.com/gis/opengis/geoserver/17173/ 2. https://zhuanlan.zhihu.com/p/141113725 3.https://blog.csdn.net/weixin_42232745/article/details/107841879 一、需求 需求是使用Cesium制作室内外一体化导航服务，希望实现路径回放功能。 经过调研后，发现的解决方案：
通过docker部署xinference，对外暴漏openai兼容的api，供外部软件使用。 硬件：GTX2080 TI 22G 模型：qwen1.5-chat-13b-qint4 + bge-base-zh-v1.5 桌面软件：Chatbox 最终实现了qwen的部署，且通过openai的标准API接口，实现了Chatbox接入了私有模型。 xinference docker-compose.yml配置： 最终效果
原始链接： QAnything网易开源RAG应用 支持多种文件格式 #小工蚁_哔哩哔哩_bilibili Qanything-本地知识库问答系统（LLM+RAG） - 知乎 (zhihu.com)
