https://index.zshipu.com/geek002/tags/bge-reranker-v2-m3/ Recent content in Bge-Reranker-V2-M3 on 知识铺的博客 Hugo -- gohugo.io zh-CN Tue, 29 Oct 2024 07:46:06 +0000 https://index.zshipu.com/geek002/post/202410/Xinference%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E6%A8%A1%E5%9E%8Bbge-reranker-v2-m3%E6%95%99%E7%A8%8B--%E7%9F%A5%E8%AF%86%E9%93%BA/ Tue, 29 Oct 2024 07:46:06 +0000 https://index.zshipu.com/geek002/post/202410/Xinference%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E6%A8%A1%E5%9E%8Bbge-reranker-v2-m3%E6%95%99%E7%A8%8B--%E7%9F%A5%E8%AF%86%E9%93%BA/ liuqianglong.com Xinference 本地运行大模型 本文介绍了如何使用 Docker 部署 Xinference 推理框架，并演示了启动和运行多种大模型的过程，包括大语言模型、图像生成模型以及多模态模型。同时，还提供了关于嵌入和重排模型的启动指导，为后续 Dify 调用这些模型打下基础。 一、Xinference 简介 Xorbits Inference (Xinference) 是一个开源分布式推理框架，专为执行大规