欢迎来到

从快速构建POC到可扩展的企业LLM应用程序,LLMWare包含您需要的所有工具。

llmware是一个集成框架,具有超过50个小型,专业化,开源模型,用于快速开发基于LLM的应用程序,包括检索增强生成(RAG)和代理工作流的多步演示。

该项目提供了一套全面的工具,任何人都可以使用-从初学者到最复杂的AI开发人员-快速构建工业级,基于知识的企业LLM应用程序。

我们的具体重点是使其易于集成开源小型专业模型,并安全可靠地连接企业知识。

 入门

  1. 安装llmware -pip 3安装llmware

  2. 确保您在受支持的平台上运行。

  3.  通过示例学习:

    - 快速入门示例-结构化的一组6个示例(不需要安装数据库),用于学习使用LLMWare的RAG的主要概念-每个示例都有广泛的评论,以及Youtube上的支持视频,以引导您完成它。

    - 入门示例--大量注释的示例,回顾了许多入门元素–选择数据库,加载示例文件,使用库,以及如何使用模型目录。

    - 用例示例-集成了LLMW的几个组件的较长的示例,为常见用例模式的解决方案提供了一个框架。

    - 深入到感兴趣的特定领域-解析-模型-代理-以及更多.

  4. 我们提供了集成到示例中的大量示例文件,因此您可以复制-粘贴-运行,并快速验证安装是否正确设置,并开始查看关键类和方法。
    我们建议您首先从“开箱即用”示例开始,然后将该示例用作插入文档、模型、查询和工作流的启动点。

  5. 通过观看学习:查看LLMWare Youtube频道

  6. 与社区分享:加入我们的Discord

 安装llmware
常见设置和配置项
 架构
 在GitHub上查看llmware
在GitHub上打开一个问题


 使用Pip安装

  • 安装llmware很容易:pip3 install llmware

  • 如果您愿意,我们还在此存储库的wheel存档中提供了一组最新的wheel,您可以单独下载并按以下方式使用:

pip3 install llmware-0.2.12-py3-none-any.wheel
  • 我们通常保持这个存储库的主分支与所有更改保持同步,但是我们大约每周只向PyPi发布一次新的轮子


 克隆存储库

  • 如果您更喜欢克隆存储库:
git clone git@github.com:llmware-ai/llmware.git
  • llmware包完全包含在/llmware文件夹路径中,因此您应该能够将此文件夹(及其所有内容)拖放到项目树中,并使用llmware模块,基本上与pip安装相同。

  • 请确保您正在捕获和更新/llmware/lib文件夹,其中包括所需的已编译共享库。如果您愿意,可以只保留操作系统平台所需的库。

  • 在克隆存储库之后,我们提供了一个简短的“welcome to llmware”自动化脚本,它可以用于安装项目需求(来自llmware/requirements. txt),安装几个在示例中常用的可选依赖项,将几个好的“入门”示例复制到根文件夹中,然后运行“welcome_example.py”脚本开始使用我们的模型。
    要使用“welcome to llmware”脚本:

 视窗:

.\welcome_to_llmware_windows.sh

 Mac/Linux:

sh ./welcome_to_llmware.sh

关于项目的更多信息-参见主存储库

 有关该项目

llmware© 2023-2024 byAI Bloks.

 贡献

请首先讨论您想要公开进行的任何更改,例如在GitHub上提出问题或开始新的讨论。您也可以写电子邮件或在我们的Discrod频道上开始讨论。阅读更多关于成为GitHub仓库贡献者的信息。

 行为守则

我们欢迎所有人加入llmware社区。在我们的GitHub存储库中查看我们的行为准则

llmwareAI Bloks

llmware是一个开源项目,来自AI Bloks-llmware背后的公司。该公司提供软件即服务(SaaS)检索增强生成(RAG)服务。AI BloksNamee OberstDarren Oberst于2022年10月创立。

 许可证

llmware通过Apache-2.0许可证分发。

感谢llmware的贡献者!