一些大语言模型(LLM)相关的开源项目
更多文章访问: https://www.cyisme.top
因为站内限制问题,有些图片无法显示,导致阅读体验较差,可以访问原文:《一些大语言模型(LLM)相关的开源项目》
NextChat
一键免费部署私人 ChatGPT 网页应用,支持 GPT3, GPT4 & Gemini Pro 模型。
项目地址: https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web/tree/main
one-api
支持多种大模型, 国内的阿里通义千问、百度文心一言等都可以接入。并且有独立的管理页面,支持令牌管理、兑换码管理、通道管理等。
很多其他的项目使用它来做多种模型的gateway,实现统一的api调用。
项目地址: https://github.com/songquanpeng/one-api
fastGPT
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统。它的亮点在于可视化的工作流编排和知识库管理,从而实现复杂的问答场景。
项目地址: https://github.com/labring/FastGPT
在线演示: https://fastgpt.in/
dify
Dify 是一个 LLM 应用开发平台,开箱即用的 AI WebApp, 也可集成至你的应用的后端即服务。可以基于任何模型自部署类似 Assistants API 和 GPTs 的能力。
项目地址: https://github.com/langgenius/dify
fastChat
FastChat 是一个开放平台,用于训练、服务和评估基于大型语言模型的聊天机器人。 支持先进的模型(如vicuna)和评估(MT-Bench)。
具有 Web UI 以及和 OpenAI 兼容的 RESTful API。
项目地址: https://github.com/lm-sys/FastChat
autogen
AutoGen 是一个框架,支持使用多个代理来开发 LLM 应用程序,这些代理可以相互对话来解决任务。 AutoGen 代理是可定制的、可对话的,并且无缝地允许人类参与。
它简化了复杂的工作流程的编排, 支持复杂工作流程的多种对话模式。
借助可定制和可对话的代理,开发人员可以使用 AutoGen 构建各种涉及对话自主性、代理数量和代理对话拓扑的对话模式。
项目地址: https://github.com/microsoft/autogen
anything-llm
可以使用商业或开源的 LLM 和 vectorDB 来构建私有 ChatGPT。他可以将文档转换为对话中的上下文(PDF, TXT, DOCX, etc)。
项目地址: https://github.com/Mintplex-Labs/anything-llm
web-llm
WebLLM是一个模块化、可定制的javascript软件包,通过硬件加速将语言模型聊天直接带到Web浏览器上。一切都在浏览器内运行,使用WebGPU进行加速。
项目地址: https://github.com/mlc-ai/web-llm
LLMsPracticalGuide
一些与LLM相关的指南、论文等。
项目地址: https://github.com/Mooler0410/LLMsPracticalGuide
open-llms
一些开源且可商用的LLM模型列表
项目地址: https://github.com/eugeneyan/open-llms
Awesome-Chinese-LLM
整理了一些开源的中文大语言模型
项目地址: https://github.com/HqWu-HITCS/Awesome-Chinese-LLM