网站面包屑导航设计即位置导航,区块链网站开发,wordpress企业网站DIY,wordpress首页怎么做语析 - 基于大模型的知识库与知识图谱问答平台
GitHub 地址#xff1a;https://github.com/xerrors/Yuxi-Know
#x1f4dd; 项目概述
语析是一个强大的问答平台#xff0c;结合了大模型 RAG 知识库与知识图谱技术#xff0c;基于 Llamaindex VueJS FastAPI Neo4j 构…语析 - 基于大模型的知识库与知识图谱问答平台
GitHub 地址https://github.com/xerrors/Yuxi-Know 项目概述
语析是一个强大的问答平台结合了大模型 RAG 知识库与知识图谱技术基于 Llamaindex VueJS FastAPI Neo4j 构建。
核心特点 多模型支持适配 OpenAI、各大国内主流大模型平台以及本地 vllm 部署 灵活知识库支持 PDF、TXT、MD 等多种格式文档️ 知识图谱集成基于 Neo4j 的知识图谱问答能力 简单配置只需配置对应服务平台的 API_KEY 即可使用 更新日志
2025.02.24 - 新增网页检索以及内容展示需配置 TAVILY_API_KEY感谢 littlewwwhite2025.02.23 - SiliconFlow 的 Rerank 和 Embedding model 支持现默认使用 SiliconFlow2025.02.20 - DeepSeek-R1 支持需配置 DEEPSEEK_API_KEY 或 SILICONFLOW_API_KEY2024.10.12 - 后端修改为 FastAPI添加 Milvus-Standalone 独立部署 PC 网页小屏设备
环境配置
在启动前您需要提供 API 服务商的 API_KEY并放置在 src/.env 文件中。
默认使用硅基流动的服务因此必须配置
SILICONFLOW_API_KEYsk-270ea********8bfa97.e3XOMd****Q1Sk本项目的基础对话服务可在不含显卡的设备上运行大模型使用在线服务商的接口。 启动服务
开发环境启动源代码修改会自动更新
docker compose -f docker/docker-compose.dev.yml --env-file src/.env up --build添加 -d 参数可在后台运行 生产环境部署请使用
docker compose -f docker/docker-compose.yml --env-file src/.env up --build -d成功启动后会看到以下容器
[] Running 7/7✔ Network docker_app-network Created✔ Container graph-dev Started✔ Container milvus-etcd-dev Started✔ Container milvus-minio-dev Started✔ Container milvus-standalone-dev Started✔ Container api-dev Started✔ Container web-dev Started访问 http://localhost:5173/ 即可使用系统。
服务管理
关闭服务
docker compose -f docker/docker-compose.dev.yml --env-file src/.env down查看日志
docker logs 容器名称 # 例如docker logs api-dev模型支持
1. 对话模型
本项目支持通过 API 调用的模型本地模型需使用 vllm、ollama 转成 API 服务后使用。
模型供应商默认模型配置项目siliconflow (默认)Qwen/Qwen2.5-7B-Instruct (免费)SILICONFLOW_API_KEYopenaigpt-4oOPENAI_API_KEYdeepseekdeepseek-chatDEEPSEEK_API_KEYarc豆包方舟doubao-1-5-pro-32k-250115ARK_API_KEYzhipu智谱清言glm-4-flashZHIPUAI_API_KEYdashscope阿里qwen-max-latestDASHSCOPE_API_KEYqianfan百度ernie_speedQIANFAN_ACCESS_KEY, QIANFAN_SECRET_KEY
添加新模型供应商
如需添加供应商模型了解 OpenAI 调用方法后只需在 src/static/models.yaml 中添加对应配置
ark:name: 豆包Arkurl: https://console.volcengine.com/ark/region:arkcn-beijing/model # 模型列表default: doubao-1-5-pro-32k-250115 # 默认模型base_url: https://ark.cn-beijing.volces.com/api/v3env: # 需要配置的环境变量仅限API key- ARK_API_KEYmodels:- doubao-1-5-pro-32k-250115- doubao-1-5-lite-32k-250115- deepseek-r1-250120本地模型部署
支持添加以 OpenAI 兼容模式运行的本地模型可在 Web 设置中直接添加适用于 vllm 和 Ollama 等。 [!注意] 使用 docker 运行此项目时ollama 或 vllm 需监听 0.0.0.0 2. 向量模型与重排序模型
建议使用硅基流动部署的 bge-m3免费且无需修改。其他模型配置参考 src/static/models.yaml。
对于向量模型和重排序模型选择 local 前缀的模型会自动下载。如遇下载问题请参考 HF-Mirror 配置。
要使用已下载的本地模型可在网页设置中映射或修改 saves/config/base.yaml。记得在 docker-compose 中映射相应的 volumes。 知识库支持
本项目支持多种格式的知识库文件
PDFTxtMarkdownDocx
文件上传后系统会
将文件转换为纯文本使用向量模型将文本转换为向量存储到向量数据库中 此过程可能需要一定时间请耐心等待。 ️ 知识图谱支持
本项目使用 Neo4j 作为知识图谱存储。您需要将图谱整理成 jsonl 格式每行格式为
{h: 北京, t: 中国, r: 首都}然后在网页的图谱管理中添加此文件。 [!说明] 现阶段项目使用的 OneKE 自动创建知识图谱效果不佳已暂时移除建议在项目外创建知识图谱 系统启动后会自动启动 neo4j 服务
访问地址http://localhost:7474/默认账户neo4j默认密码0123456789
可在 docker/docker-compose.yml 和 docker/docker-compose.dev.yml 中修改配置注意同时修改 api.environment 和 graph.environment。
目前项目暂不支持同时查询多个知识图谱。如已有基于 neo4j 的知识图谱可删除 docker-compose.yml 中的 graph 配置项并修改 api.environment 中的 NEO4J_URI 为您的 neo4j 服务地址。
❓ 常见问题
镜像下载问题
如无法直接下载相关镜像可参考 DaoCloud/public-image-mirror尝试替换前缀
# 以 neo4j 为例其余类似
docker pull m.daocloud.io/docker.io/library/neo4j:latest# 然后重命名镜像
docker tag m.daocloud.io/docker.io/library/neo4j:latest neo4j:latest
