基于本地模型(Qwen) + langchain-Node 实现的本地知识库问答(RAG 应用) Demo。项目提供了本地模型的实践,实际上可以直接接入三方 API,例如 OPNEAI、通义千问等。这里不做赘述,感兴趣可以参考官方文档
Mac Air M1
Mac OS Monterey
NodeJs v18.19.0
PNPM v8.14.0
Ollama v0.1.29 (models: qwen:7b)
Redis Stack v7.2
- 下载 Ollama 以及 LLM 模型。
官网: https://ollama.com/ , 模型仓库:https://ollama.com/library
- 部署 Redis Stack
docker:
docker run -d --name redis-stack -p 6379:6379 -p 8001:8001 -e REDIS_ARGS="--requirepass mypassword" redis/redis-stack:latest
- 安装依赖
pnpm i
- 运行
node index.js