You cannot select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
1.3 KiB
1.3 KiB
说明
docker 启动 redis 作为向量数据库
docker-compose up -d
# 可以在 http://127.0.0.1:8001 看到 redis 的 web 界面
# redis 监听在 127.0.0.1:6379, 使用 redis-cli ping 可测试
环境变量
所需的大模型和 API Key. 豆包大模型地址: https://console.volcengine.com/ark/region:ark+cn-beijing/model
ChatModel 推荐: Doubao-pro-4k (functioncall) EmbeddingModel 推荐: Doubao-embedding-large 进入页面后点击
推理按钮，即可创建按量计费的模型接入点，对应的ep-xxx就是所需的 model 名称
export ARK_API_KEY=xxx
export ARK_CHAT_MODEL=xxx
export ARK_EMBEDDING_MODEL=xxx
启动 eino agent server
# 为了使用 data 目录，需要在 eino_assistant 目录下执行指令
go run cmd/einoagent/*.go
访问
访问 http://127.0.0.1:8080/ 即可看到效果
命令行运行 index (可选)
# 因示例的Markdown文件存放在 cmd/knowledgeindexing/eino-docs 目录，代码中指定了相对路径 ./eino-docs，所以需在 cmd/knowledgeindexing 运行指令
cd cmd/knowledgeindexing
go run main.go