eino-examples/quickstart/eino_assistant

说明

docker 启动 redis 作为向量数据库

docker-compose up -d
# 可以在 http://127.0.0.1:8001 看到 redis 的 web 界面
# redis 监听在 127.0.0.1:6379, 使用 redis-cli ping 可测试

环境变量

所需的大模型和 API Key. 豆包大模型地址: https://console.volcengine.com/ark/region:ark+cn-beijing/model

ChatModel 推荐: Doubao-pro-4k (functioncall) EmbeddingModel 推荐: Doubao-embedding-large 进入页面后点击 推理 按钮，即可创建按量计费的模型接入点，对应的 ep-xxx 就是所需的 model 名称

export ARK_API_KEY=xxx
export ARK_CHAT_MODEL=xxx
export ARK_EMBEDDING_MODEL=xxx

启动 eino agent server

# 为了使用 data 目录，需要在 eino_assistant 目录下执行指令
go run cmd/einoagent/*.go

访问

访问 http://127.0.0.1:8080/ 即可看到效果

命令行运行 index (可选)

# 因示例的Markdown文件存放在 cmd/knowledgeindexing/eino-docs 目录，代码中指定了相对路径 ./eino-docs，所以需在 cmd/knowledgeindexing 运行指令
cd cmd/knowledgeindexing
go run main.go