WenXin 使用

1. 创建相关文件

创建一个yaml文件，例如 user_wenxin.yaml 将以下内容粘贴到您的user_wenxin.yaml文件当中

name: 'user_wenxin_llm'
description: 'user wenxin llm with spi'
model_name: 'ERNIE-3.5-8K'
max_tokens: 1000
streaming: true
temperature: 0.5
api_key: '${QIANFAN_AK}'
secret_key: '${QIANFAN_SK}'
metadata:
  type: 'LLM'
  module: 'agentuniverse.llm.default.wenxin_llm'
  class: 'WenXinLLM'

note: api_key/secret_key等模型参数有两种种配置方法

直接字符串值：直接在配置文件中输入API密钥字符串。
```
api_key: 'sk-***'
```
环境变量占位符：使用${VARIABLE_NAME}语法从环境变量中加载。当agentUniverse启动时，会自动从环境变量读取相应的值。
```
api_key: '${QIANFAN_AK}'
```

2. 环境设置

示例yaml中模型密钥等参数使用环境变量占位符，下面将介绍环境变量设置方法。

必须配置：QIANFAN_AK、QIANFAN_SK

2.1 通过python代码配置

import os
os.environ['QIANFAN_AK'] = '*****'
os.environ['QIANFAN_SK'] = 'xxxxx'

2.2 通过配置文件配置

在项目的config目录下的custom_key.toml当中，添加配置：

QIANFAN_AK="sk-******"
QIANFAN_SK="https://xxxxxx"

3.QIANFAN API KEY 获取

参考千帆官方文档：https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Dlkm79mnx

4. Tips

在agentuniverse中，我们已经创建了一个name为default_wenxin_llm的llm,用户在配置QIANFAN_AK、QIANFAN_SK之后可以直接使用。

1.5 KiB Raw Permalink Blame History Unescape Escape