您可以通过如下pip命令安装相关环境
程序运行系统为Ubuntu 20.04.6 程序所用python==3.11.9
SDK下载
#安装ModelScope
pip install zhipuai==v2.0.1
pip install requests==2.32.3
pip install numpy==1.26.4
pip install scipy==1.13.1
使用以下方法进行推理测试
也可以直接使用run.py进行推理测试。
import glm_inference
from tools import get_tools
import json
filename = '可乐猫。_result.json'
# 打开文件并读取每一行
with open('Data/B_question.json', 'r', encoding='utf-8') as file:
for line in file:
# 解析JSON数据
data = json.loads(line.strip())
# 提取product_name字段
id = data['id']
query = data['question']
data, setp_question = glm_inference.run(query, tools=get_tools())
# 提取角色为"assistant"的所有非空内容
assistant_contents = data.choices[0].message.content.replace('\n', '')
print(assistant_contents)
data = {
"id": id,
"question": query,
"answer": assistant_contents
}
# 将字典转换为JSON格式的字符串
json_data = json.dumps(data, ensure_ascii=False)
# 打开文件并写入JSON数据,指定编码为UTF-8
with open(filename, 'a', encoding='utf-8') as file:
file.write(json_data + '\n') # 添加换行符以便于每个条目都在新的一行
评论