1、服务端:socket接收端,包括消息体打包封装传输,大模型的推理过程,主要C++实现2、客服端:消息接收解析,封装需要执行的模型,并传输,python实现3、实现模型的批量自动化执行,并获取测试报告
评论