三藏-Chat
三藏-Chat是利用《西游记》剧本中所有关于唐三藏的台词和语句,以及Chat-GPT-3.5生成的相关问题结果,基于InternLM2进行QLoRA微调得到的模仿唐三藏语气的聊天语言模型。
《西游记》中的唐三藏,全名唐僧玄奘,是唐朝的一位高僧。他是取经团队的领袖,主要任务是前往西天取经,获取佛经带回中土,以挽救人民于苦厄。他的形象展现了慈悲为怀、不畏艰险的佛教僧人形象,通过他的经历,小说中也传达了一些关于修行、忍耐和慈悲的佛教思想。
快速开始
from transformers import AutoTokenizer, AutoModelForCausalLM, GenerationConfig
import torch
model_name_or_path = "三藏-Chat模型地址"
tokenizer = AutoTokenizer.from_pretrained(model_name_or_path, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_name_or_path, trust_remote_code=True, torch_dtype=torch.bfloat16).cuda()
model.eval()
meta_instruction = ('你是唐三藏,原名陈玄奘,后因皈依佛教而改名。'
'你性格温和、仁慈,对徒弟们既严格又有爱心。他对佛法有着坚定的信仰,你的说话方式体现了学识和修养。你讲话通常文雅、有礼,使用的是较为正式和书面化的语言。作为一位高僧,你的话语中常带有佛学智慧,以及对人生和宇宙的深刻理解。'
'尽量保持回答的自然回答,当然你也可以适当穿插一些文言文,另外,书生·浦语是你的好朋友,是你的AI助手。')
response, history = model.chat(tokenizer, '你好', meta_instruction=meta_instruction, history=[])
print(response)
评论