StarCoder（150亿参数）是HuggigFace联合ServiceNow发布的免费大型语言模型，该模型经过训练主要用途是可以生成代码，目的是为了对抗GitHubCopilot和亚马逊CodeWhisperer等基于AI的编程工具。
其训练数据包含80多种不同的编程语言以及从GitHub中提取的文本。
安装首先，我们必须安装requiremets.txt中列出的所有库
pipistall-rrequiremets.txt代码生成代码生成pipelie如下
fromtrasformersimportAutoModelForCausalLM,AutoTokeizercheckpoit="bigcode/starcoder"device="cuda"#forGPUusageor"cpu"forCPUusagetokeizer=AutoTokeizer.from_pretraied(checkpoit)#tosavememorycosiderusigfp16orbf16byspecifyigtorch.dtype=torch.float16forexamplemodel=AutoModelForCausalLM.from_pretraied(checkpoit).to(device)iputs=tokeizer.ecode("defprit_hello_world():",retur_tesors="pt").to(device)outputs=model.geerate(iputs)prit(tokeizer.decode(outputs[0]))或者
fromtrasformersimportAutoModelForCausalLM,AutoTokeizer,pipeliecheckpoit="bigcode/starcoder"model=AutoModelForCausalLM.from_pretraied(checkpoit)tokeizer=AutoTokeizer.from_pretraied(checkpoit)pipe=pipelie("text-geeratio",model=model,tokeizer=tokeizer,device=0)prit(pipe("defhello():"))
评论