研究发现：Llama代码生成模型能力直追GPT-4

2023-08-28 09:26 由杨亮发表于 #商业

8月28日消息，研究团队在Phind 内部数据集上对 CodeLlama-34B 和 CodeLlama-34B-Python 进行微调之后发现，这两款模型微调之后在 HumanEval 测试中的通过率均已超过GPT-4在3月份的成绩。

本次发布的Code Llama是在Llama 2的基础上，通过特定的代码数据集进一步训练而来，支持C++、Java、Python、PHP、Typescript（Javascript）、C#和Bash等众多流行语言，依然是开源可商用。

Code Llama对编程专家和初学者都非常有用，无论是用专业的编程语言还是用自然语言（如普通话）来描述编程需求，Code Llama都能理解，并很好地生成相应的代码或与代码相关的解释。这极大降低了开发门槛和效率。

Code Llama是Meta公司开源可商用大模型Llama 2的编程版本，据悉，Code Llama分为7B、13B和34B三个不同参数版本，可满足不同的服务和延迟要求。每个版本的模型都使用了500B tokens与代码相关的数据进行训练。