Meta近日发布了Code Llama系列的最新成员——Code Llama 70B,这是迄今为止规模最大、性能最强的版本,成功超越了GPT-4。Code Llama 70B展现了在AI编程领域的领先地位,尤其是在处理编码任务方面的卓越能力。
Code Llama系列现包含四个版本:7B、13B、34B和新发布的70B,均适用于研究和商业用途。Code Llama 70B基于Llama 2开发,专注于编程任务。它支持多种流行编程语言,如Python、C++、Java等,并能处理长达100000 token的上下文,使其在理解和生成复杂、长篇的程序代码方面具有优势。
Code Llama 70B提供三种变体:
- 基础代码模型
- 针对Python编程的优化版
- 专注于理解自然语言指令的版本
其中,Code Llama 70B - Instruct在HumanEval测试中以67.8的高分表现亮眼,成为目前最强的开源模型之一。另外,为满足特定需求,Code Llama - Python专门针对Python代码进行了优化,而Code Llama - Instruct则更加专注于理解和执行自然语言指令。