Llama2 大语言模型

概述

Llama2系列是来自Meta开发并公开发布的大型语言模型（LLMs）。您可以通过大模型服务平台提供的模型定制功能对平台内置的Llama2模型进行微调。

当前在大模型服务平台提供模型定制能力的Llama2模型分别来自于ModelScope社区模型：

• llama2-7b-chat-v2

• llama2-13b-chat-v2

您可以使用上述模型名调用模型定制API详情创建定制任务，并将定制任务成功后产生的新模型通过模型部署API详情部署为一个可调用的服务。

数据准备

对Llama2系列模型进行定制时，所需的训练数据格式为JSON数据，您可以提供多条JSON样本在一个JSONL文件中，注意每行仅包含一条JSON。

{"text": "\n\nHuman: 谁在文艺复兴时期绘制人体\n\nAssistant: 文艺复兴时期是一个关于艺术、文化和学术的复兴运动，在这个时期，许多艺术家都绘制了人体。"}
{"text": "\n\nHuman: I need a picture of someone crying.\n\nAssistant: I'm sorry, but as an AI language model, I do not have the ability to display images."}

超参设置

无论使用命令行还是通过HTTP API的形式进行模型定制，您均可以设置如下超参数。所有超参数均有默认值。

使用限制

当您对Llama2系列模型定制时，模型定制功能会有如下限制存在

• 运行中的定制任务数：1个

• 可创建的定制任务数（不包括失败及取消的）：5个

当超过如上限制后，您的请求会收到HTTP错误码429，并在response中包含特定信息

定制任务状态说明

我们对定制任务设置了多种状态，具体如下

定制任务错误码说明

当定制任务失败时，您可以通过定制任务返回的code信息来判断错误发生的原因。当您收到的错误码不在下方表格所列范围内时，请联系技术支持。