快速开始_模型服务灵积(DashScope)-阿里云帮助中心

InternLM模型

说明

支持的领域 / 任务：aigc

目前在DashScope上对外提供的InternLM模型服务主要包含InternLM-7B-Chat模型，是由书生·浦语出品的大规模语言模型。

InternLM系列模型是由上海人工智能实验室从头开始训练的一代开源大型语言模型，在过万亿token 数据上训练的多语千亿参数基座模型。通过多阶段的渐进式训练，InternLM基座模型具有较高的知识水平，在中英文阅读理解、推理任务等需要较强思维能力的场景下性能优秀，在多种面向人类设计的综合性考试中表现突出。在此基础上，通过高质量的人类标注对话数据结合RLHF等技术，使得InternLM可以在与人类对话时响应复杂指令，并且表现出符合人类道德与价值观的回复。此外InternLM系列模型还具有如下优势：

多语：InternLM 具备多种语言的理解和表达能力，尤其能熟练使用中英双语，在中文和英文的多种客观评测上都强于社区开源模型。
推理：通过在不同来源的数据以及精选高质量数据上进行训练，InternLM 在逻辑推理、代码生成以及复杂指令跟随等方面表现出色。
考试：使用人类考试数据作为验证模型能力的试金石，InternLM 在 MMLU、C-Eval 等考试评测集上表现优异。

ps：更多信息可以参考ModelScope上书生·浦语-对话-7B。

快速开始

前提条件

已开通服务并获得API-KEY：API-KEY的获取与配置。
已安装最新版SDK：安装DashScope SDK。

示例代码

以下示例展示了调用InternLM模型API对一个用户指令进行响应的代码。

说明

需要使用您的API-KEY替换示例中的your-dashscope-api-key，代码才能正常运行。

设置API-KEY

export DASHSCOPE_API_KEY=YOUR_DASHSCOPE_API_KEY

Python

from dashscope import Generation


def call_with_messages():
    messages = [
        {'role': 'system', 'content': 'You are a helpful assistant.'},
        {'role': 'user', 'content': '介绍下杭州'}]
    gen = Generation()
    response = gen.call(
        'internlm-7b-chat',
        messages=messages,
        result_format='message',  # set the result is message format.
    )
    print(response)


if __name__ == '__main__':
    call_with_messages()

Java

// Copyright (c) Alibaba, Inc. and its affiliates.

import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.MessageManager;
import com.alibaba.dashscope.common.Role;
import com.alibaba.dashscope.exception.ApiException;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
import com.alibaba.dashscope.utils.JsonUtils;

public class Main {
  public static void usage()
      throws NoApiKeyException, ApiException, InputRequiredException {
    MessageManager msgManager = new MessageManager(10);
    Message systemMsg = Message.builder().role(Role.SYSTEM.getValue()).content("You are a helpful assistant.").build();
    Message userMsg = Message.builder().role(Role.USER.getValue()).content("介绍下杭州").build();
    msgManager.add(systemMsg);
    msgManager.add(userMsg);

    GenerationParam param = GenerationParam.builder()
        .model("internlm-7b-chat)
        .messages(msgManager.get())
        .build();
    Generation gen = new Generation();
    GenerationResult result = gen.call(param);
    System.out.println(JsonUtils.toJson(result));
  }

  public static void main(String[] args) {
    try {
      usage();
    } catch (ApiException | NoApiKeyException | InputRequiredException e) {
      System.out.println(e.getMessage());
    }
    System.exit(0);
  }
}

调用成功后，将会返回如下示例结果。

JSON

{
    "status_code": 200,
    "request_id": "0b9c2a71-89cf-963b-8eb4-2786ba88dfbf",
    "code": "",
    "message": "",
    "output": {
        "text": null,
        "finish_reason": null,
        "choices": [
            {
                "finish_reason": "stop",
                "message": {
                    "role": "assistant",
                    "content": "\n 杭州是中华人民共和国浙江省的省会，位于中国东南沿海地区，地处长江三角洲南翼。杭州拥有悠久的历史和灿烂的文化，自古以来就是著名的历史文化名城。杭州的地理位置优越，交通便捷，是长江三角洲地区的重要城市之一。\n\n杭州的气候属于亚热带季风气候，四季分明，温暖湿润，雨量充沛。全年气候温和，无霜期长，湿度适中。杭州的春天湿润多雨，夏天炎热多雨，秋天气候宜人，冬天干燥寒冷。\n\n杭州是中国著名的旅游胜地，拥有许多著名的旅游景点，如西湖、灵隐寺、宋城、西溪湿地等。此外，杭州还有许多美食，如龙井虾仁、西湖醋鱼、东坡肉等，是中国著名的美食城市之一。\n\n杭州是中国的互联网科技产业发达的城市之一，拥有阿里巴巴、网易等知名互联网公司。此外，杭州还是中国的金融中心之一，拥有许多金融机构和保险公司。\n\n杭州是一个历史悠久、文化底蕴深厚的城市，同时也是中国经济发展迅速的城市之一，拥有广阔的发展前景。"
                }
            }
        ]
    },
    "usage": {
        "input_tokens": 10,
        "output_tokens": 225
    }
}

了解更多

有关InternLM模型API详细调用文档可前往页面进行了解。