在LangChain中使用百炼

OpenAI

只支持百炼的部分模型。完整列表请参考：OpenAI 兼容模式支持的模型列表。调用费用、输入输出上限等请参考：模型总览。

使用前需要安装以下依赖：

pip install langchain_openai

模型调用：

from langchain_openai import ChatOpenAI
import os

chatLLM = ChatOpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    model="qwen-plus",  # 此处以qwen-plus为例，您可按需更换模型名称。模型列表：https://help.aliyun.com/zh/model-studio/getting-started/models
    # other params...
)
messages = [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "你是谁？"}]
response = chatLLM.invoke(messages)
print(response.json())

工具调用等进阶技巧请前往 LangChain 官方的 ChatOpenAI。完整的 API参考文档请前往 LangChain 官方的 ChatOpenAI API Reference。

DashScope

支持百炼所有的文本生成模型，完整列表与调用费用请参考：模型总览。（也支持部署后的模型）

使用前需要安装以下依赖：

pip install langchain-community
pip install dashscope

模型调用：

from langchain_community.chat_models.tongyi import ChatTongyi
from langchain_core.messages import HumanMessage

chatLLM = ChatTongyi(
    model="qwen-max",   # 此处以qwen-max为例，您可按需更换模型名称。模型列表：https://help.aliyun.com/zh/model-studio/getting-started/models
    streaming=True,
    # other params...
)
res = chatLLM.stream([HumanMessage(content="hi")], streaming=True)
for r in res:
    print("chat resp:", r.content)

多模态调用、工具调用等进阶技巧请前往 LangChain 官方的 ChatTongyi。完整的 API参考文档请前往 LangChain 官方的 ChatTongyi API Reference。

OpenAI

只支持百炼的部分模型。完整列表请参考：OpenAI 兼容模式支持的模型列表。调用费用、输入输出上限等请参考：模型总览。

使用前需要安装以下依赖：

npm install @langchain/openai @langchain/core

模型调用：

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  // 此处以qwen-plus为例，您可按需更换模型名称。模型列表：https://help.aliyun.com/zh/model-studio/getting-started/models
  model: "qwen-plus",
  apiKey: process.env.DASHSCOPE_API_KEY,
  configuration: {
    baseURL: "https://dashscope.aliyuncs.com/compatible-mode/v1",
    // other params...
  },
  // other params...
});

const aiMsg = await llm.invoke([
  {
    role: "system",
    content:
      "You are a helpful assistant that translates English to French. Translate the user sentence.",
  },
  {
    role: "user",
    content: "I love programming.",
  },
]);
console.log('---------------------------');
console.log(aiMsg.content);

工具调用等进阶技巧请前往 LangChain 官方的 ChatOpenAI。完整的 API参考文档请前往 LangChain 官方的 ChatOpenAI API Reference。

DashScope

支持百炼所有的文本生成模型，完整列表与调用费用请参考：模型总览。（也支持部署后的模型）

使用前需要安装以下依赖：

npm install @langchain/community @langchain/core

模型调用：

import { ChatAlibabaTongyi } from "@langchain/community/chat_models/alibaba_tongyi";
import { HumanMessage } from "@langchain/core/messages";

// Default model is qwen-turbo
const qwenTurbo = new ChatAlibabaTongyi({
  alibabaApiKey: process.env.DASHSCOPE_API_KEY,
  // other params...
});

// Use qwen-plus
const qwenPlus = new ChatAlibabaTongyi({
// 此处以qwen-plus为例，您可按需更换模型名称。模型列表：https://help.aliyun.com/zh/model-studio/getting-started/models
  model: "qwen-plus",
  temperature: 1,
  alibabaApiKey: process.env.DASHSCOPE_API_KEY,
  // other params...
});

const messages = [new HumanMessage("Hello")];

const res = await qwenTurbo.invoke(messages);

const res2 = await qwenPlus.invoke(messages);

console.log('---------------------------');
console.log(res.content);
console.log('---------------------------');
console.log(res2.content);

多模态调用、工具调用等进阶技巧请前往 LangChain 官方的 ChatTongyi。完整的 API参考文档请前往 LangChain 官方的 ChatTongyi API Reference。

OpenAI

只支持百炼的部分模型。完整列表请参考：OpenAI 兼容模式支持的模型列表。调用费用、输入输出上限等请参考：模型总览。

借助LangChain4j开源库，您可以使用Java编码以实现相关功能。有Plain Java（纯Java）和Spring Boot这两种实现方式，更多的接口细节和代码示例，请参见LangChain4j OpenAI官网。

DashScope

支持百炼所有的文本生成模型，完整列表与调用费用请参考：模型总览。（也支持部署后的模型）

借助LangChain4j开源库，您可以使用Java编码以实现相关功能。有Plain Java（纯Java）和Spring Boot这两种实现方式，更多的接口细节和代码示例，请参见LangChain4j DashScope官网。

DashScope

使用前需要安装以下依赖：

pip install langchain-community
pip install dashscope

模型调用：

from langchain_community.embeddings import DashScopeEmbeddings
embeddings = DashScopeEmbeddings(
    model="text-embedding-v2",
    # other params...
)

text = "This is a test document."

query_result = embeddings.embed_query(text)
print("文本向量长度：", len(query_result), sep='')

doc_results = embeddings.embed_documents(
    [
        "Hi there!",
        "Oh, hello!",
        "What's your name?",
        "My friends call me World",
        "Hello World!"
    ])
print("文本向量数量：", len(doc_results), "，文本向量长度：", len(doc_results[0]), sep='')

详细介绍与更多使用方式请前往 LangChain 官方的 DashScope Embeddings。完整的 API参考文档请前往 LangChain 官方的 Embedding API Reference。

DashScope

使用前需要安装以下依赖：

npm install @langchain/community @langchain/core

模型调用：

import { AlibabaTongyiEmbeddings } from "@langchain/community/embeddings/alibaba_tongyi";

const model = new AlibabaTongyiEmbeddings({ 
  apiKey: process.env.DASHSCOPE_API_KEY,
  modelName: "text-embedding-v2",
  // other params...
  });
const res = await model.embedQuery(
  "What would be a good company name a company that makes colorful socks?",
);
console.log('---------------------------');
console.log({ res });

详细介绍与更多使用方式请前往 LangChain 官方的 DashScope Embeddings。完整的 API参考文档请前往 LangChain 官方的 Embedding API Reference。

DashScope

借助LangChain4j开源库，您可以使用Java编码以实现相关功能。更多的接口细节和代码示例，请参见LangChain4j DashScope官网。

1. 添加依赖

   以Maven为例，在pom.xml中添加如下依赖：

   <!-- https://mvnrepository.com/artifact/dev.langchain4j/langchain4j-community-dashscope -->
   <dependency>
       <groupId>dev.langchain4j</groupId>
       <artifactId>langchain4j-community-dashscope</artifactId>
       <version>1.0.0-beta3</version>
   </dependency>

2. 编写代码，调用模型

   import dev.langchain4j.community.model.dashscope.QwenEmbeddingModel;
   import dev.langchain4j.data.embedding.Embedding;
   
   import java.util.List;
   
   import static dev.langchain4j.data.segment.TextSegment.textSegment;
   import static java.util.Arrays.asList;
   
   public class LangChainEmbeddingsTest {
       public static void main(String[] args) {
           QwenEmbeddingModel model = QwenEmbeddingModel.builder()
                   .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                   .modelName("text-embedding-v2")
                   .build();
   
           List<Embedding> embeddings = model.embedAll(asList(textSegment("hello"), textSegment("how are you?")))
                   .content();
           System.out.println(embeddings.size());
       }
   }

DashScope

使用前需要安装以下依赖：

pip install langchain-community
pip install dashscope

模型调用：

from langchain_community.document_compressors.dashscope_rerank import DashScopeRerank

sequence = ["text1", "text2", "text3"]

reranker = DashScopeRerank(
    model="gte-rerank",
    # other params...
)
print(reranker.rerank(documents=sequence, query="文本3", top_n=2))

详细介绍与更多使用方式请前往 LangChain 官方的 DashScope Rerank。完整的 API参考文档请前往 LangChain 官方的 Rerank API Reference。