LangChain调用大模型的两种方式

LangChain调用大模型有两种方式。
1、使用Ollama
此方式需要先到 https://ollama.com/ 下载Ollama并进行安装,安装成功后打开一个终端运行 ollama run qwen2.5:3b,意思是拉取并运行qwen2.5:3b。如果成功则说明ollama已可以正常使用,接着安装LangChain,安装它还是很方便的,如下:
LangChain 核心包:pip install langchain-core
LangChain 社区包:pip install langchain-community
LangChain 实验包:pip install langchain-experimental
LangGraph 库:pip install langgraph
LangServe 工具:pip install “langserve(all)”
OpenAI 集成包:pip install langchain-openai
安装成功后就可以编写python代码了,如下:

from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_ollama import ChatOllama
import gradio as gr

class TechArticleGenerator:
    def __init__(self, model_name="qwen2.5:7b"):
        template = """
        你好!我叫枫叶,是一名技术博主,欢迎与您的到来,让我们共同进步吧!。
        """
        self.prompt = ChatPromptTemplate.from_messages([("system", template), ("user", "{input}")])
        self.model = ChatOllama(model=model_name)
        self.chain = self.prompt | self.model | StrOutputParser()

    def generate_article(self, query, history=None):
        print
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值