LangChain调用大模型有两种方式。
1、使用Ollama
此方式需要先到 https://ollama.com/ 下载Ollama并进行安装,安装成功后打开一个终端运行 ollama run qwen2.5:3b,意思是拉取并运行qwen2.5:3b。如果成功则说明ollama已可以正常使用,接着安装LangChain,安装它还是很方便的,如下:
LangChain 核心包:pip install langchain-core
LangChain 社区包:pip install langchain-community
LangChain 实验包:pip install langchain-experimental
LangGraph 库:pip install langgraph
LangServe 工具:pip install “langserve(all)”
OpenAI 集成包:pip install langchain-openai
安装成功后就可以编写python代码了,如下:
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_ollama import ChatOllama
import gradio as gr
class TechArticleGenerator:
def __init__(self, model_name="qwen2.5:7b"):
template = """
你好!我叫枫叶,是一名技术博主,欢迎与您的到来,让我们共同进步吧!。
"""
self.prompt = ChatPromptTemplate.from_messages([("system", template), ("user", "{input}")])
self.model = ChatOllama(model=model_name)
self.chain = self.prompt | self.model | StrOutputParser()
def generate_article(self, query, history=None):
print


6万+

被折叠的 条评论
为什么被折叠?



