LangGraph 运行时

[Pregel](https://langgraph.com.cn/reference/pregel/index.html#langgraph.pregel.Pregel Pregel”) 实现了 LangGraph 的运行时,管理 LangGraph 应用程序的执行。

编译一个 [StateGraph](https://langgraph.com.cn/reference/graphs/index.html#langgraph.graph.state.StateGraph StateGraph”) 或创建一个 [entrypoint](https://langgraph.com.cn/reference/func/index.html#langgraph.func.entrypoint entrypoint”) 会生成一个 [Pregel](https://langgraph.com.cn/reference/pregel/index.html#langgraph.pregel.Pregel Pregel”) 实例,该实例可以通过输入进行调用。

本指南从高层解释了运行时,并提供了直接使用 Pregel 实现应用程序的说明。

注意: [Pregel](https://langgraph.com.cn/reference/pregel/index.html#langgraph.pregel.Pregel Pregel”) 运行时以 Google 的 Pregel 算法命名,该算法描述了一种使用图进行大规模并行计算的有效方法。

概览

在 LangGraph 中,Pregel 将执行器(actors)和**通道(channels)**组合成一个单一的应用程序。执行器从通道读取数据并向通道写入数据。Pregel 按照 Pregel 算法/**批量同步并行(Bulk Synchronous Parallel)**模型,将应用程序的执行组织成多个步骤。

每个步骤包括三个阶段

  • 规划:确定在此步骤中要执行哪些执行器。例如,在第一步中,选择订阅特殊输入通道的执行器;在后续步骤中,选择订阅前一步骤中更新的通道的执行器
  • 执行:并行执行所有选定的执行器,直到全部完成,或一个失败,或达到超时。在此阶段,通道更新对执行器不可见,直到下一个步骤。
  • 更新:用此步骤中执行器写入的值更新通道。

重复此过程,直到没有执行器被选中执行,或达到最大步骤数。

执行器

一个执行器是一个 PregelNode。它订阅通道,从它们读取数据,并向它们写入数据。它可以被认为是 Pregel 算法中的一个执行器PregelNodes 实现了 LangChain 的 Runnable 接口。

通道

通道用于在执行器(PregelNodes)之间进行通信。每个通道都有一个值类型、一个更新类型和一个更新函数——该函数接受一系列更新并修改存储的值。通道可以用于将数据从一个链发送到另一个链,或在未来的步骤中将数据从一个链发送到自身。LangGraph 提供了许多内置通道:

示例

虽然大多数用户会通过 [StateGraph](https://langgraph.com.cn/reference/graphs/index.html#langgraph.graph.state.StateGraph StateGraph”) API 或 [entrypoint](https://langgraph.com.cn/reference/func/index.html#langgraph.func.entrypoint entrypoint”) 装饰器与 Pregel 交互,但也可以直接与 Pregel 交互。

下面是一些不同的示例,让您了解 Pregel API 的用法。

<span id="__span-0-1">from langgraph.channels import EphemeralValue
<span id="__span-0-2">from langgraph.pregel import Pregel, Channel 
<span id="__span-0-3">
<span id="__span-0-4">node1 = (
<span id="__span-0-5">    Channel.subscribe_to("a")
<span id="__span-0-6">    | (lambda x: x + x)
<span id="__span-0-7">    | Channel.write_to("b")
<span id="__span-0-8">)
<span id="__span-0-9">
<span id="__span-0-10">app = Pregel(
<span id="__span-0-11">    nodes={"node1": node1},
<span id="__span-0-12">    channels={
<span id="__span-0-13">        "a": EphemeralValue(str),
<span id="__span-0-14">        "b": EphemeralValue(str),
<span id="__span-0-15">    },
<span id="__span-0-16">    input_channels=["a"],
<span id="__span-0-17">    output_channels=["b"],
<span id="__span-0-18">)
<span id="__span-0-19">
<span id="__span-0-20">app.invoke({"a": "foo"})

高级 API

LangGraph 提供了两种创建 Pregel 应用程序的高级 API:StateGraph (Graph API)函数式 API

[StateGraph (Graph API)](https://langgraph.com.cn/reference/graphs/index.html#langgraph.graph.state.StateGraph StateGraph”) 是一种更高级别的抽象,它简化了 Pregel 应用程序的创建。它允许您定义节点和边的图。当您编译图时,StateGraph API 会自动为您创建 Pregel 应用程序。

<span id="__span-9-1">from typing import TypedDict, Optional
<span id="__span-9-2">
<span id="__span-9-3">from langgraph.constants import START
<span id="__span-9-4">from langgraph.graph import StateGraph
<span id="__span-9-5">
<span id="__span-9-6">class Essay(TypedDict):
<span id="__span-9-7">    topic: str
<span id="__span-9-8">    content: Optional[str]
<span id="__span-9-9">    score: Optional[float]
<span id="__span-9-10">
<span id="__span-9-11">def write_essay(essay: Essay):
<span id="__span-9-12">    return {
<span id="__span-9-13">        "content": f"Essay about {essay['topic']}",
<span id="__span-9-14">    }
<span id="__span-9-15">
<span id="__span-9-16">def score_essay(essay: Essay):
<span id="__span-9-17">    return {
<span id="__span-9-18">        "score": 10
<span id="__span-9-19">    }
<span id="__span-9-20">
<span id="__span-9-21">builder = StateGraph(Essay)
<span id="__span-9-22">builder.add_node(write_essay)
<span id="__span-9-23">builder.add_node(score_essay)
<span id="__span-9-24">builder.add_edge(START, "write_essay")
<span id="__span-9-25">
<span id="__span-9-26"># Compile the graph. 
<span id="__span-9-27"># This will return a Pregel instance.
<span id="__span-9-28">graph = builder.compile()

编译后的 Pregel 实例将与节点和通道列表相关联。您可以通过打印它们来检查节点和通道。

您将看到类似以下内容

<span id="__span-11-1">{'__start__': &lt;langgraph.pregel.read.PregelNode at 0x7d05e3ba1810&gt;,
<span id="__span-11-2"> 'write_essay': &lt;langgraph.pregel.read.PregelNode at 0x7d05e3ba14d0&gt;,
<span id="__span-11-3"> 'score_essay': &lt;langgraph.pregel.read.PregelNode at 0x7d05e3ba1710&gt;}

您应该会看到类似以下内容

<code tabindex="0"><span id="__span-13-1">{'topic': &lt;langgraph.channels.last_value.LastValue at 0x7d05e3294d80&gt;,
<span id="__span-13-2"> 'content': &lt;langgraph.channels.last_value.LastValue at 0x7d05e3295040&gt;,
<span id="__span-13-3"> 'score': &lt;langgraph.channels.last_value.LastValue at 0x7d05e3295980&gt;,
<span id="__span-13-4"> '__start__': &lt;langgraph.channels.ephemeral_value.EphemeralValue at 0x7d05e3297e00&gt;,
<span id="__span-13-5"> 'write_essay': &lt;langgraph.channels.ephemeral_value.EphemeralValue at 0x7d05e32960c0&gt;,
<span id="__span-13-6"> 'score_essay': &lt;langgraph.channels.ephemeral_value.EphemeralValue at 0x7d05e2d8ab80&gt;,
<span id="__span-13-7"> 'branch:__start__:__self__:write_essay': &lt;langgraph.channels.ephemeral_value.EphemeralValue at 0x7d05e32941c0&gt;,
<span id="__span-13-8"> 'branch:__start__:__self__:score_essay': &lt;langgraph.channels.ephemeral_value.EphemeralValue at 0x7d05e2d88800&gt;,
<span id="__span-13-9"> 'branch:write_essay:__self__:write_essay': &lt;langgraph.channels.ephemeral_value.EphemeralValue at 0x7d05e3295ec0&gt;,
<span id="__span-13-10"> 'branch:write_essay:__self__:score_essay': &lt;langgraph.channels.ephemeral_value.EphemeralValue at 0x7d05e2d8ac00&gt;,
<span id="__span-13-11"> 'branch:score_essay:__self__:write_essay': &lt;langgraph.channels.ephemeral_value.EphemeralValue at 0x7d05e2d89700&gt;,
<span id="__span-13-12"> 'branch:score_essay:__self__:score_essay': &lt;langgraph.channels.ephemeral_value.EphemeralValue at 0x7d05e2d8b400&gt;,
<span id="__span-13-13"> 'start:write_essay': &lt;langgraph.channels.ephemeral_value.EphemeralValue at 0x7d05e2d8b280&gt;}