本地铸造厂

Foundry Local 允许在本地计算机上运行受支持的 Microsoft Foundry 模型，同时仍使用标准 Agent Framework Python Agent 体验。

注释

.NET目前不支持 Foundry Local。

先决条件

在针对本地模型运行 Agent Framework 之前，请安装 Foundry Local 及其本地运行时组件。 第一次运行可能需要一段时间，因为可能需要下载并加载所选模型。

安装

pip install agent-framework-foundry-local --pre

配置

使用以下命令设置默认本地模型：

FOUNDRY_LOCAL_MODEL="phi-4-mini"

还可以使用 . 显式 FoundryLocalClient(model="phi-4-mini")传递模型。

注释

FoundryLocalClient 位于命名空间中 agent_framework.foundry 。 它是本地聊天客户端，因此通常将其与标准 Agent配对。

创建本地代理

import asyncio

from agent_framework import Agent
from agent_framework.foundry import FoundryLocalClient

async def main():
    agent = Agent(
        client=FoundryLocalClient(model="phi-4-mini"),
        name="LocalAgent",
        instructions="You are a helpful local assistant.",
    )
    result = await agent.run("What's the weather like in Seattle?")
    print(result)

asyncio.run(main())

工具

FoundryLocalClient 是一个与标准 Agent配对的本地聊天客户端，因此受支持的工具是所选本地模型实际可以调用的工具 ， 它们不是由托管运行时提供的。 托管的 Foundry 工具类型（get_code_interpreter_tool等 get_web_search_tool）不可用 FoundryLocalClient。

工具 Status 注释
函数工具 ⚠️ 仅当所选本地模型支持函数调用时才受支持。 用于 FoundryLocalClient.manager 检查模型功能。
工具审批 ✅ 由框架的函数调用聊天客户端提供;适用于任何函数工具调用。
代码解释器 ❌ 无托管运行时。
文件搜索 ❌ 无托管运行时。
Web 搜索 ❌ 无托管运行时。
托管 MCP 工具 ❌ 本地运行时不公开。
本地 MCP 工具 ✅ 在进程中运行，并适用于任何聊天客户端。

模型功能

并非每个本地模型都支持相同的功能。 函数调用和结构化输出取决于所选模型。 在 FoundryLocalClient.manager 运行代理之前，可以使用帮助程序检查本地目录和支持的功能。

对于其他运行时控件， FoundryLocalClient 还支持选项，例如 device， bootstrap和 prepare_model。

后续步骤

Anthropic

  • Last updated on