파운드리 로컬

Foundry Local을 사용하면 표준 에이전트 프레임워크 Python Agent 환경을 사용하는 동안 로컬 컴퓨터에서 지원되는 Microsoft Foundry 모델을 실행할 수 있습니다.

메모

Foundry Local은 현재 .NET 지원되지 않습니다.

사전 요구 사항

로컬 모델에 대해 에이전트 프레임워크를 실행하기 전에 Foundry Local 및 해당 로컬 런타임 구성 요소를 설치합니다. 선택한 모델을 다운로드하고 로드해야 할 수 있으므로 첫 번째 실행은 시간이 걸릴 수 있습니다.

설치

pip install agent-framework-foundry-local --pre

Configuration

다음을 사용하여 기본 로컬 모델을 설정합니다.

FOUNDRY_LOCAL_MODEL="phi-4-mini"

을 사용하여 모델을 명시적으로 FoundryLocalClient(model="phi-4-mini")전달할 수도 있습니다.

메모

FoundryLocalClient 는 네임스페이스에 agent_framework.foundry 있습니다. 로컬 채팅 클라이언트이므로 일반적으로 표준 Agent과 페어링합니다.

로컬 에이전트 만들기

import asyncio

from agent_framework import Agent
from agent_framework.foundry import FoundryLocalClient

async def main():
    agent = Agent(
        client=FoundryLocalClient(model="phi-4-mini"),
        name="LocalAgent",
        instructions="You are a helpful local assistant.",
    )
    result = await agent.run("What's the weather like in Seattle?")
    print(result)

asyncio.run(main())

Tools

FoundryLocalClient 는 표준 Agent과 쌍을 이루는 로컬 채팅 클라이언트이므로 지원되는 도구는 선택한 로컬 모델이 실제로 호출할 수 있는 도구이며 호스트된 런타임에서 제공되지 않습니다. 호스트된 Foundry 도구 형식(get_code_interpreter_toolget_web_search_tool등)은 .에서 FoundryLocalClient사용할 수 없습니다.

Tool 상태 Notes
함수 도구 ⚠️ 선택한 로컬 모델이 함수 호출을 지원하는 경우에만 지원됩니다. 모델 기능을 검사하는 데 사용합니다 FoundryLocalClient.manager .
도구 승인 프레임워크의 함수 호출 채팅 클라이언트에서 제공합니다. 함수 도구 호출과 함께 작동합니다.
코드 해석기 호스트된 런타임이 없습니다.
파일 검색 호스트된 런타임이 없습니다.
웹 검색 호스트된 런타임이 없습니다.
호스트된 MCP 도구 로컬 런타임에 노출되지 않습니다.
로컬 MCP 도구 프로세스에서 실행되며 모든 채팅 클라이언트에서 작동합니다.

모델 기능

모든 로컬 모델이 동일한 기능을 지원하는 것은 아닙니다. 함수 호출 및 구조적 출력은 선택한 모델에 따라 달라집니다. 도우미를 FoundryLocalClient.manager 사용하여 에이전트를 실행하기 전에 로컬 카탈로그 및 지원되는 기능을 검사할 수 있습니다.

추가 런타임 컨트롤의 FoundryLocalClientdevice경우 , bootstrapprepare_model.

다음 단계