로컬 모델에서 SQL MCP Server 사용

MCP(SQL 모델 컨텍스트 프로토콜) 서버는 클라우드 호스팅 AI 서비스뿐만 아니라 MCP 호환 클라이언트에서 작동합니다. 환경이 의료, 국방, 금융, 에너지 및 해양 산업에서 공통적인 클라우드 LLM(대규모 언어 모델) 액세스를 제한하는 경우 Ollama 또는 유사한 도구를 통해 제공되는 로컬 모델을 연결할 수 있습니다. 이 가이드에서는 작은 로컬 모델을 안정적으로 만드는 설정, 필드 메타데이터 구성 및 프롬프트 패턴에 대해 설명합니다.

사전 요구 사항

• 하나 이상의 엔터티를 사용하여 데이터 API 작성기 CLI를 설치하고 구성했습니다. CLI를 설치합니다.
• Ollama 및 도구 호출을 지원하는 모델(예: qwen3:8b, llama3.1:8b)
• 및 mcp 패키지가 있는 ollama.
• 데이터가 있는 실행 중인 SQL Server 인스턴스입니다.

1단계: 필드 메타데이터 구성

필드 메타데이터는 로컬 모델 정확도를 위한 가장 중요한 구성 단계입니다. 필드 이름 및 설명이 없으면 에이전트는 엔터티 이름만 표시하고 열 이름을 잘못 추측합니다.

설명이 포함된 엔터티를 추가한 다음 제한된 열에 유효한 값을 포함하는 필드 설명을 추가합니다.

dab add ServerInventory \
  --source dbo.ServerInventory \
  --permissions "anonymous:read" \
  --description "SQL Server instance inventory with version, environment, and sizing data"

dab update ServerInventory \
  --fields.name InstanceName --fields.primary-key true \
  --fields.description "SQL Server instance name (e.g., YOURSERVER01)"

dab update ServerInventory \
  --fields.name Environment \
  --fields.description "Deployment environment. Valid values: Prod, Dev, Test, UAT"

제한된 값, 매개 변수 설명 및 스크립팅 패턴을 포함한 전체 CLI 참조 및 모범 사례는 엔터티에 설명 추가를 참조하세요.

2단계: SQL MCP 서버 시작

dab start

SQL MCP Server는 http://localhost:5000/mcp 기본적으로 스트리밍 가능한 HTTP 전송을 사용하여 수신 대기합니다. MCP 프로토콜을 구현하는 모든 클라이언트는 이 엔드포인트에 연결할 수 있습니다.

3단계: 로컬 모델 연결

Ollama 모델을 SQL MCP Server에 연결하는 MCP 클라이언트를 빌드합니다. 다음 Python 예제에서는 MCP Python SDK 및 ollama 패키지를 사용합니다.

종속성 설치

pip install mcp ollama

최소한의 Python 실행용 코드

import asyncio
import json
from mcp import ClientSession
from mcp.client.streamable_http import streamable_http_client
import ollama

MCP_URL = "http://localhost:5000/mcp"
MODEL = "qwen3:8b"

async def get_schema(session: ClientSession) -> str:
    """Call describe_entities and format results for the system prompt."""
    result = await session.call_tool("describe_entities", arguments={})
    entities = json.loads(result.content[0].text)
    lines = []
    for entity in entities.get("entities", []):
        fields = ", ".join(
            f"{f['name']} ({f.get('description', 'no description')})"
            for f in entity.get("fields", [])
        )
        lines.append(f"- {entity['name']}: {entity.get('description', '')}")
        if fields:
            lines.append(f"  Fields: {fields}")
    return "\n".join(lines)

async def run(user_question: str):
    async with streamable_http_client(MCP_URL) as (read, write, _):
        async with ClientSession(read, write) as session:
            await session.initialize()

            # Preinject schema into the system prompt
            schema_text = await get_schema(session)
            system_prompt = f"""You query a SQL database through MCP tools.

Available entities:
{schema_text}

Rules:
- Use the exact field names shown above.
- Answer count questions with the count only.
- Do not produce summaries unless asked.
- Do not invent example data. Only return data from tool responses.
- If no results, say "No results found" and stop.
"""
            # Get available tools for Ollama
            tools_result = await session.list_tools()
            ollama_tools = [
                {
                    "type": "function",
                    "function": {
                        "name": t.name,
                        "description": t.description or "",
                        "parameters": t.inputSchema,
                    },
                }
                for t in tools_result.tools
            ]

            messages = [
                {"role": "system", "content": system_prompt},
                {"role": "user", "content": user_question},
            ]

            # Chat loop: let the model call tools until it produces a final answer
            while True:
                response = ollama.chat(
                    model=MODEL, messages=messages, tools=ollama_tools
                )
                msg = response["message"]
                messages.append(msg)

                if not msg.get("tool_calls"):
                    print(msg["content"])
                    break

                for tc in msg["tool_calls"]:
                    result = await session.call_tool(
                        tc["function"]["name"],
                        arguments=tc["function"]["arguments"],
                    )
                    messages.append(
                        {
                            "role": "tool",
                            "content": result.content[0].text,
                        }
                    )

asyncio.run(run("How many SQL 2019 servers are in production?"))

이 프레임워크는 스키마 사전 주입, 도구 검색, 여러 턴에 걸친 도구 호출, 그리고 최종 응답 추출까지 전체 과정을 처리합니다. MODEL와 MCP_URL를 환경에 맞게 조정하세요.

시작 시 스키마 미리 인젝트

작은 로컬 모델(14B 매개 변수 미만)은 대화가 시작되기 전에 시스템 프롬프트에 스키마 메타데이터가 있을 때 보다 안정적인 도구 호출을 생성합니다. 대화 중 모델이 describe_entities를 스스로 호출하도록 두지 말고, 하네스 시작 시점에 이를 호출한 뒤 그 결과를 주입합니다.

사전 주입이 중요한 이유

이전 섹션의 하네스 예제에서는 이 패턴을 보여 줍니다. 이 함수는 get_schema() 시작 시 한 번 호출 describe_entities 하고 결과를 시스템 프롬프트에 형식을 지정합니다.

모델 응답 제한

모델은 올바른 도구를 호출하고, 올바른 데이터를 검색하고, 여전히 잘못된 답변을 생성할 수 있습니다. 예를 들어 모델은 "프로덕션 서버 수"를 묻는 질문에 16개의 행을 올바르게 검색한 다음, 숫자 16대신 환각된 예제가 포함된 40줄의 요약으로 응답할 수 있습니다.

시스템 프롬프트에 명시적 부정 규칙을 추가합니다.

Rules:
- Answer count questions with the count only.
- Do not produce summaries unless the user asks for one.
- Do not invent example data. Only return data from tool responses.
- If a tool returns no results, say "No results found" and stop.

도구 호출의 충실도와 답변 규율은 서로 다른 문제입니다. DAB는 도구 계층을 통해 정확한 데이터 검색을 보장합니다. 프롬프트 하네스는 모델이 결과를 표시하는 방식을 제어합니다.

Considerations

관련 콘텐츠

• 엔터티에 설명 추가
• 데이터 조작 도구
• 공기가 틈새가 있는 환경에 배포
• 인증 구성
• Stdio 전송