경고
프롬프트 흐름 기능 개발은 2026년 4월 20일에 종료되었습니다. 이 기능은 2027년 4월 20일에 완전히 사용 중지됩니다. 사용 중지 날짜에 프롬프트 흐름이 읽기 전용 모드로 전환됩니다. 기존 흐름은 해당 날짜까지 계속 작동합니다.
권장 조치: 2027년 4월 20일 이전에 프롬프트 흐름 작업 부하를 Microsoft 에이전트 프레임워크로 마이그레이션하세요.
생성 인공 지능 작업 또는 GenAIOps (LLMOps라고도 함)는 프로덕션에서 LLM(대규모 언어 모델)을 관리하기 위한 운영 관행과 전략을 설명합니다. 이 문서에서는 조직의 현재 완성도 수준에 따라 GenAIOps에서 기능을 발전시키는 방법에 대한 지침을 제공합니다.
아래 설명을 사용하여 GenAIOps 완성도 모델 순위 수준을 찾습니다. 이러한 수준은 조직의 일반적인 이해 및 실용적인 애플리케이션 수준을 제공합니다. 이 지침은 GenAIOps 기술 자료를 확장하기 위한 유용한 링크를 제공합니다.
팁
GenAIOps 성숙도 모델 평가를 사용하여 조직의 현재 GenAIOps 완성도 수준을 확인합니다. 설문지를 통해 조직의 현재 기능을 이해하고 개선할 영역을 식별할 수 있습니다.
수준 1 - 초기
팁
GenAIOps 완성도 모델 평가의 점수: 초기(0-9).
설명: 조직은 GenAIOps 완성도의 초기 기본 단계에 있습니다. LLM의 기능을 탐색하고 있지만 아직 구조적 관행이나 체계적인 접근 방식을 개발하지 않았습니다.
먼저 다양한 LLM API 및 해당 기능을 숙지합니다. 다음으로, 구조화된 프롬프트 디자인 및 기본 프롬프트 엔지니어링으로 실험을 시작합니다. Microsoft Learn 문서를 시작점으로 검토합니다. 학습한 내용을 사용하여 LLM 애플리케이션 성능 평가를 위한 기본 메트릭을 도입하는 방법을 알아보세요.
수준 1 고급에 대한 제안된 참조
- 파운드리 모델 카탈로그
- Microsoft Foundry 포털 모델 카탈로그를 표시합니다
- 프롬프트 엔지니어링 소개
- 프롬프트 엔지니어링 기술
- 시스템 메시지 프레임워크
- Foundry 포털의 프롬프트 흐름
- Foundry를 사용하여 GenAI 애플리케이션 평가
- Foundry를 사용하여 GenAI 평가 및 모니터링 메트릭
GenAIOps를 더 잘 이해하려면 Microsoft의 학습 과정과 워크숍을 고려하세요.
수준 2 - 정의됨
팁
GenAIOps 성숙도 모델 평가 점수: 성숙(10-14).
설명: 조직에서 구조적 개발 및 실험에 중점을 두고 LLM 작업을 체계화하기 시작했습니다. 그러나 보다 정교한 통합 및 최적화를 위한 여지가 있습니다.
기능과 기술을 향상하려면 더 복잡한 프롬프트를 개발하고 애플리케이션에 효과적으로 통합하는 방법을 알아봅니다. LLM 애플리케이션 배포를 위한 체계적인 접근 방식을 구현하여 CI/CD 통합을 탐색할 수 있습니다. 접지성, 관련성 및 유사성과 같은 고급 평가 메트릭을 채택하기 시작합니다. LLM 사용에서 콘텐츠 안전성 및 윤리적 고려 사항에 집중합니다.
수준 2 고급에 대한 제안된 참조
- 단계별 워크샵을 통해 GenAIOps 사례를 높이세요.
- Foundry 포털의 프롬프트 흐름
- 프롬프트 흐름을 사용하여 빌드하는 방법
- 관리형 온라인 엔드포인트로 플로우를 실시간 추론용으로 배포
- GenAIOps와 프롬프트 흐름 통합
- Foundry를 사용하여 GenAI 평가
- GenAI 평가 및 모니터링 메트릭
- Azure 콘텐츠 보안
- 사용 가능한 AI 도구 및 사례
수준 3 - 관리
팁
GenAIOps 성숙도 모델 평가 점수: 성숙(15-19).
설명: 조직에서 사전 모니터링 및 구조적 배포 전략을 사용하여 고급 LLM 워크플로를 관리하고 있습니다. 운영 우수성을 달성하는 데 가깝습니다.
기술 자료를 확장하려면 LLM 애플리케이션의 지속적인 개선과 혁신에 집중합니다. 예측 분석 및 포괄적인 콘텐츠 안전 조치를 사용하여 모니터링 전략을 개선합니다. 특정 요구 사항에 맞게 LLM 애플리케이션을 최적화하고 미세 조정하는 방법을 알아봅니다. 고급 버전 제어 및 롤백 기능을 통해 자산 관리 전략을 강화합니다.
수준 3 고급에 대한 제안된 참조
수준 4 - 최적화됨
팁
GenAIOps 완성도 모델 평가 점수: 최적화됨(20-28).
설명: 귀 조직은 GenAIOps에서 운영 우수성을 발휘하고 있습니다. LLM 애플리케이션 개발, 배포 및 모니터링에 대한 정교한 접근 방식이 있습니다.
LLM이 발전함에 따라 최신 LLM 진전 사항을 지속적으로 업데이트하여 최첨단 위치를 유지합니다. 진화하는 비즈니스 목표와 LLM 전략의 맞춤을 지속적으로 평가합니다. 팀 내에서 혁신과 지속적인 학습의 문화를 조성합니다. 더 넓은 커뮤니티와 지식과 모범 사례를 공유하여 현장에서 사고 리더십을 확립하세요.