생성형 AI, 이제는 보인다: CloudWatch를 활용한 관측가능성

발표자

• 정

  정영민

  솔루션즈 아키텍트 · AWS

• 안

  안효빈

  솔루션즈 아키텍트 · AWS

세션 소개

생성형 AI 도입 확산에 따라 안정성, 투명성, 최적화를 위한 관측 가능성 확보가 중요합니다. 본 세션에서는 LLM, RAG 등 다양한 생성형 AI 패턴의 관측 가능성 문제점을 짚어 보고, Amazon CloudWatch를 활용하여 생성형 AI 워크로드 전체 라이프사이클을 가시화하는 방법을 소개합니다. CloudWatch를 활용한 효과적인 GenAI 워크로드 모니터링 방법을 배울 수 있습니다.

같은 발표자의 다른 세션

• 
  General2023

  Global scale service의 중앙 집중식 Observability 구축

같은 트랙 세션 (2025)

• 
  AI & Machine Learning2025

  AI Agent 내재화 전략, 수동 업무 80% 대체, 어떻게 가능했나?

• 
  AI & Machine Learning2025

  AWS와 생성형 AI를 활용한 디지털 크리에이티브 인더스트리인 게임, 미디어 혁신 시나리오와 사례

• 
  AI & Machine Learning2025

  Amazon Bedrock - MCP로 진화하는 AI 기술의 게임체인저

• 
  AI & Machine Learning2025

  Amazon Bedrock 기반 Text-to-SQL로 완성하는 데이터 혁신: 당근페이의 핀테크 성공 전략