Amazon SageMaker로 LLM 배포, 개발은 간편하게 응답은 빠르게!

발표자

• 전

  전현상

  솔루션즈 아키텍트 · AWS

• 이

  이광우

  솔루션즈 아키텍트 · AWS

세션 소개

본 세션에서는 Amazon SageMaker를 활용하여 LLM의 응답 시간을 획기적으로 단축하는 방법에 중점을 둡니다. 다양한 최적화 기술을 통해 추론 성능을 크게 개선하고 응답 속도를 높이는 전략을 상세히 살펴봅니다. 그리고 SageMaker를 이용해 LLM을 쉽고 효율적으로 배포하고 운영하는 방법을 다룹니다. 개발 시간과 인력 비용 절감, 운영 효율성 개선 등 SageMaker의 이점을 실제 사례를 통해 알아보며, 조직이 확장 가능하고 빠른 응답의 LLM 솔루션을 구축하는 방법을 제시합니다.

같은 발표자의 다른 세션

• 
  Analytics2024

  데이터 인사이트의 혁신: Amazon AI 서비스 활용법

같은 트랙 세션 (2025)

• 
  AI & Machine Learning2025

  AI Agent 내재화 전략, 수동 업무 80% 대체, 어떻게 가능했나?

• 
  AI & Machine Learning2025

  AWS와 생성형 AI를 활용한 디지털 크리에이티브 인더스트리인 게임, 미디어 혁신 시나리오와 사례

• 
  AI & Machine Learning2025

  Amazon Bedrock - MCP로 진화하는 AI 기술의 게임체인저

• 
  AI & Machine Learning2025

  Amazon Bedrock 기반 Text-to-SQL로 완성하는 데이터 혁신: 당근페이의 핀테크 성공 전략