초거대 영상 이해 모델 스타트업 트웰브랩스의 AI 인프라 고도화 여정

발표자

• 김

  김성민

  솔루션즈 아키텍트 · AWS

• 김

  김에스더

  Director of Engineering · 트웰브랩스

세션 소개

생성형 AI 스타트업 트웰브랩스는 AWS 서비스를 기반으로 직접 초거대 영상 이해 모델을 개발, 학습하고 추론하며 다양한 기업들이 영상 콘텐츠를 효과적으로 활용할 수 있도록 돕고 있습니다. 본 세션에서는 트웰브랩스가 영상 이해 멀티모달 모델을 개발하고 추론 서버를 운영할 때, 비용은 최소화하면서 성능은 최대로 높이고, 효율적으로 운영하기 위해서 사용했던 3가지 노하우를 소개하고자 합니다. Amazon S3를 이용해서 많은 양의 Embedding 된 영상 데이터를 저장하는 방법, Amazon EKS에서 Karpenter, KEDA를 활용해서 GPU 인스턴스를 효율적으로 운영하는 방법, 그리고, Amazon SageMaker HyperPod을 이용해 초거대 영상 이해 모델을 빠르게 학습시키고, 추론 서버에 배포하는 방법에 관해서 설명해 드리고자 합니다.

같은 발표자의 다른 세션

• 
  General2025

  누구보다 빠르게 남들과는 다르게 - KB국민은행과 카카오페이증권이 소개하는 AWS 기반의 AI 혁신사례

• 
  Developer Tools2024

  플랫폼 엔지니어링 기반 개발자 생산성 극대화

같은 트랙 세션 (2025)

• 
  Infrastructure2025

  AWS 클라우드 인프라로 한계를 뛰어넘는 혁신 구축

• 
  Infrastructure2025

  고성능 컴퓨팅 워크로드를 위한 AWS 스토리지 최적화 방안

• 
  Infrastructure2025

  글로벌 복원력을 위한 Amazon Aurora HA/DR 설계 패턴

• 
  Infrastructure2025

  복잡한 VPC 연결은 이제 그만! PrivateLink와 VPC Lattice로 더 스마트하게