SaaS와 AI/ML & 생성형 AI의 만남: 멀티 테넌트 패턴 및 전략

발표자

• 김

  김진아

  솔루션즈 아키텍트 · AWS

• 김

  김수연

  애플리케이션 아키텍트 · AWS

세션 소개

SaaS 환경에서 AI/ML 및 생성형 AI 기반 서비스를 제공하려면 팀은 다양한 멀티 테넌트 과제를 해결해야 합니다. SaaS 서비스 제공 업체는 테넌트가 사용할 모델의 매핑, AI/ML 서비스와 통합하여 확장하는 방법, 테넌트별 요구 사항에 맞도록 LLM(언어모델)을 조정하는 방법, 그리고 테넌트 별 리소스를 격리하는 방법 등을 고려해야 합니다. 본 강연에서는 멀티 테넌트 SaaS 환경에 AI/ML 및 생성형 AI를 적용하는 방법과 그 과정에서 마주할 수 있는 어려움, 그리고 이를 해결할 수 있는 SaaS 패턴과 전략을 소개합니다.

같은 발표자의 다른 세션

• 
  AI & Machine Learning2025

  Amazon Bedrock을 활용한 생성형 AI 기반 SaaS 서비스 구축

같은 트랙 세션 (2024)

• 
  AI & Machine Learning2024

  AWS에서 분석과 생성형 AI를 위한 모범 사례

• 
  AI & Machine Learning2024

  AWS에서 생성형 AI의 성공적 구축을 위한 데이터 전략

• 
  AI & Machine Learning2024

  AWS에서의 안전한 생성형 AI 구축 전략

• 
  AI & Machine Learning2024

  AWS와 함께 생성형 AI로 비즈니스 혁신하기