PRT303-SL300Partner/Sponsored

LLM and Agent Workloads with DRA GPU를 더 잘게, 더 똑똑하게 — DRAmatic하게(sponsored by GS네오텍)

일정

Day 1 · Industry Day (5/20 수)

시간

13:50 – 14:10

장소

D홀(3F)

유형

브레이크아웃 세션

세션 소개

AI 워크로드 환경에선 GPU 부족보다 활용 방식의 비효율이 더 큰 문제가 됩니다. LLM, 모델 서빙, 에이전트를 포함한 다양한 GPU 활용 환경에서 발생하는 idle과 과점유를 줄이기 위해, DRA 기반 세분화된 자원 할당과 EKS GPU 운영 최적화 방안을 소개합니다. 워크로드 특성, 공유 정책, 토폴로지까지 반영한 차세대 운영 모델을 제시합니다.

발표자

  • 김

    김성혁

    AI research engineer · GS Neotek

← 전체 시간표

같은 시간대 (18)

같은 트랙