넥슨의 LLM 에이전트 길들이기: 인프라 모니터링 서비스 적용 사례

발표자

• 김

  김영민

  수석 AI/ML 컨설턴트 · AWS

• 김

  김태효

  팀장 · 넥슨

• 박

  박종민

  엔지니어 · 넥슨

세션 소개

넥슨과 AWS는 Amazon Bedrock(클로드) 서비스와 랭체인 기반의 LLM 에이전트 기술을 활용하여, 다양한 인프라 모니터링 서비스의 연결성과 사용 편의성을 향상시키기 위해 챗봇을 개발했습니다. 챗봇 개발 과정에서 발생한 응답 지연 및 환각 문제의 해결 방안을 공유하고자 합니다. 또한, 기존의 ReAct 접근 방식을 보완하는 다양한 시도에 대해서도 전달 드립니다.

같은 발표자의 다른 세션

• 
  AI & Machine Learning2025

  대한항공의 AI 대전환: Amazon Bedrock 기반 AI 컨택센터 지식 검색 챗봇 구축 사례

같은 트랙 세션 (2024)

• 
  AI & Machine Learning2024

  AWS에서 분석과 생성형 AI를 위한 모범 사례

• 
  AI & Machine Learning2024

  AWS에서 생성형 AI의 성공적 구축을 위한 데이터 전략

• 
  AI & Machine Learning2024

  AWS에서의 안전한 생성형 AI 구축 전략

• 
  AI & Machine Learning2024

  AWS와 함께 생성형 AI로 비즈니스 혁신하기