LLM, RAG, AI 에이전트 등 다양한 기술과 용어가 등장하고 있습니다. 각각의 기술이 혁신적이라는 것은 알고 있지만, 왜 이 모든 기술이 필요한지 이해하기 쉽도록 설명합니다.
최근 인공지능 기술의 발전으로 인해 LLM, RAG, AI 에이전트 등 다양한 기술과 용어가 등장하고 있습니다. 각각의 기술이 혁신적이라는 것은 알고 있지만, 왜 이 모든 기술이 필요한지 이해하기 어려울 수 있는데요.
이번 블로그 글에서는 "LLM과 RAG가 있는데 왜 AI 에이전트가 필요한가?"라는 질문에 답을 찾으며 쉽게 이해할 수 있도록 설명해 보겠습니다.
📖 목차
• LLM이란?
• RAG란?
• AI 에이전트란?
• 그래서, 왜 LLM / RAG / AI 에이전트가 모두 필요한가요?
• 요약하자면
💥 LLM이란? - 기본적인 텍스트 생성
LLM은 대규모의 텍스트 데이터를 학습하여 주어진 질문이나 문장에 이어질 내용을 생성하는 인공지능 모델입니다. 예를 들어, "아인슈타인은 어느 나라 사람이야?"라는 질문에 "아인슈타인은 미국인입니다."라는 답변을 생성할 수 있습니다.
LLM의 장점은 방대한 양의 데이터를 바탕으로 다양한 질문에 답변할 수 있다는 점입니다. 하지만 최신 정보나 특정 도메인에 대한 지식을 포함하지 않기 때문에, 최신 뉴스나 특정 전문 분야의 질문에 대해서는 부정확한 답변을 할 수 있습니다. 이를 환각(hallucination)이라고 합니다.
💥 RAG란? - 전문 지식 보완
RAG는 LLM의 한계를 극복하기 위해 개발된 기술입니다. RAG는 질문에 대한 답변을 제공할 때, 실시간으로 문서를 검색하여 LLM이 그 문서를 기반으로 정확한 답변을 생성하도록 돕습니다. 예를 들어, "올해 노벨 물리학상 수상자는 누구야?"라는 질문에 RAG는 최신 문서를 검색하여 "올해 노벨 물리학상은 피터 힉스에게 수여되었습니다."라는 답변을 제공합니다.
RAG는 특정 도메인이나 최신 정보에 대한 답변을 정확히 할 수 있도록 도와줍니다. 하지만, RAG도 문서 기반 정보에 한정되며 실시간으로 변하는 데이터나 동적 정보를 제공하는 데는 한계가 있습니다. 예를 들어, 현재 날씨나 실시간 주문 상태와 같은 정보는 RAG만으로는 제공하기 어렵습니다.
💥 AI 에이전트란? - 행동의 자동화와 실시간 데이터 활용
AI 에이전트는 LLM과 RAG를 포함한 다양한 기술을 활용하여 사용자의 질문을 처리하고 실제 행동을 수행할 수 있는 인공지능 시스템입니다. AI 에이전트는 다양한 플러그인과 외부 API를 활용하여 사용자가 원하는 작업을 자동으로 수행할 수 있습니다.
복잡한 업무를 수행하기 위해서는 단순히 답변을 생성하는 LLM이나 정보를 검색해오는 RAG만으로는 부족합니다. 그러나 AI 에이전트를 함께 활용한다면 다음과 같은 기능을 수행할 수 있습니다:
• 질문 파악: 사용자의 요청이 무엇인지를 판단합니다.
• 계획 수립: 필요한 업무에 대한 계획을 세우고, 어떤 작업을 진행해야 하는지 결정합니다.
• 도구 활용: 계획에 따라 캘린더 열람, 온라인 사이트 접속, 검색 등의 다양한 도구를 활용합니다.
• 반복 수행: 계획에 따른 업무가 완료되었는지 확인하고, 부족한 부분이 있다면 반복 질문과 수행을 통해 업무를 완성합니다.
예를 들어봅시다.
[질문]
“내일 오후 2시에서 6시 사이에 치과를 가고 싶은데, 내 개인 일정 확인해서 예약 잡아줘.”
[AI 에이전트 수행]
1️⃣ 사용자의 캘린더를 열어 빈 시간을 확인합니다.
2️⃣ 치과 예약 시스템에 접속하여 해당 시간에 예약을 잡습니다.
3️⃣ 예약이 완료되면 사용자에게 확인 메시지를 보냅니다.
[답변]
“내일 오후 5시 일정으로 치과 예약을 완료하였습니다.”
또 다른 예시로는 특정 제품의 재고 상태와 상세 스펙을 확인하는 작업을 들 수 있습니다.
[질문]
“A 브랜드의 OO세탁기 용량은 300L인가요, 500L인가요? 실버 색상도 재고 있나요?”
[AI 에이전트 수행]
1️⃣ RAG를 통해 OO세탁기의 용량을 확인합니다.
2️⃣ 외부 쇼핑몰 API를 호출하여 현재 재고 상태를 확인합니다.
3️⃣ 두 정보를 결합하여 사용자가 원하는 답변을 제공합니다.
[답변]
“A 브랜드의 OO세탁기 용량은 500L입니다. 자사 온라인 몰에서 실버 색상 주문 가능합니다. 온라인 몰에서 OO세탁기 실버 색상 주문을 진행할까요?”
💥 요약하자면
• LLM은 다양한 질문에 답변을 생성하는 데 유용하지만 최신 정보에 한계를 갖고 있습니다.
• RAG는 검색을 통해 LLM의 한계를 보완하지만, 복잡한 작업 수행에는 한계가 있습니다.
• AI 에이전트는 LLM과 RAG가 제공하는 정보를 바탕으로 반복 질문과 도구 활용을 통해 업무를 수행합니다.
💥 그래서! 왜 LLM, RAG, AI 에이전트가 모두 필요한가요?
물론, LLM과 RAG만으로도 많은 작업을 수행할 수 있지만, AI 에이전트는 이 두 기술을 효율적으로 결합하여 사용자에게 더욱 실질적이고 유용한 서비스를 제공합니다.
LLM은 텍스트를 생성하는 데 탁월하고, RAG는 필요한 정보를 찾아오는 데 강점을 가지고 있습니다. 그러나 이 두 가지 기술을 원활하게 통합하여 실제로 사용자가 원하는 정보를 정확하고 신속하게 제공하는 것은 또 다른 문제입니다. 여기서 AI 에이전트가 중요한 역할을 합니다.
현재 LLM과 RAG는 정보를 전달하는 데 유용하지만, 그 정보를 바탕으로 실제 행동을 수행하는 것은 사용자에게 맡겨집니다. 하지만 AI 에이전트를 활용한다면, 사용자의 개입 없이 자동으로 요청을 처리할 수 있게되는 것 입니다.
💥 BELLA QNA를 업은 스켈터랩스의 BELLA Agent
스켈터랩스의 BELLA QNA는 RAG 기술이 통합된 솔루션으로, LLM이 검색된 문서에 기반해 답변을 생성할 수 있도록 도와주는데요.
BELLA QNA의 검색 엔진은 BELLA Agent가 활용할 수 있는 다양한 API 중 하나로 통합되어 있습니다. 이를 통해 BELLA Agent는 검색에 특화된 BELLA QNA 검색 엔진을 포함한 여러 API를 효율적으로 활용하여 기업 고객에게 필요한 정보를 신속하고 정확하게 제공할 예정입니다.
📍BELLA QNA의 훌륭한 검색 과정에 대한 자세한 내용은 ‘BELLA QNA :: 주요 대화 스펙과 핵심 기능 해부하기’ 글에서 확인하실 수 있습니다.
📍AI agent 에 대해서 더 자세히 알아보고 싶다면 '다각도로 살펴보는 AI 에이전트' 글에서 확인하실 수 있습니다.
-
references
AI Agent 미션 팀 Jake Albert, 김정우, 배진우
NLP 팀 변규홍, 소병훈