AI 에이전트의 성능은 OO을 얼마나 잘 하느냐에 따라 좌우됩니다.
회사의 모든 정보를 꿰뚫고 있는 오래된 직원을 상상해보세요.
그 사람은 아주 똑똑하고 기억력도 뛰어나서,
언제 어디서 무슨 일이 있었는지 모든 세부 사항을 다 기억하고 있죠.
이제 그 사람이 항상 여러분 옆에서 모든 대화에 참여하고 있다고 생각해보세요.
정말 완벽한 개인 비서죠?
이 사람은 24시간 내내 여러분 옆에 앉아 있을 수도 있습니다.
이것이 바로 AI 에이전트의 비전입니다.
이번 글에서는 AI 에이전트가 어떻게 발전하고 있는지,
현재와 미래에 과연 어떤 역할을 할 수 있을지, 그리고
경쟁력 있는 AI 에이전트는 어떤 요소가 필요할 지에 대해
스켈터랩스 CTO 서종훈 님의 인터뷰 답변을 기반으로 다뤄보겠습니다.
📖 목차
• AI 에이전트의 현재 기술 수준(2024년 상반기 기준)
• AI 에이전트의 주요 활용 분야
• AI 에이전트가 '정규직'으로 자리잡기 위한 과제
• AI 에이전트의 핵심 경쟁력 요소
• RAG 기술로 방점을 찍다 - 검색 잘 하는 AI 에이전트
📍 AI 에이전트의 현재 기술 수준
AI 에이전트 기술은 최근 몇 년간 급격히 발전했습니다.
특히, LLM(대형 언어 모델)과 LMM(대형 멀티모달 모델)과 같은 초거대 AI 모델들의 등장은 AI 에이전트가 자율적으로 추론하고 사고할 수 있는 가능성을 보여주고 있는데요. 방대한 데이터 학습을 통해 문맥을 이해하고, 새로운 정보를 생성하며, 다양한 작업을 수행하는 능력을 갖추고 있기 때문에 자율형 AI 에이전트의 실효성 있는 구현에 더욱 가까워졌다고 봅니다.
그러나 실용성을 한층 더 높이기 위해 가장 먼저 극복될 것으로 보이는 지점들 또한 존재합니다.
현재 LLM과 LMM은 입력 길이에 제한이 있습니다. 때문에 긴 문서나 복잡한 작업을 처리하는 데 어려움이 있죠. 이는 곧 AI 에이전트가 사용할 수 있는 도구의 수를 제한하고, 긴 맥락을 필요로 하는 작업에서의 효율성을 저하시킬 가능성이 있죠.
또한, AI 모델은 때때로 실제로 존재하지 않는 정보나 부정확한 정보를 생성하는 ‘헛소리’ 현상도 있습니다. 모델이 학습하는 데이터에 내재된 편향이 그대로 반영되어, 특정 그룹에 대해 불공정하거나 차별적인 결과를 생성할 수 도 있죠. 이는 신뢰성 문제를 야기하며, 중요한 결정에 AI를 사용하는 데 있어 큰 장애물이 되기도 합니다.
이러한 기술적 한계에도 불구하고, 해당 필드의 연구자들은 입력 길이를 늘리고 환각 문제를 줄이기 위한 다양한 방법을 모색하고 있습니다.
초거대 입력 길이 지원을 통해 더 많은 문맥을 처리할 수 있도록 하고, 설명가능한 AI(Explainable AI)을 통해 모델의 결정 과정을 투명하게 만들어 신뢰성을 높이려는 노력이 진행되고 있죠. 또한, 신뢰성 및 책임성(Explainable AI, Trustworthy AI, AI Accountability)에 대한 높은 관심과 기술적 파급력의 증대에 따라 극복될 수 있을 것으로 생각합니다.
📍 AI 에이전트의 주요 활용 분야
현재 AI 에이전트는 주로 기존 시스템과의 연동을 통해 활발하게 활용되고 있습니다. 그러나 향후에는 더 복잡하고 다양한 정보 소스를 조합하여 의미 있는 정보를 생성하는 데 중요한 역할을 할 것으로 보고 있습니다.
AI 에이전트는 방대한 데이터 분석을 통해 인사이트를 도출하고, 복잡한 업무를 자동화하며, 사용자 맞춤형 서비스를 제공하는 등의 모든 산업에서 가치 있는 의사결정을 지원하는 도구로 자리매김할 수 있습니다.
예를 들어, 의료 산업에서는 AI 에이전트가 의료 기록을 분석하고, 진단을 제안하는 등의 역할을 할 수 있습니다. 금융 산업에서는 투자 분석, 개인 맞춤형 금융 서비스 제공 등에 활용될 수 있죠. 또는 아예 개인 비서 서비스로 소구해 일정 관리, 이메일 작성, 정보 검색 등 다양한 업무를 수행 및 지원할 수 있겠습니다.
이처럼 활용 방안이 무궁무진하기에, AI 에이전트의 주요 활용 분야는 특정 산업에 국한되지 않습니다. 오히려 다양한 산업 환경에서 특성과 요구에 맞춘 AI 에이전트가 유용한 도구로 자리잡을 수 있습니다.
다양한 분야에서 AI 에이전트의 잠재력을 최대한 발휘할 수 있도록 노력하는 자세만이 필요할 뿐입니다.
📍 AI 에이전트가 '정규직'으로 자리잡기 위한 과제 (AI 에이전트의 일상 생활 보편화 시기는?)
AI 에이전트의 ‘정규직’화에 있어 가장 중요한 과제는 책임 소재와 법체계의 구체화입니다.
AI 에이전트는 이미 업무 보조 도구로서의 가능성을 입증하고 있으며, 이러한 기술이 대중에게 널리 보급되기까지는 그리 오랜 시간이 걸리지 않을 것입니다. 빠르면 내년 하반기부터는 AI 에이전트가 업무 보조 도구로서 대중화될 가능성이 높다고 봅니다.
현재 ChatGPT Plugin과 같은 도구가 존재하지만, 일반 대중에게 보편화되기까지는 시간이 필요합니다. 그러나 Microsoft를 비롯한 대형 AI 회사들이 B2B Enterprise용 AI 에이전트를 상용화하고 있는 상황을 고려한다면, AI 기술의 확산 속도가 상당히 빠르게 진행될 것으로 예상됩니다. 이는 곧 AI 에이전트가 점차 더 많은 사람들의 일상 속에서 자연스럽게 자리잡게 될 것임을 시사합니다.
그래서 더더욱 자율형 AI 에이전트의 행위에 대한 책임을 명확히 해야 한다고 봅니다. AI 사용에 따른 법적 문제를 해결하고 신뢰성을 높이기 위해 필수적이죠.
이와 같은 맥락에서 자율형 AI 에이전트는 자신의 행동에 대한 결과를 책임질 수 있어야 합니다. 특히 데이터 프라이버시와 보안이 중요한 환경에서 중요하게 작용할 것으로 생각합니다. 사용자가 AI 에이전트를 신뢰할 수 있도록, AI 에이전트가 잘못된 결정을 내렸을 때, 그에 대한 책임 소재를 명확히 할 수 있어야 합니다.
가령 자율형 AI 에이전트가 개인정보 유출 등 문제를 일으켰을 때, 그 책임을 사용자 개인에게 돌릴 것인지, AI 공급사에게 돌릴 것인지 등에 대한 명확한 법적 기준이 필요하다는 뜻입니다.
📍 AI 에이전트의 핵심 경쟁력 요소
자율형 AI 에이전트의 경쟁력을 결정짓는 가장 중요한 기능은 자율적 확장성입니다.
기존의 노 코드 및 로우 코드 도구들은 사용자의 편의를 높였으나, 자율형 AI 에이전트가 새로운 도구를 스스로 학습하고 통합할 수 있는 능력에는 한계가 있었습니다. 다시 말해, 사용자가 별도의 코드를 작성하지 않고도 필요한 도구를 신속하게 사용할 수 있고, 다양한 작업에 활용할 수 있도록 하는 기능이 필수적이라는 것을 뜻합니다.
AI 에이전트는 도구의 정상 작동 여부를 신속하게 판단하고, 필요한 정보를 정확하게 가공할 수 있어야 합니다. 실수를 바로잡기 위한 재시도 횟수를 줄이고 작업의 효율성을 높일 수 있어야 한다는 의미입니다. 자율형 AI 에이전트가 경쟁력을 가지려면, 도구의 학습과 활용 과정에서 사용자의 개입이 최소화되어야 하며, 이러한 과정을 통해 다양한 사용자의 니즈를 충족시킬 수 있어야 합니다.
자율적 확장성이 중요한 AI 에이전트가 갖춰야 할 중요한 기술적 요소로는 ‘검색’이 있겠습니다.
AI가 ‘검색’을 잘 하도록 하는 기술은 여러 가지가 있지만, 그 중 ‘RAG’(Retrieval-Augmented Generation; 검색증강생성)는 사전 학습한 데이터만을 활용하는 것이 아니라, 기업 내부 데이터 등 이미 존재하는 데이터에서 답을 찾아내 LLM의 ‘헛소리'를 방지하는 기술로 자리잡고 있습니다.
AI 에이전트의 성능은 이 ‘검색’을 얼마나 잘 하느냐에 따라 좌우됩니다.
AI 에이전트의 성능을 결정짓는 핵심 요소는 신속한 도구 활용 판단과 정확한 정보 가공 능력입니다. 이러한 요구를 충족시키는 데 필수적인 기술이 바로 RAG인 것이죠. RAG는 다양한 출처에서 정보를 검색하고 종합하여, AI 에이전트가 다양한 상황에서 최적의 해결책을 제시할 수 있도록 돕습니다.
또한 RAG는 AI의 결정 과정이 투명하게 공개합니다. 사용자는 그 과정을 이해하고 신뢰할 수 있죠. 필요 시 오류를 수정할 수 있다는 뜻입니다. 이러한 투명성은 AI 에이전트의 신뢰성을 높이고, 사용자가 안심하고 AI를 사용할 수 있는 환경을 조성하는 데 필수적이라고 생각됩니다.
정리하자면, 자율적 확장성을 통해 다양한 도구를 신속하게 학습하고 통합할 수 있는 능력과, 잘못된 선택을 방지하는 RAG 기술, 그리고 책임성과 투명성을 갖춘 AI 에이전트가 향후 시장에서 높은 경쟁력을 가질 수 있을 것으로 보고 있습니다.
📍 RAG 기술로 방점을 찍다 - 검색 잘 하는 스켈터랩스의 AI 에이전트, ‘BELLA Agent’
이처럼 RAG가 통합된 AI 에이전트는 판단 오류를 줄이고 작업 효율성을 극대화하는 데 큰 역할을 합니다.
스켈터랩스는 BELLA QNA와 같은 RAG를 솔루션을 AI 에이전트에 통합하여 지식 답변에서 강점을 가지는 ‘BELLA Agent’를 개발하고 있습니다.
벨라 에이전트(BELLA Agent)는 국내 시장에서 폐쇄망 환경에 맞춘 On-premise와 SaaS 기반으로 개발하고 있으며, 자율형 AI 에이전트의 확장성/책임성/투명성을 강화하고, 다양한 도구를 빠르게 통합하여 기업과 개인 사용자의 니즈에 맞는 솔루션을 제공하는 것을 목표로 하고 있습니다.
💡 AI 에이전트를 더 자세하게 알아보고 싶다면 ‘다각도로 살펴보는 AI 에이전트’를 참고해보세요.
-
references
서종훈 CTO
변규홍 NLP Team Leader