지난 몇 년 동안, 세상은 생성 AI(gen AI)가 발휘하는 역량과 가능성에 경탄했습니다. 대규모 언어 모델(LLM)과 같은 기초 모델은 텍스트, 오디오, 이미지, 비디오와 같은 다양한 매체에서 통찰력을 추출하고 콘텐츠를 생성하여 인상적인 업적을 수행할 수 있습니다. 하지만 다음 단계의 gen AI는 더욱 혁신적일 가능성이 높습니다.
우리는 지식 기반의 Gen-AI 기반 도구(예: 질문에 답하고 콘텐츠를 생성하는 챗봇)에서 디지털 세계에서 복잡한 다단계 워크플로를 실행하기 위해 기초 모델을 사용하는 Gen AI 지원 "에이전트"로 진화를 시작하고 있습니다. 간단히 말해, 기술은 생각에서 행동으로 옮겨가고 있습니다.
공유하다
사이드바
McKinsey의 AI인 QuantumBlack에 대하여
광범위하게 말해서, "에이전트" 시스템은 역동적인 세계에서 독립적으로 상호 작용할 수 있는 디지털 시스템을 말합니다. 이러한 소프트웨어 시스템의 버전은 수년 동안 존재해 왔지만, Gen AI의 자연어 기능은 새로운 가능성을 열어주어 , 시스템이 행동을 계획하고, 온라인 도구를 사용하여 해당 작업을 완료하고, 다른 에이전트 및 사람들과 협업하고, 성과를 개선하는 방법을 배울 수 있도록 합니다. Gen AI 에이전트는 결국 숙련된 가상 동료 역할을 하여 매끄럽고 자연스러운 방식으로 인간과 함께 일할 수 있습니다. 예를 들어, 가상 비서는 복잡한 개인화된 여행 일정을 계획하고 예약하여 여러 여행 플랫폼에서 물류를 처리할 수 있습니다. 엔지니어는 일상 언어를 사용하여 프로그래머 에이전트에게 새로운 소프트웨어 기능을 설명할 수 있으며, 그러면 에이전트는 자신이 만든 도구를 코딩, 테스트, 반복 및 배포합니다.
에이전트 시스템은 전통적으로 구현하기 어려웠으며, 힘든 규칙 기반 프로그래밍이나 머신 러닝 모델에 대한 매우 구체적인 교육이 필요했습니다. Gen AI는 이를 바꿉니다. 에이전트 시스템이 사전 정의된 규칙이 아닌 기초 모델(매우 방대하고 다양한 비정형 데이터 세트에서 교육됨)을 사용하여 구축되면 LLM이 명시적으로 교육받지 않은 프롬프트에 지능적으로 응답할 수 있는 것과 같은 방식으로 다양한 시나리오에 적응할 수 있는 잠재력이 있습니다. 또한 프로그래밍 코드 대신 자연어를 사용하여 인간 사용자는 Gen AI 지원 에이전트 시스템을 지시하여 복잡한 워크플로를 달성할 수 있습니다. 그런 다음 다중 에이전트 시스템은 이 워크플로를 해석하여 실행 가능한 작업으로 구성하고, 전문 에이전트에게 작업을 할당하고, 도구의 디지털 생태계를 사용하여 이러한 정제된 작업을 실행하고, 다른 에이전트 및 인간과 협업하여 작업의 품질을 반복적으로 개선할 수 있습니다.
이 글에서는 Gen AI 에이전트를 사용함으로써 얻을 수 있는 기회를 살펴봅니다. 이 기술은 아직 초기 단계에 있으며 비즈니스에 배포하기 전에 추가 기술 개발이 필요하지만 빠르게 주목을 받고 있습니다. 작년 한 해 동안만 해도 Google, Microsoft, OpenAI 등이 에이전트 기능을 지원하는 소프트웨어 라이브러리와 프레임워크에 투자했습니다. Microsoft Copilot, Amazon Q, Google의 차기 Project Astra와 같은 LLM 기반 애플리케이션은 지식 기반에서 더 많은 액션 기반으로 전환되고 있습니다. Adept, crewAI, Imbue와 같은 회사와 연구실도 에이전트 기반 모델과 멀티에이전트 시스템을 개발하고 있습니다. Gen AI가 개발되는 속도를 감안할 때 에이전트는 오늘날의 챗봇만큼 흔해질 수 있습니다.
에이전트는 기업에 어떤 가치를 가져다 줄 수 있나요?
에이전트가 잠금 해제할 수 있는 가치는 매우 가변적인 입력 및 출력을 특징으로 하는 복잡한 사용 사례의 긴 꼬리를 자동화할 수 있는 잠재력에서 비롯됩니다. 이러한 사용 사례는 역사적으로 비용 또는 시간 효율적인 방식으로 처리하기 어려웠습니다. 예를 들어 출장과 같이 간단한 일이라도 다양한 항공사와 항공편을 포함하는 수많은 가능한 여정이 포함될 수 있으며, 호텔 보상 프로그램, 레스토랑 예약, 근무 시간 외 활동은 말할 것도 없고, 이 모든 것은 다양한 온라인 플랫폼에서 처리해야 합니다. 이 프로세스의 일부를 자동화하려는 노력이 있었지만, 여전히 많은 부분을 수동으로 해야 합니다. 이는 잠재적 입력 및 출력의 광범위한 변화로 인해 프로세스가 너무 복잡하거나 비용이 많이 들거나 자동화하기에는 시간이 많이 걸리기 때문입니다.
Gen AI 지원 에이전트는 세 가지 중요한 방법으로 복잡하고 개방형 사용 사례의 자동화를 용이하게 할 수 있습니다.
에이전트는 다중성을 관리할 수 있습니다. 많은 비즈니스 사용 사례와 프로세스는 명확한 시작과 특정 해결책 또는 결과로 이어지는 일련의 단계가 있는 선형 워크플로를 특징으로 합니다. 이러한 상대적 단순성으로 인해 규칙 기반 시스템에서 쉽게 체계화되고 자동화됩니다. 그러나 규칙 기반 시스템은 종종 "취약성"을 보입니다. 즉, 명시적 규칙의 설계자가 고려하지 않은 상황에 직면하면 고장납니다. 예를 들어 많은 워크플로는 예상치 못한 전환과 전환 및 다양한 가능한 결과로 표시되는 훨씬 덜 예측 가능합니다. 이러한 워크플로는 규칙 기반 자동화를 어렵게 만드는 특수 처리 및 미묘한 판단이 필요합니다. 그러나 gen AI 에이전트 시스템은 기초 모델을 기반으로 하기 때문에 주어진 사용 사례에 대해 가능성이 낮은 다양한 상황을 처리하고 프로세스를 완료하는 데 필요한 특수 작업을 수행하기 위해 실시간으로 적응할 수 있는 잠재력이 있습니다.
에이전트 시스템은 자연어로 지시할 수 있습니다. 현재 사용 사례를 자동화하려면 먼저 코드화할 수 있는 일련의 규칙과 단계로 나누어야 합니다. 이러한 단계는 일반적으로 컴퓨터 코드로 변환되어 소프트웨어 시스템에 통합됩니다. 이는 상당한 기술적 전문 지식이 필요한 비용이 많이 들고 힘든 과정입니다. 에이전트 시스템은 자연어를 지침의 한 형태로 사용하기 때문에 복잡한 워크플로도 더 빠르고 쉽게 인코딩할 수 있습니다. 게다가 이 프로세스는 소프트웨어 엔지니어가 아닌 비기술 직원이 수행할 수 있습니다. 이를 통해 주제별 전문 지식을 통합하고, Gen AI 및 AI 도구에 대한 접근성을 확대하며, 기술 팀과 비기술 팀 간의 협업을 용이하게 합니다.
에이전트는 기존 소프트웨어 도구 및 플랫폼으로 작업할 수 있습니다. 지식을 분석하고 생성하는 것 외에도 에이전트 시스템은 도구를 사용하고 더 광범위한 디지털 생태계에서 통신할 수 있습니다. 예를 들어, 에이전트는 소프트웨어 애플리케이션(예: 플로팅 및 차트 도구)으로 작업하고, 웹에서 정보를 검색하고, 인간 피드백을 수집 및 편집하고, 심지어 추가 기반 모델을 활용하도록 지시받을 수 있습니다. 디지털 도구 사용은 에이전트의 정의적 특성(세상에서 행동할 수 있는 한 가지 방법)이자 그들의 gen AI 역량을 고유하게 활용할 수 있는 방법이기도 합니다. 기반 모델은 자연어 또는 다른 인터페이스를 통해 도구와 인터페이스하는 방법을 학습할 수 있습니다. 기반 모델이 없다면 이러한 역량은 시스템을 통합하기 위한 광범위한 수동 작업(예: 추출, 변환 및 로드 도구 사용)이나 다른 소프트웨어 시스템의 출력을 정리하기 위한 지루한 수동 작업이 필요합니다.
Gen AI 지원 에이전트가 작동하는 방식
에이전트는 산업 및 비즈니스 기능 전반에 걸쳐 고도로 복잡한 사용 사례를 지원할 수 있으며, 특히 시간이 많이 걸리는 작업이나 다양한 전문화된 유형의 정성적 및 정량적 분석이 필요한 워크플로의 경우 더욱 그렇습니다. 에이전트는 복잡한 워크플로를 재귀적으로 분해하고 전문화된 지침 및 데이터 소스에서 하위 작업을 수행하여 원하는 목표에 도달함으로써 이를 수행합니다. 이 프로세스는 일반적으로 다음 네 단계를 따릅니다(표 1).
사용자가 지시를 제공함: 사용자는 신뢰하는 직원에게 지시하는 것처럼 자연어 프롬프트를 제공하여 AI 시스템과 상호 작용합니다. 시스템은 의도된 사용 사례를 식별하고 필요한 경우 사용자에게 추가 설명을 요청합니다.
에이전트 시스템은 작업을 계획, 할당 및 실행합니다. 에이전트 시스템은 프롬프트를 워크플로로 처리하여 작업과 하위 작업으로 나누고, 관리자 하위 에이전트는 이를 다른 전문 하위 에이전트에게 할당합니다. 필요한 도메인 지식과 도구를 갖춘 이러한 하위 에이전트는 이전 "경험"과 체계화된 도메인 전문 지식을 활용하여 서로 조정하고 조직 데이터와 시스템을 사용하여 이러한 할당을 실행합니다.
에이전트 시스템은 반복적으로 출력을 개선합니다. 프로세스 전반에 걸쳐 에이전트는 정확성과 관련성을 보장하기 위해 추가 사용자 입력을 요청할 수 있습니다. 프로세스는 에이전트가 사용자에게 최종 출력을 제공하고 사용자가 공유한 피드백을 반복하면서 끝날 수 있습니다.
에이전트가 작업을 실행합니다. 에이전트는 사용자가 요청한 작업을 완전히 완료하기 위해 세상에서 필요한 모든 작업을 실행합니다.
이런 종류의 시스템은 기업에 어떤 의미가 있을까요? 다음 세 가지 가상 사용 사례는 그리 멀지 않은 미래에 무엇이 가능할지 엿보게 해줍니다.
사례 1: 대출 인수
금융 기관은 대출인에게 신용 또는 대출을 확장하는 위험을 평가하기 위해 신용 위험 메모를 작성합니다. 이 프로세스에는 대출인, 대출 유형 및 기타 요인과 관련된 다양한 형태의 정보를 수집, 분석 및 검토하는 것이 포함됩니다. 필요한 신용 위험 시나리오와 분석의 다양성을 감안할 때 이는 시간이 많이 걸리고 매우 협력적인 노력이 되는 경향이 있으며, 관계 관리자가 대출인, 이해 관계자 및 신용 분석가와 협력하여 특수 분석을 수행한 다음 검토 및 추가 전문 지식을 위해 신용 관리자에게 제출해야 합니다.
잠재적 에이전트 기반 솔루션: 여러 에이전트로 구성된 에이전트 시스템은 각각 전문화된 작업 기반 역할을 맡으며, 광범위한 신용 위험 시나리오를 처리하도록 잠재적으로 설계될 수 있습니다. 인간 사용자는 자연어를 사용하여 특정 규칙, 표준 및 조건이 있는 작업의 고수준 작업 계획을 제공하여 프로세스를 시작합니다. 그런 다음 이 에이전트 팀은 작업을 실행 가능한 하위 작업으로 나눕니다.
예를 들어, 한 에이전트는 대출인과 금융 기관 간의 커뮤니케이션을 처리하는 관계 관리자 역할을 할 수 있습니다. 집행자 에이전트는 필요한 문서를 편집하여 재무 분석 에이전트에게 전달할 수 있으며, 재무 분석 에이전트는 현금 흐름 보고서에서 부채를 검토하고 관련 재무 비율을 계산한 다음, 비평 에이전트가 불일치 사항과 오류를 식별하고 피드백을 제공하기 위해 검토합니다. 이러한 세부 분석, 분석, 개선 및 검토 프로세스는 최종 신용 메모가 완료될 때까지 반복됩니다(표 2).
더 간단한 Gen AI 아키텍처와 달리 에이전트는 고품질 콘텐츠를 생산하여 검토 주기를 20~60% 단축할 수 있습니다. 에이전트는 또한 여러 시스템을 탐색하고 여러 소스에서 가져온 데이터를 이해할 수 있습니다. 마지막으로 에이전트는 작업을 보여줄 수 있습니다. 신용 분석가는 생성된 텍스트나 숫자를 빠르게 파고들어 전체 작업 체인에 액세스하고 데이터 소스를 사용하여 생성된 통찰력을 생성할 수 있습니다. 이를 통해 출력의 빠른 검증이 용이해집니다.
사례 2: 코드 문서화 및 현대화
대기업의 레거시 소프트웨어 애플리케이션과 시스템은 종종 보안 위험을 초래하고 비즈니스 혁신의 속도를 늦출 수 있습니다. 그러나 이러한 시스템을 현대화하는 것은 복잡하고 비용이 많이 들고 시간이 많이 걸릴 수 있으며, 엔지니어가 수백만 줄의 이전 코드베이스와 비즈니스 로직의 수동 문서를 검토하고 이해한 다음 이 로직을 업데이트된 코드베이스로 변환하고 다른 시스템과 통합해야 합니다.
잠재적 에이전트 기반 솔루션: AI 에이전트는 이 프로세스를 상당히 간소화할 수 있는 잠재력이 있습니다. 전문 에이전트는 레거시 소프트웨어 전문가로 배치되어 오래된 코드를 분석하고 다양한 코드 세그먼트를 문서화하고 번역할 수 있습니다. 동시에 품질 보증 에이전트는 이 문서를 비판하고 테스트 사례를 생성하여 AI 시스템이 반복적으로 출력을 개선하고 정확성과 조직 표준 준수를 보장하도록 도울 수 있습니다. 한편, 이 프로세스의 반복 가능한 특성은 플라이휠 효과를 생성할 수 있으며, 여기서 에이전트 프레임워크의 구성 요소가 조직 전체의 다른 소프트웨어 마이그레이션에 재사용되어 생산성을 크게 개선하고 소프트웨어 개발의 전체 비용을 줄일 수 있습니다.
사례 3: 온라인 마케팅 캠페인 생성
온라인 마케팅 캠페인을 설계, 출시 및 운영하는 데는 다양한 소프트웨어 도구, 애플리케이션 및 플랫폼이 포함되는 경향이 있습니다. 그리고 온라인 마케팅 캠페인의 워크플로는 매우 복잡합니다. 사업 목표와 시장 동향을 창의적인 캠페인 아이디어로 전환해야 합니다. 서면 및 시각적 자료를 만들고 다양한 세그먼트와 지역에 맞게 사용자 지정해야 합니다. 캠페인은 다양한 플랫폼의 사용자 그룹으로 테스트해야 합니다. 이러한 작업을 수행하기 위해 마케팅 팀은 종종 다양한 형태의 소프트웨어를 사용하고 한 도구에서 다른 도구로 출력을 옮겨야 하는데, 이는 종종 지루하고 시간이 많이 걸립니다.
잠재적 에이전트 기반 솔루션: 에이전트는 이 디지털 마케팅 생태계를 연결하는 데 도움을 줄 수 있습니다. 예를 들어, 마케터는 대상 사용자, 초기 아이디어, 의도된 채널 및 기타 매개변수를 자연어로 설명할 수 있습니다. 그런 다음 마케팅 전문가의 도움을 받는 에이전트 시스템은 다양한 캠페인 아이디어를 개발, 테스트 및 반복하는 데 도움을 줍니다. 디지털 마케팅 전략 에이전트는 온라인 설문 조사, 고객 관계 관리 솔루션의 분석 및 멀티모달 기반 모델을 사용하여 전략을 수립하기 위한 통찰력을 수집하는 것을 목표로 하는 기타 시장 조사 플랫폼을 활용할 수 있습니다. 콘텐츠 마케팅, 카피라이터 및 디자인 에이전트는 맞춤형 콘텐츠를 구축할 수 있으며, 인간 평가자는 이를 검토하여 브랜드 일치를 확인합니다. 이러한 에이전트는 협업하여 출력을 반복하고 개선하고 브랜드 위험을 최소화하면서 캠페인의 영향을 최적화하는 접근 방식으로 정렬합니다.
기업 리더들은 에이전트 시대에 어떻게 대비해야 할까?
공유하다
사이드바
에이전트 시스템이 야기하는 고유한 위험 이해
에이전트 기술은 아직 초기 단계이지만, 이러한 도구에 대한 투자를 늘리면 에이전트 시스템이 주목할 만한 이정표를 달성하고 향후 몇 년 안에 대규모로 배포될 수 있습니다. 따라서 비즈니스 리더가 에이전트에 대해 더 많이 알아보고 핵심 프로세스나 비즈니스 필수 사항 중 일부를 에이전트 시스템 및 기능으로 가속화할 수 있는지 고려하기에는 너무 이르지 않습니다. 이러한 이해는 향후 로드맵 계획이나 시나리오에 정보를 제공하고 리더가 혁신 준비의 최전선에 머무르는 데 도움이 될 수 있습니다. 이러한 잠재적 사용 사례가 식별되면 조직은 API, 툴킷, 라이브러리(예: Microsoft Autogen, Hugging Face, LangChain)를 활용하여 성장하는 에이전트 환경을 탐색하여 무엇이 관련성이 있는지 이해하기 시작할 수 있습니다.
에이전트 시스템의 출현에 대비하기 위해 조직은 이러한 시스템이 잠재력을 발휘하려면 핵심이 되는 세 가지 요소를 고려해야 합니다.
관련 지식의 체계화: 복잡한 사용 사례를 구현하려면 조직에서 비즈니스 프로세스를 체계화된 워크플로로 정의하고 문서화한 다음 이를 사용하여 에이전트를 교육해야 할 가능성이 높습니다. 마찬가지로 조직에서는 주제별 전문 지식을 수집하여 자연어로 에이전트를 교육하는 데 사용하여 복잡한 프로세스를 간소화하는 방법을 고려할 수 있습니다.
전략적 기술 계획: 조직은 에이전트 시스템이 기존 인프라와 효과적으로 상호 작용할 수 있도록 데이터와 IT 시스템을 구성해야 합니다. 여기에는 지속적인 피드백을 위한 사용자 상호 작용을 포착하고 기존 운영을 방해하지 않고 미래 기술을 통합할 수 있는 유연성을 만드는 것이 포함됩니다.
인간 참여 루프 제어 메커니즘: Gen AI 에이전트가 실제 세계와 상호 작용하기 시작하면서 제어 메커니즘은 자율성과 위험의 균형을 맞추는 데 필수적입니다(사이드바 "에이전트 시스템이 제기하는 고유한 위험 이해" 참조). 인간은 정확성, 규정 준수 및 공정성을 위해 출력을 검증해야 하며, 주제 전문가와 협력하여 에이전트 시스템을 유지 관리하고 확장하며, 지속적인 개선을 위한 학습 플라이휠을 만들어야 합니다. 조직은 이러한 인간 참여 루프 메커니즘을 어떤 조건에서 어떻게 배포해야 하는지 고려하기 시작해야 합니다.
McKinsey의 가장 최근 "State of AI" 설문 조사에 따르면, 설문에 참여한 회사의 72% 이상이 AI 솔루션을 구축하고 있으며, Gen AI에 대한 관심이 커지고 있습니다. 이러한 활동을 감안할 때, 회사가 에이전트와 같은 최첨단 기술을 계획 프로세스와 미래 AI 로드맵에 통합하기 시작하는 것은 놀라운 일이 아닙니다. 에이전트 중심 자동화는 여전히 흥미로운 제안으로, 전체 산업에 혁명을 일으켜 새로운 속도의 작업을 가져올 잠재력이 있습니다.
그럼에도 불구하고 이 기술은 아직 초기 단계에 있으며, 모든 기능을 실현하기 위해서는 많은 개발이 필요합니다. 이러한 시스템의 복잡성과 자율성이 증가함에 따라 수많은 과제와 위험이 발생합니다. 그리고 AI 에이전트를 배치하는 것이 인간 팀원과 마찬가지로 팀에 새로운 근로자를 추가하는 것과 비슷하다면, 에이전트는 독립적으로 작동하도록 신뢰할 수 있기 전에 상당한 테스트, 교육 및 코칭이 필요합니다. 하지만 이 초기 단계에도 이 새로운 세대의 가상 동료가 잠재적으로 펼칠 수 있는 광범위한 기회를 상상하는 것은 어렵지 않습니다.
McKinsey Quarterly 의 60주년을 기념 하여 1년간의 캠페인을 진행하며, 비즈니스와 사회의 미래와 관련된 주요 주제에 대한 4개 이슈와 관련 인터랙티브, 잡지 아카이브의 컬렉션 등을 선보입니다. 이 기사는 10월에 출간될 기술의 미래에 대한 첫 번째 테마 이슈에 게재됩니다. McKinsey Quarterly 알림 목록에 가입하면 다른 새로운 분기별 기사가 게시되는 즉시 알림을 받을 수 있습니다 .
구독하다
저자에 관하여
라레나 예 는 맥킨지 베이 지역 사무소의 수석 파트너이며, 마이클 추이 와 로저 로버츠는 파트너입니다. 스티븐 쉬는 토론토 사무소의 프로젝트 관리 부문 수석 디렉터입니다.
저자는 이 논문에 기여해 준 Aneri Shah, Arun Mittal, Henry Zhang, Kimberly Te, Mara Pometti, Rickard Ström에게 감사드리고 싶습니다.