모든 CEO가 생성 AI에 대해 알아야 할 사항 2023년 5월 12일| 기사

[힘힘]

모든 CEO가 생성 AI에 대해 알아야 할 사항

2023년 5월 12일| 기사

제너레이티브 AI는 기록적인 속도로 진화하고 있으며 CEO는 여전히 기술의 비즈니스 가치와 위험을 배우고 있습니다. 여기에서는 생성 AI 필수 요소 중 일부를 제공합니다.

다운로드

기사(17페이지)

ChatGPT, Bard, Claude, Midjourney 및 기타 콘텐츠 제작 도구의 출시 이후 생성적 AI를 둘러싼 흥분 속에서 CEO는 당연하게도 다음과 같은 의문을 품고 있습니다 . 후자라면 내 비즈니스에 어떤 가치가 있습니까?

사이드바

저자 소개

ChatGPT의 공개용 버전은 불과 두 달 만에 1억 명의 사용자를 확보했습니다. 이전에는 볼 수 없었던 방식으로 AI를 민주화하면서 지금까지 가장 빠르게 성장하는 앱이 되었습니다. 즉시 사용 가능한 접근성 덕분에 생성 AI는 이전의 모든 AI와 다릅니다. 사용자는 상호 작용하거나 가치를 도출하기 위해 기계 학습 학위가 필요하지 않습니다. 질문을 할 수 있는 거의 모든 사람이 사용할 수 있습니다. 그리고 개인용 컴퓨터나 iPhone과 같은 다른 획기적인 기술과 마찬가지로 하나의 제너레이티브 AI 플랫폼은 인터넷 액세스가 가능한 모든 장소에서 모든 연령이나 교육 수준의 청중을 위한 많은 애플리케이션을 생성할 수 있습니다.

이 모든 것은 생성형 AI 챗봇이 텍스트 및 오디오와 같은 다양한 형식의 방대한 양의 구조화되지 않은 레이블 지정되지 않은 데이터에 대해 훈련된 광범위한 신경망을 포함하는 기본 모델에 의해 구동되기 때문에 가능합니다. 기초 모델은 다양한 작업에 사용할 수 있습니다. 이와는 대조적으로 이전 세대의 AI 모델은 "좁은" 경우가 많았습니다. 즉, 고객 이탈 예측과 같은 한 가지 작업만 수행할 수 있었습니다. 예를 들어, 하나의 기초 모델은 양자 컴퓨팅에 대한 20,000단어 기술 보고서의 요약본을 작성하고, 트리밍 비즈니스를 위한 출시 전략 초안을 작성하고, 누군가의 냉장고에 있는 10가지 재료에 대한 5가지 다른 레시피를 제공할 수 있습니다. . 이러한 다재다능함의 단점은 현재로서는 생성 AI가 때때로 덜 정확한 결과를 제공할 수 있다는 것입니다.

적절한 가드레일을 갖추면 생성 AI는 비즈니스를 위한 새로운 사용 사례를 열 수 있을 뿐만 아니라 기존 사용 사례를 가속화, 확장 또는 개선할 수 있습니다. 예를 들어 고객 판매 전화를 상상해 보십시오. 특별히 훈련된 AI 모델은 영업 사원에게 상향 판매 기회를 제안할 수 있지만 지금까지는 일반적으로 인구 통계 및 구매 패턴과 같이 통화 시작 전에 얻은 정적 고객 데이터에만 기반했습니다. 생성 AI 도구는 내부 고객 데이터, 외부 시장 동향 및 소셜 미디어 인플루언서 데이터에서 도출한 대화의 실제 내용을 기반으로 영업 사원에게 실시간으로 상향 판매 기회를 제안할 수 있습니다. 동시에 제너레이티브 AI는 영업 사원이 적응하고 개인화할 수 있는 영업 홍보의 초안을 제공할 수 있습니다.

앞의 예는 기술이 하나의 직무 역할에 미치는 영향을 보여줍니다. 그러나 거의 모든 지식 근로자는 제너레이티브 AI와 협력하여 이점을 얻을 수 있습니다. 실제로 생성 AI는 결국 일부 작업을 자동화하는 데 사용될 수 있지만 그 가치의 상당 부분은 소프트웨어 공급업체가 지식 근로자가 사용하는 일상적인 도구(예: 이메일 또는 워드 프로세싱 소프트웨어)에 기술을 포함하는 방식에서 파생될 수 있습니다. 이러한 업그레이드된 도구는 생산성을 크게 높일 수 있습니다.

CEO는 지금 행동해야 하는지, 그렇다면 어떻게 시작해야 하는지 알고 싶어합니다. 일부는 인간이 제너레이티브 AI 애플리케이션을 사용하여 작업을 수행하는 방식을 재구상함으로써 경쟁을 뛰어넘을 수 있는 기회를 볼 수 있습니다. 다른 사람들은 큰 투자를 하기 전에 몇 가지 사용 사례를 실험하고 더 많이 배우기 위해 주의를 기울이고 싶어할 수 있습니다. 기업은 또한 제너레이티브 AI의 보다 혁신적인 구현에 필요한 기술 전문성, 기술 및 데이터 아키텍처, 운영 모델, 위험 관리 프로세스가 있는지 여부를 평가해야 합니다.

이 기사의 목표는 CEO와 팀이 제너레이티브 AI의 가치 창출 사례와 여정을 시작하는 방법을 숙고하도록 돕는 것입니다. 첫째, 경영진이 빠르게 진화하는 AI 상태와 사용 가능한 기술 옵션을 더 잘 이해할 수 있도록 생성 AI 입문서를 제공합니다. 다음 섹션에서는 조직 효율성 개선을 목표로 하는 네 가지 사례를 통해 기업이 생성 AI에 참여할 수 있는 방법을 살펴봅니다. 이러한 사례는 얼리 어답터들 사이에서 우리가 보고 있는 것을 반영하고 기술, 비용 및 운영 모델 요구 사항 전반에 걸쳐 다양한 옵션을 조명합니다. 마지막으로, 제너레이티브 AI로 조직이 성공할 수 있도록 자리잡는 데 있어 CEO의 중요한 역할을 다룹니다.

제너레이티브 AI에 대한 흥분은 눈에 띄고 최고 경영진은 사려 깊고 의도적인 속도로 앞으로 나아가고 싶어합니다. 이 기사가 비즈니스 리더에게 유망한 제너레이티브 AI 세계에 대한 균형 잡힌 소개를 제공하기를 바랍니다.

생성 AI 입문서

생성 AI 기술은 빠르게 발전하고 있습니다(그림 1). 출시 주기, 스타트업 수, 기존 소프트웨어 애플리케이션으로의 신속한 통합이 놀랍습니다. 이 섹션에서는 제너레이티브 AI 애플리케이션의 폭에 대해 논의하고 기존 AI와 어떻게 다른지 포함하여 기술에 대한 간략한 설명을 제공합니다.

전시회 1

우리는 장애가 있는 개인이 우리 웹사이트에 동등하게 접근할 수 있도록 노력합니다. 이 콘텐츠에 대한 정보를 원하시면 기꺼이 도와드리겠습니다. McKinsey_Website_Accessibility@mckinsey.com 으로 이메일을 보내주십시오.

챗봇 그 이상

Generative AI는 작업을 자동화, 증강 및 가속화하는 데 사용할 수 있습니다. 이 기사의 목적을 위해 우리는 생성 AI가 인간의 역할을 대체할 수 있는 방법보다 작업을 향상시킬 수 있는 방법에 초점을 맞춥니다.

ChatGPT와 같은 텍스트 생성 챗봇이 큰 관심을 받고 있는 동안 생성 AI는 이미지, 비디오, 오디오 및 컴퓨터 코드를 포함한 광범위한 콘텐츠에서 기능을 활성화할 수 있습니다. 또한 조직에서 분류, 편집, 요약, 질문에 답하기, 새 콘텐츠 초안 작성 등 여러 기능을 수행할 수 있습니다. 이러한 각각의 작업은 비즈니스 기능 및 워크플로 전반에 걸쳐 활동 수준에서 작업이 수행되는 방식을 변경하여 가치를 창출할 수 있는 잠재력을 가지고 있습니다. 다음은 몇 가지 예입니다.

나누다

• 사기 탐지 분석가는 거래 설명과 고객 문서를 생성 AI 도구에 입력하고 사기 거래를 식별하도록 요청할 수 있습니다.
• 고객 관리 관리자는 생성 AI를 사용하여 발신자 만족도 수준에 따라 고객 통화 오디오 파일을 분류할 수 있습니다.

편집하다

• 카피라이터는 생성 AI를 사용하여 문법을 수정하고 클라이언트의 브랜드 보이스와 일치하도록 기사를 변환할 수 있습니다.
• 그래픽 디자이너는 이미지에서 오래된 로고를 제거할 수 있습니다.

요약하다

• 프로덕션 어시스턴트는 몇 시간 분량의 이벤트 영상을 기반으로 하이라이트 비디오를 만들 수 있습니다.
• 비즈니스 분석가는 경영진 프레젠테이션의 핵심 사항을 요약하는 벤 다이어그램을 만들 수 있습니다.

질문에 답하기

• 제조 회사의 직원은 생성적 AI 기반의 "가상 전문가"에게 운영 절차에 대한 기술적 질문을 할 수 있습니다.
• 소비자는 챗봇에게 새 가구를 조립하는 방법에 대해 질문할 수 있습니다.

초안

• 소프트웨어 개발자는 생성 AI가 전체 코드 줄을 생성하도록 유도하거나 기존 코드의 일부 줄을 완성하는 방법을 제안할 수 있습니다.
• 마케팅 관리자는 생성 AI를 사용하여 다양한 버전의 캠페인 메시지 초안을 작성할 수 있습니다.

기술이 발전하고 성숙함에 따라 이러한 종류의 생성 AI는 작업을 자동화하고 특정 작업을 직접 수행하기 위해 엔터프라이즈 워크플로에 점점 더 통합될 수 있습니다(예: 회의가 끝날 때 자동으로 요약 메모 전송). 우리는 이미 이 영역에서 도구가 등장하는 것을 보고 있습니다.

생성 AI가 다른 종류의 AI와 다른 점

공유하다

사이드바

용어 사전

이름에서 알 수 있듯이 생성적 AI가 이전 형태의 AI 또는 분석과 다른 주요 방식은 새로운 콘텐츠를 효율적으로 생성할 수 있다는 점입니다. 종종 자연적으로 표현되지 않는 "비정형" 형식(예: 서면 텍스트 또는 이미지)으로 생성할 수 있습니다. 행과 열이 있는 표(제너레이티브 AI와 관련된 용어 목록은 사이드바 "용어집" 참조).

제너레이티브 AI가 작동하도록 하는 기본 모델을 기초 모델이라고 합니다. 트랜스포머는 기본 모델의 핵심 구성 요소입니다. GPT는 실제로 생성 사전 훈련 트랜스포머를 나타냅니다. 변환기는 신경망 내의 많은 (깊은) 계층을 암시하는 용어인 심층 학습을 사용하여 훈련되는 일종의 인공 신경망입니다. 딥 러닝은 최근 AI의 많은 발전에 힘을 실어주었습니다.

그러나 일부 특성은 기초 모델을 이전 세대의 딥 러닝 모델과 차별화합니다. 우선 매우 크고 다양한 구조화되지 않은 데이터 세트에 대해 교육을 받을 수 있습니다. 예를 들어 대규모 언어 모델이라고 하는 기본 모델 유형은 인터넷에서 공개적으로 사용할 수 있고 다양한 주제를 다루는 방대한 양의 텍스트에 대해 훈련될 수 있습니다. 다른 딥 러닝 모델은 상당한 양의 구조화되지 않은 데이터에서 작동할 수 있지만 일반적으로 보다 구체적인 데이터 세트에서 훈련됩니다. 예를 들어 모델은 특정 이미지 집합에 대해 훈련되어 사진의 특정 개체를 인식할 수 있습니다.

실제로 다른 딥 러닝 모델은 이러한 작업을 하나만 수행할 수 있는 경우가 많습니다. 예를 들어 사진 속의 물체를 분류하거나 예측과 같은 다른 기능을 수행할 수 있습니다. 반대로 하나의 기반 모델은 이러한 기능을 모두 수행하고 콘텐츠도 생성할 수 있습니다. 기초 모델은 수집한 광범위한 교육 데이터에서 패턴과 관계를 학습하여 이러한 기능을 축적합니다. 예를 들어 이를 통해 문장의 다음 단어를 예측할 수 있습니다. 이것이 바로 ChatGPT가 다양한 주제에 대한 질문에 답하고 DALL·E 2 및 Stable Diffusion이 설명을 기반으로 이미지를 생성하는 방법입니다.

기반 모델의 다양성을 감안할 때 기업은 동일한 모델을 사용하여 여러 비즈니스 사용 사례를 구현할 수 있으며, 이전 딥 러닝 모델에서는 거의 달성되지 않았습니다. 회사 제품에 대한 정보를 통합한 기초 모델은 고객의 질문에 답하고 제품의 업데이트된 버전을 개발하는 엔지니어를 지원하는 데 잠재적으로 사용될 수 있습니다. 결과적으로 기업은 응용 프로그램을 세우고 그 이점을 훨씬 더 빨리 실현할 수 있습니다.

그러나 현재 기초 모델이 작동하는 방식 때문에 모든 응용 프로그램에 자연스럽게 적합하지는 않습니다. 예를 들어 대규모 언어 모델은 "환각"을 일으키거나 그럴듯하지만 사실이 아닌 주장으로 질문에 대답하는 경향이 있습니다(사이드바 "책임감 있게 생성 AI 사용" 참조). 또한 응답에 대한 근본적인 추론이나 출처가 항상 제공되는 것은 아닙니다. 이는 회사가 오류가 피해를 줄 수 있거나 설명 가능성이 필요한 애플리케이션에서 인간의 감독 없이 생성 AI를 통합하는 데 주의해야 함을 의미합니다. Generative AI는 현재 대량의 표 데이터를 직접 분석하거나 고급 수치 최적화 문제를 해결하는 데 적합하지 않습니다. 연구원들은 이러한 한계를 해결하기 위해 열심히 노력하고 있습니다.

Using generative AI responsibly

다음 섹션으로 계속

공유하다

제너레이티브 AI는 다양한 위험을 내포하고 있습니다. CEO는 빠르게 진화하는 규제 요구 사항을 충족할 뿐만 아니라 비즈니스를 보호하고 소비자의 디지털 신뢰를 얻기 위해 처음부터 이러한 위험을 완화하도록 팀과 프로세스를 설계하기를 원할 것입니다. 기사).1

공정성: 모델은 불완전한 교육 데이터 또는 모델을 개발하는 엔지니어의 결정으로 인해 알고리즘 편향을 생성할 수 있습니다.

지적 재산권(IP): 교육 데이터 및 모델 출력은 저작권, 상표권, 특허 또는 법적으로 보호되는 자료에 대한 침해를 포함하여 상당한 지적 재산권 위험을 유발할 수 있습니다 . 제공업체의 생성 AI 도구를 사용하는 경우에도 조직은 어떤 데이터가 교육에 사용되었고 도구 출력에서 ​​어떻게 사용되는지 이해해야 합니다.

프라이버시: 사용자가 나중에 개인을 식별할 수 있는 형태로 모델 출력으로 끝나는 정보를 입력하면 프라이버시 문제가 발생할 수 있습니다. Generative AI는 허위 정보, 딥페이크, 증오심 표현과 같은 악성 콘텐츠를 생성하고 유포하는 데 사용될 수도 있습니다.

보안: 사이버 공격의 정교함과 속도를 가속화하기 위해 악의적인 행위자가 생성 AI를 사용할 수 있습니다. 또한 악의적인 출력을 제공하도록 조작할 수도 있습니다. 예를 들어 프롬프트 주입이라는 기술을 통해 제3자는 모델 제작자와 최종 사용자가 의도하지 않은 출력을 제공하도록 모델을 속이는 새로운 지침을 모델에 제공합니다.

설명 가능성: 제너레이티브 AI는 수십억 개의 매개변수가 있는 신경망에 의존하므로 주어진 답변이 생성되는 방식을 설명하는 능력에 도전합니다.

신뢰성: 모델은 동일한 프롬프트에 대해 서로 다른 답변을 생성할 수 있으므로 출력의 정확성과 신뢰성을 평가하는 사용자의 능력을 방해합니다.

조직적 영향: 생성적 AI는 인력에 상당한 영향을 미칠 수 있으며 특정 그룹 및 지역 사회에 미치는 영향은 불균형적으로 부정적일 수 있습니다.

사회적 및 환경적 영향: 기본 모델의 개발 및 교육은 탄소 배출량 증가를 포함하여 해로운 사회적 및 환경적 결과를 초래할 수 있습니다(예: 하나의 대규모 언어 모델 교육은 약 315톤의 이산화탄소를 배출할 수 있음).2

떠오르는 제너레이티브 AI 생태계

기초 모델이 제너레이티브 AI의 "두뇌" 역할을 하는 동안 이 기술의 교육 및 사용을 지원하기 위해 전체 가치 사슬이 부상하고 있습니다 (그림 2).1특화된 하드웨어는 모델 훈련에 필요한 광범위한 컴퓨팅 성능을 제공합니다. 클라우드 플랫폼은 이 하드웨어를 활용할 수 있는 기능을 제공합니다. MLOps 및 모델 허브 공급자는 조직이 기본 모델을 조정하고 최종 사용자 애플리케이션 내에 배포하는 데 필요한 도구, 기술 및 사례를 제공합니다. 많은 회사들이 회사 고객의 서비스 문제 지원과 같은 특정 작업을 수행할 수 있도록 하는 기본 모델 위에 구축된 응용 프로그램을 제공하기 위해 시장에 진입하고 있습니다.

전시회 2

우리는 장애가 있는 개인이 우리 웹사이트에 동등하게 접근할 수 있도록 노력합니다. 이 콘텐츠에 대한 정보를 원하시면 기꺼이 도와드리겠습니다. McKinsey_Website_Accessibility@mckinsey.com 으로 이메일을 보내주십시오.

첫 번째 기본 모델은 모델을 훈련하는 데 필요한 상당한 컴퓨팅 리소스와 모델을 개선하는 데 필요한 인적 노력을 감안할 때 개발에 높은 수준의 투자가 필요했습니다. 결과적으로 그들은 주로 소수의 거대 기술 기업, 상당한 투자로 뒷받침되는 신생 기업 및 일부 오픈 소스 연구 집단(예: BigScience)에 의해 개발되었습니다. 그러나 일부 작업에 효과적인 결과를 제공할 수 있는 더 작은 모델과 보다 효율적인 교육에 대한 작업이 진행 중입니다. 이것은 결국 더 많은 참가자에게 시장을 열 수 있습니다. 일부 신생 기업은 이미 자체 모델 개발에 성공했습니다. 예를 들어 Cohere, Anthropic 및 AI21 Labs는 자체 대규모 언어 모델을 구축하고 교육합니다.

제너레이티브 AI 활용

CEO는 제너레이티브 AI의 탐구를 가능성이 아닌 필수로 고려해야 합니다. Generative AI는 다양한 사용 사례에서 가치를 창출할 수 있습니다. 시작하기 위한 경제적 및 기술적 요구 사항은 엄두를 내지 못하는 반면, 활동을 하지 않으면 경쟁자에게 빠르게 뒤처질 수 있다는 단점이 있습니다. 각 CEO는 경영진과 협력하여 어디서 어떻게 플레이할지 숙고해야 합니다. 일부 CEO는 제너레이티브 AI가 연구 및 개발에서 마케팅 및 판매, 고객 운영에 이르기까지 모든 것을 재구상할 수 있는 기회를 회사에 제공하는 혁신적인 기회를 제공한다고 결정할 수 있습니다. 다른 사람들은 작게 시작하여 나중에 확장하도록 선택할 수 있습니다. 결정이 내려지면 사용 사례에 따라 AI 전문가가 전략을 실행하기 위해 따를 수 있는 기술적 경로가 있습니다.

조직에서 제너레이티브 AI를 사용하는 대부분(반드시 모든 가치는 아니지만)은 작업자가 이미 보유한 소프트웨어에 내장된 기능을 사용하는 것에서 비롯됩니다. 이메일 시스템은 메시지의 첫 번째 초안을 작성할 수 있는 옵션을 제공합니다. 생산성 애플리케이션은 설명을 기반으로 프레젠테이션의 첫 번째 초안을 만듭니다. 재무 소프트웨어는 재무 보고서의 주목할만한 기능에 대한 산문 설명을 생성합니다. 고객 관계 관리 시스템은 고객과 상호 작용하는 방법을 제안합니다. 이러한 기능은 모든 지식 근로자의 생산성을 가속화할 수 있습니다.

그러나 생성 AI는 특정 사용 사례에서 더 혁신적일 수도 있습니다. 다음으로 다양한 산업 분야의 기업에서 오늘날 생성 AI를 사용하여 조직 내에서 작업 수행 방식을 재구성하는 방법에 대한 네 가지 예를 살펴봅니다.2예는 최소한의 자원이 필요한 것부터 자원 집약적인 사업에 이르기까지 다양합니다. (이러한 예에 대한 빠른 비교와 자세한 기술 정보는 Exhibit 3을 참조하십시오.)

전시 3

우리는 장애가 있는 개인이 우리 웹사이트에 동등하게 접근할 수 있도록 노력합니다. 이 콘텐츠에 대한 정보를 원하시면 기꺼이 도와드리겠습니다. McKinsey_Website_Accessibility@mckinsey.com 으로 이메일을 보내주십시오.

Changing the work of software engineering

다음 섹션으로 계속

공유하다

첫 번째 예는 기성 생성 AI 솔루션을 사용하고 사내 사용자 지정이 필요하지 않기 때문에 즉각적인 생산성 이점이 있는 상대적으로 복잡성이 낮은 사례입니다.

소프트웨어 엔지니어의 업무 중 가장 큰 부분은 코드를 작성하는 것입니다. 개인 및 공공 문서에 대한 광범위한 시행착오와 연구가 필요한 노동 집약적인 프로세스입니다. 이 회사에서는 숙련된 소프트웨어 엔지니어가 부족하여 기능 및 버그 수정 요청이 많이 밀렸습니다.

엔지니어의 생산성을 향상시키기 위해 회사는 엔지니어가 코딩에 사용하는 소프트웨어와 통합되는 AI 기반 코드 완성 제품을 구현하고 있습니다. 이를 통해 엔지니어는 자연어로 코드 설명을 작성할 수 있으며, AI는 설명을 만족시킬 코드 블록의 여러 변형을 제안합니다. 엔지니어는 AI의 제안 중 하나를 선택하고 필요한 수정을 한 다음 클릭하여 코드를 삽입할 수 있습니다.

우리의 연구에 따르면 이러한 도구는 개발자의 코드 생성 속도를 최대 50%까지 높일 수 있습니다. 또한 디버깅에 도움이 되어 개발된 제품의 품질을 향상시킬 수 있습니다. 그러나 오늘날 생성 AI는 숙련된 소프트웨어 엔지니어를 대체할 수 없습니다. 실제로 경험이 많은 엔지니어는 도구에서 가장 큰 생산성 이점을 얻는 것으로 보이며 경험이 없는 개발자는 덜 인상적이며 때로는 부정적인 결과를 보게 됩니다. 알려진 위험은 AI 생성 코드에 취약성 또는 기타 버그가 포함될 수 있으므로 코드의 품질과 보안을 보장하기 위해 소프트웨어 엔지니어가 참여해야 합니다(위험을 완화하는 방법은 이 문서의 마지막 섹션 참조).

이 기성 생성 AI 코딩 도구의 비용은 상대적으로 낮고 제품을 사용할 수 있고 상당한 사내 개발이 필요하지 않기 때문에 시장 출시 시간이 짧습니다. 비용은 소프트웨어 공급자에 따라 다르지만 고정 요금 구독은 사용자당 월 $10에서 $30 사이입니다. 도구를 선택할 때 생성된 코드가 위반으로 이어지지 않도록 공급자와 라이센스 및 지적 재산권 문제를 논의하는 것이 중요합니다.

새로운 도구를 지원하는 것은 지적 재산 및 보안 문제 확인을 포함해야 하는 소프트웨어 공급자 선택 및 성능 모니터링에 중점을 둔 소규모 다기능 팀입니다. 구현에는 워크플로 및 정책 변경만 필요합니다. 이 도구는 순전히 기성 SaaS(Software as a Service)이기 때문에 추가 컴퓨팅 및 스토리지 비용이 최소화되거나 존재하지 않습니다.

Helping relationship managers keep up with the pace of public information and data

다음 섹션으로 계속

공유하다

회사는 기성 도구를 사용하는 대신 기본 모델(API 또는 개방형 모델을 통해)을 활용하여 자체 생성 AI 애플리케이션을 구축하기로 결정할 수 있습니다. 이를 위해서는 이전 사례보다 한 단계 높은 투자가 필요하지만 회사의 특정 상황과 요구 사항을 충족하기 위해 보다 맞춤화된 접근 방식을 용이하게 합니다.

이 예에서 대기업 은행은 제너레이티브 AI를 사용하여 관계 관리자(RM)의 생산성을 개선하려고 합니다. RM은 고객의 상황과 우선 순위에 대한 정보를 유지하기 위해 연간 보고서 및 수익 보고서와 같은 대용량 문서를 검토하는 데 상당한 시간을 할애합니다. 이를 통해 RM은 클라이언트의 특정 요구에 적합한 서비스를 제공할 수 있습니다.

은행은 API를 통해 기반 모델에 액세스하는 솔루션을 구축하기로 결정했습니다. 이 솔루션은 문서를 스캔하고 RM이 제기한 질문에 대한 합성된 답변을 신속하게 제공할 수 있습니다. 기반 모델 주변의 추가 계층은 사용자 경험을 간소화하고 도구를 회사 시스템과 통합하며 위험 및 규정 준수 제어를 적용하기 위해 구축됩니다. 특히 일부 대규모 언어 모델은 환각을 일으키는 것으로 알려져 있기 때문에 조직이 주니어 분석가의 출력을 확인하는 것처럼 모델 출력을 확인해야 합니다. RM은 또한 솔루션에서 가장 정확한 답변을 제공하는 방식으로 질문하도록 교육을 받고(프롬프트 엔지니어링이라고 함) 도구의 출력 및 정보 소스의 검증을 간소화하기 위한 프로세스를 마련합니다.

이 경우 제너레이티브 AI는 RM의 분석 프로세스 속도를 높이고(일에서 몇 시간으로) 작업 만족도를 개선하며 잠재적으로 RM이 간과했을 수 있는 통찰력을 포착할 수 있습니다.

개발 비용은 대부분 데이터 과학자, 기계 학습 엔지니어 또는 데이터 엔지니어, 디자이너 및 프런트 엔드 개발자의 시간이 필요한 사용자 인터페이스 구축 및 통합에서 발생합니다. 지속적인 비용에는 소프트웨어 유지 관리 및 API 사용 비용이 포함됩니다. 비용은 모델 선택 및 타사 공급업체 수수료, 팀 규모 및 최소 실행 가능 제품에 걸리는 시간에 따라 다릅니다.

Freeing up customer support representatives for higher-value activities

다음 섹션으로 계속

공유하다

다음 수준의 정교함은 기본 모델을 미세 조정하는 것입니다. 이 예에서 회사는 대화에 최적화된 기반 모델을 사용하고 자체 고품질 고객 채팅과 부문별 질문 및 답변에 대해 미세 조정합니다. 회사는 전문 용어(예: 법률, 의학, 부동산 및 금융)를 사용하는 부문에서 운영됩니다. 빠른 고객 서비스는 경쟁력 있는 차별화 요소입니다.

이 회사의 고객 지원 담당자는 하루에 수백 건의 인바운드 문의를 처리합니다. 때때로 응답 시간이 너무 길어서 사용자 불만을 야기했습니다. 이 회사는 대부분의 고객 요청을 처리하기 위해 생성 AI 고객 서비스 봇을 도입하기로 결정했습니다. 목표는 회사 브랜드와 고객 선호도에 맞는 어조로 신속한 대응이었습니다. 기반 모델을 미세 조정하고 테스트하는 프로세스의 일부에는 응답이 도메인별 언어, 브랜드 약속 및 회사의 톤 세트와 일치하는지 확인하는 것이 포함됩니다. 고객 만족을 포함하여 여러 차원에서 시스템 성능을 확인하려면 지속적인 모니터링이 필요합니다.

회사는 잠재적인 모델 오류를 최소화하기 위해 여러 웨이브로 구성된 제품 로드맵을 만들었습니다. 첫 번째 물결에서는 챗봇이 내부적으로 파일럿되었습니다. 직원들은 모델의 제안에 대해 "좋아요" 또는 "싫어요" 대답을 할 수 있었고 모델은 이러한 입력으로부터 배울 수 있었습니다. 다음 단계로 모델은 고객 지원 대화를 "듣고" 제안을 제공했습니다. 기술이 충분히 테스트되면 두 번째 물결이 시작되었고 모델은 루프에 사람이 있는 고객 대면 사용 사례로 전환되었습니다. 결국 리더가 기술에 완전히 자신감을 갖게 되면 대부분 자동화될 수 있습니다.

이 경우, 제너레이티브 AI는 서비스 담당자가 보다 가치 있고 복잡한 고객 문의에 집중할 수 있도록 해 주었고 담당자의 효율성과 업무 만족도를 개선했으며 서비스 표준과 고객 만족도를 높였습니다. 봇은 고객의 모든 내부 데이터에 액세스할 수 있으며 이전 대화(전화 통화 포함)를 "기억"하여 현재 고객 챗봇에 대한 단계 변경을 나타냅니다.

이점을 포착하기 위해 이 사용 사례에는 소프트웨어, 클라우드 인프라 및 기술 인재에 대한 실질적인 투자와 위험 및 운영에 대한 높은 수준의 내부 조정이 필요했습니다. 일반적으로 기본 모델을 미세 조정하는 데는 API 위에 하나 이상의 소프트웨어 계층을 구축하는 것보다 2~3배의 비용이 듭니다. 클라우드 컴퓨팅(자체 호스팅 모델을 미세 조정하는 경우) 또는 API(타사 API를 통해 미세 조정하는 경우)에 대한 인재 및 타사 비용이 비용 증가를 설명합니다. 솔루션을 구현하기 위해 회사는 DataOps 및 MLOps 전문가의 도움은 물론 제품 관리, 디자인, 법률 및 고객 서비스 전문가와 같은 다른 부서의 의견이 필요했습니다.

Accelerating drug discovery

다음 섹션으로 계속

공유하다

가장 복잡하고 맞춤화된 생성 AI 사용 사례는 적절한 기반 모델을 사용할 수 없고 회사가 처음부터 모델을 구축해야 할 때 나타납니다. 이러한 상황은 이 제약 사례에서 보여주듯이 특수 분야에서 또는 기존 기초 모델을 교육하는 데 사용되는 데이터와 크게 다른 고유한 데이터 세트로 작업할 때 발생할 수 있습니다. 기본 모델을 처음부터 교육하면 상당한 기술, 엔지니어링 및 리소스 문제가 발생합니다. 더 높은 성과를 내는 모델을 사용함으로써 얻을 수 있는 추가 투자 수익은 재정 및 인적 자본 비용보다 커야 합니다.

이 예에서 제약 회사의 신약 개발 연구 과학자는 현미경 이미지를 기반으로 다음에 실행할 실험을 결정해야 했습니다. 그들은 약물 발견과 관련이 있지만 인간이 해석하기 어려운 세포 기능에 대한 풍부한 시각적 정보를 포함하는 이러한 이미지 수백만 개의 데이터 세트를 가지고 있었습니다. 이미지는 잠재적인 치료 후보를 평가하는 데 사용되었습니다.

회사는 R&D 노력을 가속화하기 위해 과학자들이 약물 화학과 기록된 현미경 결과 사이의 관계를 이해하는 데 도움이 되는 도구를 만들기로 결정했습니다. 이러한 다중 모드 모델은 아직 초기 단계이므로 회사는 대신 자체적으로 교육하기로 결정했습니다. 모델을 구축하기 위해 팀원들은 이미지 기반 기본 모델을 교육하는 데 사용되는 실제 이미지와 대규모 내부 현미경 이미지 데이터 세트를 모두 사용했습니다.

훈련된 모델은 어떤 약물 후보가 유리한 결과로 이어질 수 있는지 예측하고 약물 발견을 위한 관련 세포 기능을 정확하게 식별하는 능력을 개선함으로써 가치를 더했습니다. 이는 보다 효율적이고 효과적인 약물 발견 프로세스로 이어져 가치 창출 시간을 단축할 뿐만 아니라 부정확하거나 오해의 소지가 있거나 실패한 분석의 수를 줄일 수 있습니다.

일반적으로 처음부터 모델을 교육하는 것은 모델 API를 중심으로 소프트웨어를 구축하는 것보다 10배에서 20배 더 많은 비용이 듭니다. 더 큰 팀(예: 박사급 기계 학습 전문가 포함)과 더 높은 컴퓨팅 및 스토리지 지출이 비용 차이를 설명합니다. 기본 모델 교육의 예상 비용은 원하는 모델 성능 수준과 모델링 복잡성에 따라 크게 달라집니다. 이러한 요소는 필요한 데이터 세트 크기, 팀 구성 및 컴퓨팅 리소스에 영향을 미칩니다. 이 사용 사례에서는 엔지니어링 팀과 진행 중인 클라우드 비용이 대부분의 비용을 차지했습니다.

이 회사는 모델 교육을 위한 많은 GPU 인스턴스에 대한 액세스, 여러 시스템에 교육을 배포하는 도구, 비용 및 프로젝트 기간을 제한하는 모범 사례 MLOps를 포함하여 기술 인프라 및 프로세스에 대한 주요 업데이트가 필요하다는 것을 알게 되었습니다. 또한 수집, 통합(서로 다른 데이터 세트의 파일이 동일한 형식 및 해상도인지 확인) 및 정리(저품질 데이터 필터링, 중복 제거, 의도한 대로 배포되도록 보장)를 위해 상당한 데이터 처리 작업이 필요했습니다. 사용). 기본 모델은 처음부터 훈련되었기 때문에 출력이 정확하고 사용하기에 안전한지 확인하기 위해 최종 모델에 대한 엄격한 테스트가 필요했습니다.

생성적 AI 가치 사슬에서 기회 탐색

기사를 읽다

CEO가 이러한 사례에서 얻을 수 있는 교훈

여기에 설명된 사용 사례는 생성적 AI 여정을 시작하는 CEO에게 강력한 시사점을 제공합니다.

• 직업과 작업장에 실질적인 이점을 제공하는 혁신적인 사용 사례가 이미 존재합니다. 제약에서 은행, 소매에 이르기까지 여러 분야의 기업들이 가치 창출 잠재력을 포착하기 위해 다양한 사용 사례를 제시하고 있습니다. 조직은 열망에 따라 작게 또는 크게 시작할 수 있습니다.
• 제너레이티브 AI를 추구하는 비용은 사용 사례와 소프트웨어, 클라우드 인프라, 기술 전문 지식 및 위험 완화에 필요한 데이터에 따라 크게 다릅니다. 기업은 사용 사례에 관계없이 위험 문제를 고려해야 하며 일부는 다른 것보다 더 많은 리소스가 필요합니다.
• 빠르게 시작하는 것이 장점이 있지만 기본 비즈니스 사례를 먼저 구축하면 기업이 생성 AI 여정을 더 잘 탐색하는 데 도움이 됩니다.

시작 시 고려 사항

CEO는 기업이 제너레이티브 AI에 집중하도록 촉진하는 데 중요한 역할을 합니다. 마지막 섹션에서는 CEO가 여정을 시작할 때 염두에 두어야 할 전략에 대해 논의합니다. 그들 중 다수는 이전의 신기술 물결에 대한 고위 경영진의 반응을 반영합니다. 그러나 생성 AI는 이전 기술 전환에서 볼 수 없었던 속도로 이동하는 기술을 관리하는 것을 포함하여 고유한 과제를 제시합니다.

생성 AI를 위한 구성

많은 조직이 고립된 실험을 통해 기존 AI의 가능성을 탐색하기 시작했습니다. 제너레이티브 AI에는 고유한 위험 고려 사항과 조직 전체에서 여러 사용 사례를 뒷받침하는 기반 모델의 기능을 고려할 때 보다 신중하고 조정된 접근 방식이 필요합니다. 예를 들어, 기업의 브랜드 아이덴티티를 반영하기 위해 독점 자료를 사용하여 미세 조정된 모델은 여러 사용 사례(예: 개인화된 마케팅 캠페인 및 제품 설명 생성)와 제품 개발 및 마케팅과 같은 비즈니스 기능에 걸쳐 배포될 수 있습니다.

이를 위해 회사 리더의 교차 기능 그룹(예: 데이터 과학, 엔지니어링, 법률, 사이버 보안, 마케팅, 디자인 및 기타 비즈니스 기능을 대표함)을 소집할 것을 권장합니다. 이러한 그룹은 가장 가치 있는 사용 사례를 식별하고 우선 순위를 지정하는 데 도움이 될 뿐만 아니라 조직 전체에서 조정되고 안전한 구현을 가능하게 합니다.

종단 간 도메인 재구성 대 사용 사례에 집중

제너레이티브 AI는 가치 사슬 내의 특정 비즈니스 영역(예: 소매업체의 마케팅 또는 제조업체의 운영)에 특히 영향을 미치면서 조직의 운영 방식을 혁신할 수 있는 강력한 도구입니다. 제너레이티브 AI 배포의 용이성으로 인해 조직은 이를 비즈니스 전반의 산발적인 사용 사례에 적용하도록 유혹할 수 있습니다. 비즈니스 기능 전반에 걸쳐 가장 혁신적인 잠재력을 갖게 될 도메인별 사용 사례 제품군에 대한 관점을 갖는 것이 중요합니다. 조직은 이전에는 불가능했을 수 있는 새로운 작업 방식과 함께 다른 기존 AI 애플리케이션과 동기화하여 작동하는 제너레이티브 AI를 통해 목표 상태를 재구상하고 있습니다.

완전히 로드된 기술 스택 활성화

최신 데이터 및 기술 스택은 생성 AI에 대한 거의 모든 성공적인 접근 방식의 핵심입니다. CEO는 회사가 컴퓨팅 리소스, 데이터 시스템, 도구 및 모델에 대한 액세스(모델 허브를 통한 오픈 소스 또는 API를 통한 상용) 측면에서 필요한 기술 역량을 보유하고 있는지 확인하기 위해 최고 기술 책임자에게 문의해야 합니다.

예를 들어, 제너레이티브 AI의 생명선은 특정 비즈니스 컨텍스트 또는 문제에 맞게 연마된 데이터에 대한 유동적인 액세스입니다. 데이터를 효과적으로 조화시키고 즉시 액세스할 수 있는 방법을 아직 찾지 못한 기업은 생성 AI를 미세 조정하여 잠재적으로 혁신적인 용도를 더 많이 활용할 수 없습니다. 마찬가지로 중요한 것은 데이터 거버넌스 및 보안 절차를 포함하는 확장 가능한 데이터 아키텍처를 설계하는 것입니다 . 사용 사례에 따라 기존 컴퓨팅 및 도구 인프라(클라우드 공급자를 통해 소싱하거나 사내에 설정할 수 있음)도 업그레이드해야 할 수 있습니다. 제너레이티브 AI에서 파생된 비즈니스 가치와 경쟁 우위에 기반한 명확한 데이터 및 인프라 전략이 중요합니다.

'등대' 짓기

CEO는 계획 단계에 얽매이는 것을 피하고 싶어할 것입니다. 새로운 모델과 애플리케이션이 빠르게 개발 및 출시되고 있습니다. 예를 들어 GPT-4는 2022년 11월 ChatGPT(GPT-3.5), 2020년 GPT-3에 이어 2023년 3월에 출시되었습니다. 생성 AI 기술의 특성상 기업은 이를 활용하기 위해 신속하게 움직여야 합니다. 경영진이 꾸준히 움직일 수 있는 몇 가지 방법이 있습니다.

제너레이티브 AI는 아직 초기 단계이지만 "등대 접근 방식"을 통해 회사의 운영 모델에 어떤 영향을 미칠 수 있는지 내부적으로 보여주는 것이 중요합니다. 예를 들어 한 가지 방법은 일선 직원이 독점 지식 소스를 활용하고 고객에게 가장 관련성 높은 콘텐츠를 제공할 수 있도록 하는 "가상 전문가"를 구축하는 것입니다. 이는 생산성을 높이고 열정을 불러일으키며 조직이 고객 대면 애플리케이션으로 확장하기 전에 내부적으로 생성 AI를 테스트할 수 있는 잠재력을 가지고 있습니다.

기술 혁신의 다른 물결과 마찬가지로 개념 증명 피로와 "파일럿 연옥"에 갇힌 회사의 많은 예가 있을 것입니다. 그러나 개념 증명을 장려하는 것은 여전히 ​​인접한 사용 사례로 확장하기 전에 귀중한 비즈니스 사례를 신속하게 테스트하고 개선하는 가장 좋은 방법입니다. 의미 있는 결과를 제공하는 초기 성공에 집중함으로써 기업은 모멘텀을 구축한 다음 제너레이티브 AI의 다목적 특성을 활용하여 규모를 확장할 수 있습니다. 이 접근 방식을 통해 기업은 더 광범위한 AI 채택을 촉진하고 경쟁 우위를 유지하는 데 필수적인 혁신 문화를 만들 수 있습니다. 위에서 설명한 대로 교차 기능 리더십 팀은 이러한 개념 증명이 신중하고 조정되었는지 확인하기를 원할 것입니다.

위험과 가치 창출의 균형

네 가지 세부 사용 사례에서 알 수 있듯이 비즈니스 리더는 생성 AI와 관련된 위험과 가치 창출 기회의 균형을 맞춰야 합니다. 최근 글로벌 AI 설문 조사 에 따르면 조직의 절반 이상이 이미 기술을 채택했지만 대부분의 조직은 기존 AI와 관련된 대부분의 위험을 완화하지 않습니다.삼제너레이티브 AI는 훈련 데이터에 숨겨진 편견을 영구화할 가능성과 같은 많은 동일한 위험에 대한 새로운 관심을 가져오는 동시에 환각 성향과 같은 새로운 위험을 제시합니다.

결과적으로 교차 기능 리더십 팀은 제너레이티브 AI 사용에 대한 포괄적인 윤리 원칙과 지침을 수립할 뿐만 아니라 각 잠재적 사용 사례가 제시하는 위험에 대한 철저한 이해를 발전시키기를 원할 것입니다. 조직의 전반적인 위험 허용 범위와 일치하고 결과적 위험을 완화할 수 있는 구조를 갖춘 초기 사용 사례를 찾는 것이 중요합니다. 예를 들어 소매 조직은 가치는 약간 낮지만 위험도 낮은 사용 사례(예: 마케팅 콘텐츠의 초기 초안 작성 및 사람을 계속 참여시키는 기타 작업)에 우선순위를 둘 수 있습니다. 동시에 회사는 고도로 개인화된 마케팅 이메일을 자동으로 작성하고 전송하는 도구와 같이 가치가 높고 위험도가 높은 사용 사례를 따로 설정할 수 있습니다.

CEO와 팀은 또한 책임 문제로부터 회사를 보호하기 위해 소비자 데이터 보호 및 지적 재산권과 관련된 규칙을 포함하여 생성 AI 규정의 최신 개발 사항을 최신 상태로 유지하기를 원할 것입니다. 이미 AI와 데이터를 사용하는 경우가 많기 때문에 국가는 규제에 대해 다양한 접근 방식을 취할 수 있습니다. 조직은 빠르게 진화하는 규제 환경과 생성적 AI의 위험을 대규모로 처리할 수 있는 방식으로 프로세스 관리, 문화 및 인재 관리를 조정하기 위해 작업 방식을 조정해야 할 수 있습니다.

파트너십에 생태계 접근 방식 적용

비즈니스 리더는 균형 잡힌 동맹을 구축하고 유지하는 데 집중해야 합니다. 회사의 인수 및 제휴 전략은 공급업체 종속을 방지하는 데 주의를 기울이면서 다양한 상황에 맞춰 조정된 파트너 생태계를 구축하고 기술 스택의 모든 수준에서 제너레이티브 AI가 요구하는 사항을 해결하는 데 계속 집중해야 합니다.

올바른 회사와 협력하면 실행을 가속화하는 데 도움이 될 수 있습니다. 조직은 자체적으로 모든 애플리케이션 또는 기반 모델을 구축할 필요가 없습니다. 대신 생성 AI 공급업체 및 전문가와 협력하여 더 빠르게 움직일 수 있습니다. 예를 들어 모델 공급자와 팀을 이루어 특정 부문에 대한 모델을 사용자 지정하거나 확장 가능한 클라우드 컴퓨팅과 같은 지원 기능을 제공하는 인프라 공급자와 파트너 관계를 맺을 수 있습니다.

기업은 다른 사람의 전문 지식을 활용하고 최신 제너레이티브 AI 기술을 활용하기 위해 빠르게 움직일 수 있습니다. 그러나 생성 AI 모델은 창끝에 불과합니다. 가치 창출을 위해서는 여러 추가 요소가 필요합니다.

필요한 재능과 기술에 집중

비즈니스 가치를 위해 생성 AI를 효과적으로 적용하려면 기업은 기술 역량을 구축하고 현재 인력의 기술을 향상시켜야 합니다. 이를 위해서는 회사의 우선 순위 사용 사례를 기반으로 필요한 기능을 식별하기 위한 리더십의 공동 노력이 필요하며, 이는 엔지니어링, 데이터, 디자인, 위험, 제품 및 기타 비즈니스 기능 전반에 걸친 인재 혼합을 포함하도록 기술 역할을 넘어 확장될 가능성이 높습니다.

위에서 강조한 사용 사례에서 설명한 것처럼 기성 솔루션을 사용하는 것부터 기초 모델을 처음부터 구축하는 것까지 주어진 구현의 특성에 따라 기술 및 인재 요구 사항이 크게 달라집니다. 예를 들어 생성 모델을 구축하려면 회사에 박사 수준의 기계 학습 전문가가 필요할 수 있습니다. 반면에 기존 모델과 SaaS 오퍼링을 사용하여 생성 AI 도구를 개발하려면 데이터 엔지니어와 소프트웨어 엔지니어가 노력을 이끌기에 충분할 수 있습니다.

올바른 인재를 고용하는 것 외에도 기업은 기존 인력을 교육하고 훈련하기를 원할 것입니다. 프롬프트 기반 대화형 사용자 인터페이스는 생성 AI 애플리케이션을 사용하기 쉽게 만들 수 있습니다. 그러나 사용자는 여전히 프롬프트를 최적화하고, 기술의 한계를 이해하고, 응용 프로그램을 작업 흐름에 적절하게 통합할 수 있는 위치와 시기를 알아야 합니다. 경영진은 제너레이티브 AI 도구 사용에 대한 명확한 지침을 제공하고 직원들에게 위험을 알리기 위해 지속적인 교육과 훈련을 제공해야 합니다. 자기주도 연구 및 실험 문화를 조성하면 직원들이 이러한 도구를 효과적으로 통합하는 프로세스와 제품을 혁신하도록 장려할 수 있습니다.

---

기업은 수년 동안 AI 야망을 추구해 왔으며 많은 기업이 새로운 수익원, 제품 개선 및 운영 효율성을 실현했습니다. 이러한 영역에서 성공의 대부분은 특정 작업에 가장 적합한 도구로 남아 있는 AI 기술에서 비롯되었으며 기업은 이러한 노력을 계속 확장해야 합니다. 그러나 생성 AI는 또 다른 유망한 도약이자 새로운 가능성의 세계를 나타냅니다. 기술의 운영 및 위험 스캐폴딩이 아직 구축되는 동안 비즈니스 리더는 생성 AI 여정을 시작해야 한다는 것을 알고 있습니다. 하지만 어디서 어떻게 시작해야 할까요? 대답은 회사와 조직 내에서 다를 수 있습니다. 일부는 크게 시작할 것입니다. 다른 사람들은 더 작은 실험을 수행할 수 있습니다. 최선의 접근 방식은 회사의 포부와 위험 선호도에 따라 달라집니다. 야망이 무엇이든,

저자 소개

Michael Chui 는 McKinsey Global Institute의 파트너이자 McKinsey Bay Area 사무소의 파트너입니다. 여기서 Roger Roberts 는 파트너, Tanya Rodchenko 는 제휴 파트너, Lareina Yee 는 McKinsey Technology Council의 의장입니다. 시카고 사무소의 선임 파트너인 Alex Sukharevsky와 런던 사무소의 선임 파트너인 Alex Sukharevsky 는 McKinsey의 AI인 QuantumBlack의 글로벌 리더입니다. Delphine Zurkiya 는 보스턴 사무소의 수석 파트너입니다.