이사회가 제너레이티브 AI에 대해 물어봐야 할 4가지 필수 질문

[힘힘]

이사회가 제너레이티브 AI에 대해 물어봐야 할 4가지 필수 질문

2023년 7월 7일| 기사

에 의해 Frithjof 룬드, 다나 마오르, 니나 스필만 ,알렉산더 수카레프스키

공유하다

인쇄

구하다

이사회는 그들이 감독하는 회사에서 생성 AI가 어떻게 사용되는지에 대한 책임이 있습니다. 회사 리더에게 올바른 질문을 하면 위험을 관리하면서 기술의 가치를 발견하는 데 도움이 됩니다.

가장 인기 있는 인사이트

1. 제너레이티브 AI의 경제적 잠재력: 차세대 생산성 프론티어
2. Z 세대 방정식
3. 중간 관리자에 대한 투자는 말 그대로 효과가 있습니다.
4. 농업 전환: 지속 가능한 미래 구축
5. 허리띠 졸라매기 너머: 불확실한 시기에 마케팅이 탄력성을 높이는 방법

회사 경영진은 제너레이티브 AI를 이해하고 이에 대응하기 위해 안간힘을 쓰고 있습니다. 이 기술은 아직 초기 단계이지만 이를 사용해 본 사람들 중 모든 산업에서 운영 모델을 혼란에 빠뜨리는 그 힘을 의심하는 사람은 거의 없습니다.

우리는 최근에 CEO가 미래에 대비할 수 있는 방법에 대한 견해를 제시했습니다 .1그러나 이사회의 역할은 무엇입니까? 많은 이사회 구성원은 기술이 번개처럼 빠른 속도로 발전하고 채택되는 것처럼 보이기 때문에 생성적 AI가 불러일으킨 변화와 씨름하는 CEO를 어떻게 지원해야 할지 확신이 서지 않는다고 말합니다.

초기 사용 사례는 경외감을 불러일으킵니다. 소프트웨어 개발자는 생성 AI를 사용하여 전체 코드 라인을 생성할 수 있습니다. 로펌은 수많은 문서에서 복잡한 질문에 답할 수 있습니다. 과학자들은 새로운 단백질 서열을 만들어 약물 발견을 가속화할 수 있습니다. 그러나 이 기술은 여전히 ​​실질적인 위험을 내포하고 있어 기업은 뒤쳐질 염려(제너레이티브 AI를 비즈니스에 신속하게 통합해야 함을 의미함)와 일이 잘못될까봐 동등한 두려움 사이에 갇히게 됩니다. 문제는 제너레이티브 AI의 가치를 실현하는 동시에 위험을 관리하는 방법입니다.

이사회 구성원은 올바른 질문을 함으로써 경영진이 앞으로 나아갈 수 있도록 도울 수 있습니다. 이 기사에서는 이사회가 회사 리더에게 물어봐야 할 네 가지 질문과 구성원이 스스로에게 물어볼 질문을 제공합니다.

관리를 위한 질문

매우 큰 비정형 데이터 세트에서 훈련된 딥 러닝 모델인 생성 AI 모델은 효율성과 생산성을 높이고 비용을 절감하며 새로운 성장을 창출할 수 있는 잠재력을 가지고 있습니다. 이러한 "기초" 모델의 힘은 이전 딥 러닝 모델과 달리 분류, 편집, 요약, 질문에 답하기, 새 콘텐츠 초안 작성과 같은 하나의 기능이 아닌 여러 기능을 수행할 수 있다는 사실에 있습니다. 이를 통해 기업은 사용자가 심층 AI 및 데이터 과학 노하우가 부족하더라도 이를 사용하여 비교적 쉽게 여러 애플리케이션을 시작할 수 있습니다.

이사회 구성원은 다음과 같은 네 가지 광범위한 질문을 함으로써 이 잠재적인 힘을 신중하지만 단호하게 활용할 수 있도록 최고 경영진을 준비시킬 수 있습니다.

생성 AI는 장단기적으로 우리 산업과 회사에 어떤 영향을 미칠까요?

합리적인 제너레이티브 AI 전략을 수립하려면 기술이 장단기적으로 산업과 산업 내 비즈니스에 어떤 영향을 미칠 수 있는지 이해해야 합니다. 우리의 연구에 따르면 응용 프로그램의 첫 번째 물결은 소프트웨어 엔지니어링, 마케팅 및 판매, 고객 서비스 및 제품 개발에 있을 것입니다.2결과적으로 생성적 AI의 초기 영향은 미디어 및 엔터테인먼트, 은행, 소비재, 통신, 생명 과학 및 기술 회사와 같이 특히 이러한 기능에 크게 의존하는 산업에 있을 것입니다.

그렇더라도 다른 산업에 속한 회사는 회사의 잠재적 가치 평가를 지체해서는 안 됩니다. 기술과 채택이 너무 빠르게 진행되고 있습니다. ChatGPT의 공개용 버전은 단 두 달 만에 1억 명의 사용자를 확보하여 가장 빠르게 성장하는 앱이 되었다는 점을 상기하십시오. 그리고 우리의 연구 에 따르면 생성적 AI는 특정 사용 사례의 채택과 근로자가 일상 활동에서 기술을 사용할 수 있는 무수한 방법을 통해 전 세계적으로 최대 7조 9000억 달러의 가치를 추가하여 산업 전반에서 작업자 생산성을 높일 수 있습니다.삼각 회사는 효율성과 효과를 개선할 수 있는 즉각적인 기회를 탐색하기를 원할 것입니다. 그렇지 않은 기업은 제너레이티브 AI가 코드를 작성하는 데 도움을 주기 때문에 고객 문의에 더 정확하고 빠르게 응답하거나 새로운 디지털 제품을 더 빨리 출시하는 경쟁업체에 뒤처질 수 있습니다. 그들은 또한 학습 곡선에서 뒤쳐질 위험이 있습니다.

동시에 기업들은 더 멀리 내다보기를 원할 것입니다. 누구도 제너레이티브 AI의 전체 영향을 예측할 수는 없지만 이를 고려하는 것이 중요합니다. 경쟁 환경은 어떻게 변할 수 있습니까? 비즈니스에 어떤 이점이 있으며 어디에서 취약해 보입니까? 그리고 전략과 비즈니스 모델을 미래에 대비할 수 있는 방법이 있습니까?

QuantumBlack, AI by McKinsey 에 대해 더 알고 싶습니까 ?

적절한 위험 관리와 가치 창출의 균형을 맞추고 있습니까?

제너레이티브 AI에 의해 열린 새로운 지평에 대한 평가는 관리 팀이 혁신을 시작하고 그 가치를 포착하기를 열망하게 만들 것입니다. 그러나 생성적 AI는 잘 관리되지 않으면 가치와 평판을 파괴할 가능성이 있기 때문에 그러한 열의에는 주의가 수반되어야 합니다. 이는 기존 AI와 동일하고 더 많은 위험을 초래합니다.

기존 AI와 마찬가지로 생성 AI는 교육 데이터에 숨겨진 편견을 영속화할 가능성과 같은 개인 정보 보호 문제와 윤리적 위험을 제기합니다. 그리고 더 많은 공격 영역과 새로운 형태의 공격을 열어 보안 침해의 위험을 높입니다. 예를 들어 딥페이크는 회사 리더 사칭을 단순화하여 평판 위험을 높입니다. 제너레이티브 AI 모델에서 수집한 데이터를 사용하여 저작권, 상표권, 특허 또는 법적으로 보호되는 자료를 침해할 위험과 같은 새로운 위험도 있습니다.

Generative AI는 또한 환각하는 경향이 있습니다. 즉, 부정확한 정보를 생성하여 너무 자연스럽고 권위 있어 보이는 방식으로 표현하여 부정확성을 감지하기 어렵습니다. 이는 기업뿐만 아니라 사회 전체에 위험할 수 있습니다. 제너레이티브 AI가 잘못된 정보를 퍼뜨릴 수 있다는 우려가 널리 퍼져 있으며 일부 업계 전문가들은 적절하게 규제되지 않으면 팬데믹이나 핵전쟁만큼 사회에 위험할 수 있다고 말했습니다.4

따라서 기업은 각 사용 사례의 가치와 위험을 이해하고 이것이 회사의 위험 허용 범위 및 기타 목표와 어떻게 일치하는지 결정해야 합니다. 예를 들어 지속 가능성 목표와 관련하여 상당한 컴퓨팅 용량이 필요하기 때문에 생성 AI가 환경에 미치는 영향을 고려할 수 있습니다.

거기에서 이사회는 회사가 회사 전체에서 가정할 수 있는 생성적 AI 위험에 대한 법적 및 규제 프레임워크를 확립했으며 회사 내 AI 활동이 지속적으로 검토, 측정 및 감사된다는 점을 만족시켜야 합니다. 그들은 또한 아직 잘 이해되지 않았거나 명백하지 않은 위험과 윤리적 문제를 지속적으로 탐색하고 평가할 수 있는 메커니즘이 마련되어 있는지 확인하기를 원할 것입니다. 예를 들어 기업은 환각을 발견하고 잘못된 정보가 부정확하거나 유해한 행동을 유발하는 위험을 완화하기 위한 프로세스를 어떻게 수립할 것인가? 기술이 고용에 어떤 영향을 미칠까요? 그리고 이 기술을 사용하는 제3자가 제기하는 위험은 무엇입니까? 문제가 있을 수 있는 위치에 대한 초기의 명확한 시각이 문제를 해결하는 열쇠입니다.

결론은 AI는 항상 그것을 설계하고 사용하는 사람들의 효과적인 감독을 받아야 한다는 것입니다. 이러한 노력에 대한 지원은 생성적 AI를 사용하고 적용하는 방법에 대해 개발 중인 정부 규제 프레임워크 및 지침에서 나올 수 있습니다. 기업들이 이러한 것들을 따라잡는 것이 중요할 것입니다.

생성 AI를 위해 어떻게 구성해야 합니까?

많은 회사가 이전 세대의 AI 기술을 구현하기 위해 실험적인 접근 방식을 취했으며, 그 가능성을 탐구하는 데 가장 열심인 회사는 조직의 주머니에서 파일럿을 시작했습니다. 그러나 제너레이티브 AI 내 개발 속도와 이로 인해 발생하는 위험을 고려할 때 기업은 보다 조율된 접근 방식이 필요합니다. 파일럿 모드에 갇히는 것은 실제로 선택 사항이 아닙니다. 실제로 한 다국적 기업의 CEO는 50명의 비즈니스 리더에게 지체 없이 두 가지 사용 사례를 완전히 구현하도록 요청하기까지 했습니다. 그러한 그의 확신은 생성 AI가 빠르게 경쟁 우위를 제공할 것이라는 확신이었습니다.

회사 리더는 모든 제너레이티브 AI 활동을 감독하고 통제할 책임을 지는 한 명의 고위 임원을 임명하는 것을 고려해야 합니다. 현명한 두 번째 단계는 데이터 과학, 엔지니어링, 법무, 사이버 보안, 마케팅, 디자인 및 기타 비즈니스 기능을 대표하는 고위 직원으로 구성된 교차 기능 그룹을 구축하는 것입니다. 이러한 팀은 전략을 빠르고 광범위하게 공식화하고 구현하기 위해 협력할 수 있습니다.

기초 모델은 조직 전체에서 여러 사용 사례를 뒷받침할 수 있으므로 이사회 구성원은 임명된 제너레이티브 AI 리더에게 조직이 조정된 접근 방식을 취하도록 요청하기를 원할 것입니다. 이를 통해 빠르고 효과적인 결과를 제공하는 사용 사례의 우선 순위를 지정할 수 있습니다. 이후에 더 복잡한 사용 사례를 개발할 수 있습니다. 중요한 점은 조정된 접근 방식을 통해 예상되는 모든 위험을 전체적으로 파악할 수 있다는 것입니다.

이사회는 또한 예를 들어 특정 부문에 대한 모델을 맞춤화하는 공급자 또는 확장 가능한 클라우드와 같은 기능을 제공하는 인프라 공급자와 광범위한 파트너십 및 제휴 관계를 수립하기 위한 전략이 있는지 확인하고자 할 것입니다. 컴퓨팅. 올바른 전문가와의 올바른 파트너십은 기업이 벤더 종속을 방지하고 가능한 제3자 위험을 감독하기를 원할지라도 기업이 제너레이티브 AI에서 가치를 창출하도록 신속하게 이동하는 데 도움이 될 것입니다.

이사회 거버넌스

기업 이사회, CEO 및 경영진을 위한 통찰력 모음으로 이사회 효율성을 개선하는 데 도움이 됩니다.

컬렉션 살펴보기

필요한 기능이 있습니까?

제너레이티브 AI와 보조를 맞추기 위해 기업은 세 가지 측면에서 조직의 역량을 검토해야 할 수 있습니다.

기술

첫 번째 전선은 기술입니다. 최신 데이터 및 기술 스택은 제너레이티브 AI 사용 성공의 열쇠가 될 것입니다. 기초 모델은 광범위한 사용 사례를 지원할 수 있지만 가장 영향력 있는 모델 중 다수는 종종 독점적인 추가 데이터가 제공되는 모델입니다. 따라서 아직 조화를 이루고 데이터에 대한 즉각적인 액세스를 제공하는 방법을 찾지 못한 기업은 생성 AI의 잠재적인 변형 능력을 상당 부분 활용할 수 없습니다. 마찬가지로 중요한 것은 데이터 거버넌스를 포함하는 확장 가능한 데이터 아키텍처를 설계하는 능력입니다.및 보안 절차. 사용 사례에 따라 기존 컴퓨팅 및 도구 인프라도 업그레이드해야 할 수 있습니다. 관리 팀은 필요한 컴퓨팅 리소스, 데이터 시스템, 도구 및 모델에 대해 명확히 알고 있습니까? 그리고 그것들을 획득하기 위한 전략이 있습니까?

재능

다른 변화와 마찬가지로 생성 AI를 도입하려면 조직의 재능에 대한 재평가도 필요합니다. 기업은 데이터와 AI가 큰 역할을 하는 세상에서 경쟁하기 위해 인력을 재교육 해야 한다는 것을 알고 있지만 많은 사람들이 필요한 인력을 유치하고 유지하는 데 어려움을 겪고 있습니다. 생성 AI를 사용하면 도전이 더욱 어려워집니다. 일부 역할은 사라지고 다른 역할은 근본적으로 달라지며 일부는 새로운 역할이 될 것입니다. 이러한 변화는 지금까지 AI의 경우보다 더 많은 영역의 더 많은 사람들에게 더 빠르게 영향을 미칠 것입니다.

필요한 정확한 새로운 기술은 사용 사례에 따라 다릅니다. 예를 들어 사용 사례가 비교적 간단하고 기성 기반 모델에서 지원할 수 있는 경우 제너럴리스트는 데이터 및 소프트웨어 엔지니어의 도움을 받아 작업을 주도할 수 있습니다. 그러나 의약품 개발의 경우와 같이 고도로 전문화된 데이터가 있는 경우 회사는 처음부터 생성 AI 모델을 구축해야 할 수 있습니다. 이 경우 회사는 기계 학습에서 박사 수준의 전문가를 고용해야 할 수 있습니다.

따라서 이사회는 경영진에게 AI 채용 요구 사항을 동적으로 이해하고 있는지, 그리고 이를 이행하기 위한 계획이 있는지 질문하고 싶어할 것입니다. 또한 기존 인력은 제너레이티브 AI를 일상 업무에 통합하고 일부 근로자가 새로운 역할을 맡을 수 있도록 교육을 받아야 합니다. 그러나 기술 능력만이 유일한 고려 사항은 아닙니다. 생성 AI는 틀림없이 기술의 기능을 보완하기 위해 보다 발전된 분석 및 창의적 기술에 프리미엄을 부여하기 때문입니다. 따라서 인재 모델을 변경해야 할 수도 있지만 최근 세계 경제 포럼에서 제기된 주의 사항을 고려하면 AI를 주니어 수준 인재의 작업 대신 사용하면 차세대 크리에이터, 리더 및 관리자.5

조직 문화

마지막으로, 기업의 문화는 제너레이티브 AI로 얼마나 성공할지 결정합니다. 혁신과 변화에 어려움을 겪는 기업은 보조를 맞추는 데 어려움을 겪을 것입니다. 큰 질문이지만 성공의 열쇠가 될 학습 문화가 회사에 있습니까? 그리고 회사는 책임감과 책임감을 공유하고 있습니까? 이러한 공유된 의미가 없으면 기술과 관련된 윤리적 위험에 더 많이 노출될 가능성이 높습니다.

두 질문 모두 이사회가 관리 팀이 검토하도록 유도하는 것을 고려해야 하는 문화적 문제와 관련되어 있습니다. 발견한 내용에 따라 회사 문화를 재구성하는 것이 시급한 작업이 될 수 있습니다.

이사회에 대한 질문

이사회는 제너레이티브 AI에서 가치를 창출하고 위험을 관리하는 데 있어 CEO를 지원하려고 노력할 때 예비적이고 근본적인 질문을 스스로에게 던지고자 할 것입니다. 우리는 그러한 지원을 제공할 준비가 되어 있습니까?

이사회 구성원이 제너레이티브 AI와 그 의미를 이해하지 않는 한 회사의 제너레이티브 AI 전략과 투자, 위험, 인재, 기술 등에 관한 관련 결정이 조직과 이해관계자에게 미치는 영향을 판단할 수 없습니다. 그러나 이사회 멤버들과의 대화에서 많은 이들이 이러한 이해가 부족함을 인정한다는 사실이 드러났습니다. 이 경우 이사회는 문제를 개선하기 위해 세 가지 방법을 고려할 수 있습니다.

첫 번째 옵션은 이사회 구성을 검토하고 필요에 따라 조정하여 충분한 기술 전문성을 확보하는 것입니다. 과거 기업들이 이사회 구성원에게 요구되는 보다 폭넓은 비즈니스 전문성을 갖춘 기술 전문가를 찾는 데 어려움을 겪을 때 일부는 제너레이티브 AI 전문가를 포함하는 기술 자문 위원회를 구성하여 추가 지원을 받았습니다. 그러나 생성 AI는 예를 들어 위험, 보상, 인재, 사이버 보안, 재무 및 전략과 같은 회사 운영의 모든 측면에 영향을 미칠 가능성이 높습니다. 따라서 전체 이사회와 모든 위원회가 그 의미를 적절하게 고려할 수 있도록 AI 전문 지식이 널리 보급되어야 합니다.

둘째, 이사회는 제너레이티브 AI에 대한 구성원의 이해를 향상시킬 수 있습니다 . 회사 자체 전문가와 개발 최전선에 있는 외부 전문가가 진행하는 교육 세션을 통해 이사회 구성원은 제너레이티브 AI의 작동 방식, 비즈니스에 적용할 수 있는 방법, 위험에 처한 잠재적 가치, 위험 및 위험 요소에 대해 이해할 수 있습니다. 기술의 진화.

셋째, 이사회는 제너레이티브 AI를 자체 작업 프로세스에 통합할 수 있습니다. 이사회실에서의 실무 경험은 기술에 대한 친숙함과 그 가치와 위험에 대한 인식을 구축할 수 있습니다. 더욱이, 생성적 AI는 의사 결정을 개선할 수 있기 때문에 이사회가 최선을 다해 직무를 수행하는 데 도움이 되는 잠재력을 탐색하지 않는 것은 태만입니다. 예를 들어 전략적 문제에 대한 추가 중요한 질문을 표시하거나 결정을 내릴 때 고려해야 할 추가 관점을 제공하는 데 사용할 수 있습니다.

---

제너레이티브 AI는 빠르게 발전하고 있으며 기업은 속도와 혁신의 균형을 신중하게 유지해야 합니다. 이사회의 역할은 조직이 이 최신 기술 개발의 최전선에 있으면서도 위험을 강력하게 염두에 두도록 관리 팀에 건설적으로 도전하여 이러한 일이 발생하도록 하는 것입니다. 물론 여기에서 제기된 질문은 완전한 것이 아니며 기술이 발전함에 따라 더 많은 질문이 제기될 것입니다. 그러나 그들은 시작하기에 좋은 곳입니다. 궁극적으로 이사회 구성원은 자신이 감독하는 회사에서 제너레이티브 AI가 어떻게 사용되는지에 대한 책임이 있으며, 그들이 받은 답변은 그들이 그 책임을 현명하게 수행하는 데 도움이 될 것입니다.