인간 중심 AI: 사람을 먼저 생각하는 힘

[힘힘]

인간 중심 AI: 사람을 먼저 생각하는 힘

2023년 12월 11일| 팟캐스트

공유하다

인쇄

구하다

AI에 대한 사람 중심의 접근 방식은 일자리를 더 나은 방향으로 변화시키고 성과도 향상시킬 수 있습니다.

'루프 속의 인간': 이는 생성 AI의 새로운 시대를 위한 불안을 완화하는 주문입니다. 그러나 그것은 실제로 무엇을 의미합니까? McKinsey Talks Talent 의 이번 에피소드에서는 스탠포드 대학의 Melissa Valentine 교수가 McKinsey 파트너인 Bryan Hancock 및 Brooke Weddle과 글로벌 편집 이사 Lucia Rahilly와 함께 인간 중심 인공 지능이 무엇인지, 성능을 어떻게 향상시키는지, 그리고 어떻게 작동하는지에 대해 논의합니다. 변덕스러운 직원의 사고방식을  "으으"에서 "와우"로 바꾸는 데 도움이 될 수 있습니다 .

이 내용은 명확성과 길이를 위해 편집되었습니다.

인간 중심 AI란?

가장 인기 있는 통찰력

1. 생성 AI의 경제적 잠재력: 차세대 생산성 개척지
2. 2024년 패션 현황: 불확실성이 지배하는 가운데 성장 기회 찾기
3. 조직에 COO가 있는 이유는 무엇입니까?
4. 은행에서 생성 AI의 전체 가치 포착
5. 최고혁신책임자는 어떤 일을 하나요?

Lucia Rahilly: AI, 특히 생성 AI는 지난 한 해 동안 비즈니스 및 인기 어휘로 폭발적으로 증가했습니다. 멜리사 씨, “인간 중심 AI”에 대해 이야기해 주세요. 특정 용어를 사용할 때 무엇을 의미합니까?

멜리사 발렌타인: 디자인의 다양한 패러다임을 나타내는 다양한 측면이 있습니다. 하지만 생각해보면 인간의 능력을 강화하는 데 정말로 초점을 맞춘다면 그것이 바로 인간 중심의 AI입니다.

그래서, 생성적 AI; 그것은 단지 데이터일 뿐입니다 . 그것은 단지 언어 모델일 뿐입니다. 그러나 그것은 또한 우리가 잠재력을 보는 일을 실제로 성취하기 위해 주변에서 일어나야 하는 모든 사회적 장치이기도 합니다.

Lucia Rahilly: 연구를 통해 우리는 무엇을 알 수 있나요? 사람들은 실제로 직장 내 AI  와 AI가 업무에 가할 가능성이 있는(또는 가능성이 없는) 위협을 그렇게 두려워합니까 ?

멜리사 발렌타인: 생성 AI의 잠재력은 사람들이 쉽게 이해할 수 있습니다. 모든 사람이 자신의 업무를 돕는 "쌍 AI"를 갖고 있어도 별로 위협적이지 않습니다. 슬라이드 데크를 만드는 것이 훨씬 더 빨라지거나 이메일이 자동 완성되는 등 우리가 보고 있는 현상을 사람들이 걱정하는 실존적 일자리 상실감과 연결하는 것이 조금 더 어렵다고 생각합니다. 두려움에 대한 수사가 일어나고 있는 곳이 바로 그곳입니다. 거시경제학적 의미에서 미래에 일자리가 없을 것이라는 두려움입니다. 지역 입양은 사람들에게 덜 위협적인 것 같습니다.

90년대에는 디지털 기술을 연구하는 노동경제학자와 직업 연구자들이 온라인에 많이 등장했습니다. 그들이 기록하고 있는 추세는 일부 직업이 재교육을 받고(증강됨) 일부 직업이 전문 기술을 습득했다는 것입니다. 그리고 일부 새로운 직업이 온라인에 등장했습니다. 보시다시피, 90년대의 일자리 감소 예측은 더 격변적인 예측이 예측한 대로 진행되지 않았습니다. 하지만 90년대부터 지금까지 직업에는 많은 변화가 있었습니다. 무슨 일이 일어났는지는 심오합니다.

많은 변화가 있을 것입니다. 이것이 바로 지금의 논의입니다. 이것이 지속적인 변화일까요? 직업의 모습에 큰 변화가 있지만 전반적으로 사회적 일자리 손실이 없는 과거와 같을까요?

'으으'에서 '와'로 옮겨가는 중

Lucia Rahilly: 직장에서의 생성 AI 도입에 대한 회의론을 해결하고 초기 저항을 극복하는 방법은 무엇입니까?

멜리사 발렌타인: 저는 샌프란시스코에 있는 Stitch Fix라는 기술 회사에서 연구를 했는데, 그 회사의 데이터 과학 팀 중 하나를 선택하여 연구했습니다. 그들은 새로운 알고리즘을 개발하고 직원들이 이를 채택하도록 돕기 위해 노력하고 있었습니다. 연구가 끝날 무렵에는 대규모 부서 전반에 걸쳐 광범위하게 채택되었으며 실제로 직원들의 재교육이 이루어졌습니다.

주요 조치 중 팀은 데이터 과학 도구 키트를 염두에 두고 인력이 무엇을 하고 있는지 살펴보고 스스로에게 질문했습니다. “우리 팀이 목표를 더 잘 달성하도록 어떻게 도울 수 있을까? 사람들의 분석을 실제로 강화하기 위해 이러한 데이터 과학 기능 중 일부를 어떻게 사용할 수 있습니까?” 그들의 모든 구성은 새로운 기능이라는 측면에서 이루어졌습니다. 사람들이 이 모든 것을 더 잘 수행하도록 어떻게 도울 수 있습니까? 나는 그것이 핵심이라고 생각한다.

두 번째로 강력해 보이는 부분은 정말 재능 있는 사용자 인터페이스(UI) 수석 개발자가 있다는 점이었습니다. 사용자들은 스티치 픽스 패션 구매자들이기 때문에 재고를 구매하곤 했습니다. 수석 개발자는 의사 결정을 안내하는 피벗 테이블과 함께 회사가 재고에 저장하고 있는 모든 것에 대한 구매 팀 사진을 보여주는 UI를 구축했습니다. 그리고 구매팀이 선택하는 아이템의 양에 따라 옷을 묘사하는 거품이 더 커지곤 했습니다.

구매자는 이것을 좋아했습니다. 알고리즘이 수행하는 작업이 실제로 잠금 해제되었습니다. 이는 그들이 입력한 내용을 탐색하는 것을 훨씬 더 쉽게 만들었습니다. 이를 통해 알고리즘이 권장하는 내용을 탐색할 수 있습니다. 결정을 내리는 데 있어 다양한 방법을 시도해 볼 수 있었습니다. 그래서 새로운 기능을 제공하는 것을 중심으로 모든 것이 실제로 설정되었습니다. UI는 기술을 채택하는 데 강력한 도움이 되었습니다.

McKinsey Talks Talent 팟캐스트 구독

Google 팟캐스트애플 팟캐스트스포티 파이RSS

브라이언 핸콕: 제너레이티브 AI에 관해 고객과의 대화는 때때로 "자동화 잠재력은 무엇입니까?"라는 질문으로 시작됩니다. 비용 절감 효과는 무엇입니까?” 하지만 대화가 끝날 무렵에는 “잠깐만요. 여기서 수익 잠재력은 무엇입니까 ? 왜냐하면 저는 우리가 더 잘 판매하고, 시장에 더 잘 적응하고, 추세를 더 잘 파악하고, 여러 소스에 걸쳐 정보를 더 잘 종합하여 궁극적으로 고객에게 더 나은 서비스를 제공하고 수익을 늘릴 수 있는 진정한 기회가 있다고 생각하기 때문입니다."

그런 다음 회의실의 에너지는 "그래, 그게 역할이고, 그게 임무이고, 그게 부분이야"라는 "으으" 대화에서 "와, 우리가 갈 수만 있다면 여기에는 미개척된 시장 기회에 대한 엄청난 잠재력이 있습니다"로 전환됩니다. 그 후에.” 역량이 수익 성장과 흥분으로 이어지는 경우도 비슷합니까?

멜리사 발렌타인: 네, 맞습니다. 그것은 그것을 표현하는 좋은 방법입니다.

AI를 부조종사로 활용하여 역할 재검토

Lucia Rahilly: Melissa, Gen AI 채택이 직원의 자기 정체성에 영향을 받나요? 저는 특히 사람들이 알고리즘을 혐오스러운 것으로 간주하거나 상상력이나 독창성을 대체할 수 없는 것으로 간주할 수 있는 창의적인 분야에 대해 생각하고 있습니다. 또는 패션의 경우에도 수년간의 경험과 통찰력 때문에 어렵게 얻은 것입니다.

멜리사 발렌타인: 네, 저는 직업적 정체성의 중요성이 실제로 충분히 탐구되지 않았다고 생각합니다. 그 이유는 대부분 이러한 것들이 새로운 것이고 정체성이 발전할 시간이 없었기 때문입니다.

NASA 팀이 온라인에 문제를 게시하면 외부 사람이 이를 해결할 수 있는 개방형 혁신 플랫폼을 사용하는 방법을 어떻게 배우는지를 살펴보았던 NYU의 훌륭한 연구가 생각납니다. 이는 스스로 문제를 해결하는 데 익숙한 과학자들에게는 매우 위협적인 일입니다. NASA 과학자들의 정체성이 문제를 해결하는 사람에서 해결책을 찾는 사람으로 바뀌는 5년의 기간이었다고 생각합니다.

스티치픽스에 갔을 때도 비슷한 걸 봤어요. 내 연구는 약 18개월 동안 끝났기 때문에 연구가 끝날 때까지 정체성이 완전히 진화했다고는 말할 수 없습니다. 하지만 나는 당신이 말하는 정체성 갈등을 보았습니다. 왜냐하면 사람들은 최적화 모델을 원하기 때문에 패션에 관심을 두지 않기 때문입니다. 그들은 패션을 사랑하기 때문에 패션에 뛰어든다. 그래서 최고의 패션 바이어들도 패셔너블했습니다. 그리고 그들은 벤더들과 정말 좋은 관계를 갖고 있었고 업계에서 무슨 일이 일어나고 있는지에 대해 잘 알고 있었습니다.

하지만 이들은 이 대시보드에 있어야 위험과 불확실성을 살펴보고 "어떻게 최적화하고 있나요?"라고 질문해야 하는 사람들입니다. 그리고 내가 만들고 있는 절충안은 무엇입니까?” 훌륭한 패션 구매자가 된다는 것의 의미와 데이터를 전략적으로 사용하고 의사 결정 및 전략적 절충을 지원한다는 의미를 통합해야 한다는 것은 정말로 변화였습니다.

브라이언 핸콕: 부조종사가 정체성과 교차한다는 아이디어에 대해 어떻게 생각하시나요?

멜리사 발렌타인: 모든 재무 지표 계산과 같이 처음에 하기 싫은 작업을 부조종사가 수행한다면 만족스러울 것입니다. 하지만 당신이 패션 전문가인데 갑자기 당신의 부조종사가 당신을 위해 옷을 디자인한다면 그것은 무엇을 의미합니까? 그게 당신의 신원에 어떤 영향을 미치나요?

브라이언 핸콕: 정말 흥미롭습니다. “그보다 글을 더 잘 써야 한다”는 이유로 학생들에게 생성적 AI 도구를 사용하도록 독려했던 한 대학교 영어 교수에 관해 읽은 기사가 생각납니다. 이것은 기준선입니다. 이것이 시작이다. 이것은 대체되지 않습니다. 당신은 인간의 통찰력과 이해력을 제공하고 있습니다. 이것이 바로 위에 쌓는 방법입니다. Gen AI의 가장 큰 잠재력 영역 중 일부는 마케팅, 영업, 커뮤니케이션 분야입니다.

멜리사 발렌타인: 마찬가지로 우리 제품 중 어느 것이 생성 AI의 초안일 뿐인데 충분히 좋은지 궁금합니다. 그리고 많은 프로토타입 제작, 상호 작용, 인간의 통찰력, 창의성을 통해 실제로 어떤 제품을 혁신하고 향상시키겠습니까?

Brooke Weddle: 또한 어떻게 하면 편견에 대한 보다 통찰력 있는 렌즈를 가져오고 해당 편견의 영향을 조사할 수 있습니까? 즉, 생성 AI에서 최대 가치를 얻기 위한 기술로 연마해야 하는 비판적 사고 계층을 갖추는 것입니까?

멜리사 발렌타인: 전적으로 동의합니다. 여기에 추가될 흥미로운 점은 영향을 평가하는 방법을 알아내는 것입니다. Stitch Fix 연구로 돌아가서 패션 구매자가 배워야 하는 기술에는 직관의 영향을 측정하기 위해 알고리즘을 사용하는 방법이 포함되었습니다.

이 경우에는 생성 AI가 아니었습니다. 알고리즘은 권장 사항을 제시하고 해당 권장 사항과 관련된 측정 항목을 표시합니다. 구매자가 들어가서 권장 사항을 덮어쓰게 됩니다. 그러면 알고리즘은 자동으로 사용자에게 “좋아요, 여기서 직관을 강요하고 있습니다. (여기서 숫자를 만들어낸 것뿐입니다) 1달러의 수익이 발생하게 됩니다.” 그러면 구매자는 "그래, 그럴만한 가치가 있어"라고 말할 수 있습니다. 그래서 그들은 알고리즘 개입에 1달러의 비용이 얼마나 드는지 평가하고 있었습니다.

알고리즘이 내놓는 모든 것에 인간 개입이 미치는 영향을 측정하는 방법을 배우는 것은 생성 AI의 경우에도 필요한 기술입니다.

Gen AI와 조직문화

Brooke Weddle: 더 넓은 조직 문화의 관점에서 볼 때, 부조종사가 있고 가격 인하에 대한 조언을 한다면 가격 책정 부서나 재무 부서와 교류할 가능성이 줄어들까요? 이 부조종사를 통해 사람들을 활성화함으로써 우리가 만들고 있는 사일로가 있습니까? 그리고 우리 모두는 조직이 일련의 가치에 기반을 두고 있다는 것을 알고 있습니다. 회사가 잘 돌아가려면 신뢰가 중요하고 관계가 중요합니다. 그것에 대해 어떤 생각이 있나요?

멜리사 발렌타인: 네, 물론이죠. 일부 회사가 작업자를 위한 대화형 알고리즘 데이터 제품인 평가 시스템으로 알고리즘을 설정한 방식에 대해 잠시 생각해 보겠습니다. 모든 종류의 평점과 데이터가 함께 제공되는 Trip Advisor가 좋은 예입니다. 호텔은 Trip Advisor 점수에 반응하려고 할 때 이러한 알고리즘에 의해 수집된 모든 데이터가 어디서 왔는지 알 수 없습니다. 그래서 그들은 더 나아지는 방법을 배우기 위해 노력하는 불투명한 알고리즘을 가지게 됩니다.

호텔의 예를 사용하는 이유는 사람들이 호텔이 트립 어드바이저를 상대하는 것과 비교하여 전문 평가자로부터 변경 사항에 대한 목록을 얻는 것이 어떤 것인지 상상할 수 있기 때문입니다. 그러나 특히 온라인 노동 시장의 근로자들에게도 동일한 역학이 일어나고 있습니다. 그들은 자신이 어떻게 지내는지 평가하는 하나의 점수를 얻습니다. 그리고 사람들이 더 나아지는 방법을 배우는 것은 꽤 어려웠습니다. 전문적인 관리자가 없을 때, 즉 더 나아진다는 것이 무엇을 의미하는지 알려주는 알고리즘만 있다면 그것은 무엇을 의미합니까?

브라이언 핸콕: 멜리사님, 제가 생각하게 된 것은 사람들이 구조화되지 않은 모든 데이터와 의견을 선별하고 수행해야 할 작업 목록을 가져오는 데 도움이 되는 대규모 언어 모델의 잠재력입니다.

관리자가 관심을 갖는 사용 사례 중 하나는 직원 불만입니다. 한 지역을 담당하는 사람은 수천 명의 직원을 보유할 수 있습니다. 불만은 일회성입니까, 아니면 추세입니까? 그리고 이를 빠르게 이해하는 데 도움이 되도록 데이터에서 수집할 수 있는 것이 있습니까? 미래의 기술이 데이터를 분석하면서 “야, 저 조각은 이상한 것 같은데.”라고 말할 수 있을 것이라는 약속이 있습니까? Glassdoor 어디에서도 볼 수 없으며 설문 조사나 다른 곳에서도 볼 수 없습니다.” 또는 "실제로 주제별로 직원 설문조사에서 나온 네 가지 내용과 온라인에서 보는 내용, Reddit에서 보는 내용이 있습니다."라고 말할 수도 있습니다.

이러한 기술 중 일부가 현재 일어나고 있는 일의 이면에 있는 더 많은 정보와 수행할 작업에 대한 권장 사항을 제공할 수 있는지 궁금합니다.

멜리사 발렌타인: 당신이 요구하는 것은 – 내 생각에는 이것이 전적으로 옳다고 생각합니다 – 모든 정보, 작용하는 모든 감정, 배울 수 있는 것을 상상하는 것입니다.

McKinsey Talks Talent 팟캐스트

Bryan Hancock, Bill Schaninger 및 기타 인재 전문가는 인재를 경쟁 우위로 활용하여 빠르게 변화하는 환경을 탐색하고 업무의 미래를 준비하도록 돕습니다.

더 많은 에피소드 보기

Lucia Rahilly: 사람들은 알고리즘을 통해 표면화되는 이러한 종류의 불만을 바탕으로 Gen AI가 HR에 누구를 고용할지, 더 불길하게도 누구를 해고할지 말할 수 있다는 것을 두려워합니까 ?

멜리사 발렌타인: 훨씬 더 많은 감시, 훨씬 더 자동화된 고용 및 해고 등 분명히 사람들이 이에 저항하는 것을 보게 될 것입니다. 그것은 사물을 구성하는 공감적인 방법이 아닙니다. 하지만 같은 조직 내에서 일부 직업은 자율성이 높아 강화될 가능성이 높습니다. 그리고 훨씬 더 많은 감시, 훨씬 더 많은 알고리즘 관리, 훨씬 더 많은 알고리즘 제어의 불쾌한 측면을 받는 낮은 지위의 직업을 가질 수도 있습니다.

신문에서 잘 알려진 사례는 봇에 의해 해고되어 아무런 도움도 받지 못한 운전자입니다. 그는 무슨 일이 일어났는지 알아보기 위해 인사팀과 대화조차 할 수 없었습니다. 내 생각에 우리는 많은 저항을 받고 있는 것 같습니다.

Brooke Weddle: 생성적 AI에 대해 생각하는 한 가지 방법은 이러한 제어 프레임을 사용하는 것이고, 또 다른 방법은 이러한 접근 방식을 사용하여 직원들을 새로운 방식, 생산적인 방식으로 자극하여 번아웃에서 번성하도록 하는 것입니다.

제가 함께 일하고 있는 조직 중 하나는 모든 맥박 데이터를 수집하고 팀이 생산적인 결과를 도출하는 데 도움이 되는 관행에 대한 경영 과학과 결합하여 새로운 관리 운영 모델이라고 부를 수 있는 것을 구축하려고 노력하고 있습니다. 명확하게 말하면 관리자 동의, 직원 동의를 양성하고 이를 양방향으로 만드는 방법을 곰곰이 생각해 볼 필요가 있습니다. 나는 그것이 절대적으로 그것의 일부라고 생각합니다. 하지만 직원들이 스스로 최고의 모습을 갖추도록 유도하는 시스템을 상상할 수도 있습니다.

그것이 바로 큰 아이디어입니다. 제 생각엔 꽤 흥미로운 일인 것 같아요. 그러나 분명히 해결해야 할 지뢰밭이 많이 있으며 이를 제어 상태가 아닌 활성화 상태로 만듭니다.

조직 디자인의 미래

브라이언 핸콕: 제가 기대하는 것 중 하나는 생성 AI를 디자인 관리 역할에 적용한다는 아이디어입니다. 관리자가 하기 싫어하는 모든 일을 살펴보고 AI를 사용하여 이러한 관리 작업 중 일부를 제거해 보겠습니다. 관리자들이 하는 일을 없애기 위해 디자인 렌즈를 사용하는 것에 대한 여러분의 생각을 듣고 싶습니다.

Melissa Valentine: 중간 관리자를 실제로 조사하기 위해 생성 AI를 사용하는 디자인 사고는 정말 스마트하다고 생각합니다. 현재 많은 초점은 일선 의사 결정, 의사 또는 제가 이야기했던 사람들, 즉 패션 구매자, 머천다이저 및 가격 책정 알고리즘에 있습니다. 하지만 제가 정말 매료된 점은 관리자들이 정기적으로 조직 설계 결정을 내린다는 것입니다. 그리고 조직 설계는 과학이 아닙니다. 그것은 예술이다. 따라서 관리자가 좀 더 데이터 중심적이거나 자신이 내린 조직 설계 결정에 대해 좀 더 실증적인 통찰력을 갖고 있다면 정말 흥미로운 일이 벌어질 것이라고 생각합니다. 나는 그것을 보고 싶습니다.

Lucia Rahilly: 멜리사, 조직 설계 문제에 관해 AI 또는 Gen AI가 회사 직원의 프로젝트 작업 방식을 바꿀 수 있는 방식의 예는 무엇입니까? 그리고 저는 특히 플래시 팀과 플래시 조직에서 진행해 왔던 실험에 대해 생각하고 있습니다.

멜리사 발렌타인: 플래시 팀을 사용하면 기업이 작업을 수행하고 봇이 들어와서 더 중앙 집중화된 의사 결정, 의사 결정 시 더 많은 차례차례 수행 등 시도해야 할 새로운 작업을 추천합니다. 즉, 작은 개입.

시간이 지남에 따라 우리는 팀이 이러한 권장 사항을 실험하도록 도울 수 있었고 특히 조직 설계에 대한 권장 사항을 받은 팀이 더 나아졌다는 것을 보여줄 수 있었습니다. 프로젝트에 플래시 팀을 배치하고 배치함으로써 소프트웨어 플랫폼은 다양한 역할의 필요성을 예측한 다음 노동 시장에 접근하여 자동으로 팀을 구성할 수 있습니다. 팀을 하나로 모으고 시간이 지남에 따라 팀의 작업을 구조화할 수 있습니다. 예를 들어, 누가 누구에게 언제 전달해야 하는지, 작업을 어디에 업로드해야 하는지, 이 경우 관리자는 누구인지 등을 보여줍니다.

브라이언 핸콕: 프리랜스 마켓플레이스를 주로 활용하고 있나요? 아니면 플래시 팀을 끌어들이기 위해 노동 시장을 활용하는 다른 방법이 있습니까?

Melissa Valentine: 우리는 플래시 팀을 내부적으로 배포하는 회사를 대상으로 연구를 수행했습니다. 과거에는 노동 시장이 온라인에 있고 스마트 플랫폼을 갖추고 있기 때문에 이를 수행하는 것이 더 쉬웠습니다. 하지만 대기업이나 내부 인력과 함께라면 여전히 할 수 있습니다.

데이터 개인 정보 보호 및 기타 위험

Lucia Rahilly: 우리가 이야기하는 모든 것은 데이터에 달려 있으며, 데이터의 확산과 데이터 확산의 가속화에 관한 것입니다. HR 측면에서 데이터 개인 정보 보호 위험을 어떻게 평가합니까?

Brooke Weddle: 이는 HR 측면뿐만 아니라 생성 AI 데이터에 대한 대화의 100%에 나오는데, 이는 물론 매우 중요합니다. 하지만 경쟁사에 서비스를 제공하는 사람들이 있는 McKinsey 환경에서도 마찬가지입니다. 데이터를 어떻게 신중하게 분류합니까?

특정 데이터는 대체 가능하고 이식 가능하며 다른 데이터는 그렇지 않도록 한 가지 방식으로 데이터에 태그를 어떻게 지정합니까? 그 전화는 누가 하는 걸까요? 여러 국가에 걸쳐 전 세계적으로 어떻게 이를 수행합니까? 많은 사람들이 이미 생각하고 있는 정말 복잡한 과제지만, 방정식의 생성 AI 부분과 그 영향을 얻는 데 매우 근본적인 과제입니다.

멜리사 발렌타인: 물론이죠. 사람들이 프롬프트 질문을 입력하는 것처럼 말이죠. 그것은 여전히 ​​​​회사에 대해 말하고 있습니다.

브룩 웨들: 네, 100퍼센트요.

브라이언 핸콕: 위험에 대해 더 광범위하게 생각하게 됩니다. 이전 팟캐스트에서 이에 대해 언급한 적이 있지만, 제가 걱정하는 것 중 하나는 우리가 덜 흥미로워질 위험이 있다는 것입니다. 탁월한 답변과 탁월한 결과를 만들어내기 위해 실제로 한계를 뛰어넘을 시간이 없습니다. 이것이 바로 직관에 반하는 위험입니다.

Brooke Weddle: 제가 나눈 대화에서 많이 나온 또 하나는 알고리즘이나 부조종사의 도움을 받는 모델로 가면 경험 축적, 실패 행위, 그리고 문제에 대한 우려가 있다는 것입니다. 당신은 그것으로부터 배웁니다. 전문성 개발 측면에서 가치가 있습니다. 내가 이런 식으로 도움을 받는다면, 내가 항상 이렇게 앞선 출발을 한다면 나는 무엇을 포기하는 것일까요? 특히 제가 후배 동료라면, 앞으로 통찰력을 잃게 될 수 있는 어떤 경험을 하지 못하고 있습니까?

멜리사 발렌타인: 네, 전문 지식의 비하입니다. 우리가 더 많은 도움을 받을수록 우리는 항상 전문 지식을 개발하는 모든 반복을 거치지 않게 됩니다.

루시아 라힐리: 정확해요. 마지막 질문: 인간 중심의 렌즈를 사용하면 조직에서 AI 도구의 성공을 평가하는 방식이 바뀌나요? 거기 프로토콜은 무엇입니까?

멜리사 발렌타인: 직원과 개발자 모두에게 공감할 수 있는 마지막 이야기를 하나 들려드릴까요? 우리는 플래시 팀의 알고리즘 등급을 살펴보고 있었습니다. 우리는 이 모든 알고리즘 관리가 작업자 중심, 인간 중심인지 확인하고 싶었습니다.

우리는 인간 중심성에 가중치를 부여하는 변수를 알고리즘에 추가하는 아이디어를 가지고 놀고 있었습니다. 우리가 협력하고 있던 회사의 분기 마감일이 있었는데, 갑자기 내일 사업 결과가 필요했습니다. 그래서 우리는 "좋아요, 이번만 이 변수 ​​없이 작업을 수행하겠습니다."라고 말했습니다.

그리고, 쾅. 그것이 일어나는 방식입니다. 빠른 비즈니스 결과를 얻어야 한다는 압박감은 절충의 순간입니다. 인간 중심적인 일을 할 수 있는 공간이 필요하다. 시간이 더 오래 걸리기 때문이다. 더 어렵습니다.

브룩 웨들: 더 이상 동의할 수 없습니다.

브라이언 핸콕: 제게는 고전적인 단기 대 장기 트레이드오프가 생각납니다. 실제 단기 이익 상충관계가 있을 수 있습니다. “알고리즘에는 지금 당장 할 수 있는 정말 멋진 일이 있습니다. 그걸 꺼내자.”

그러나 장기적으로 인간 중심 접근 방식을 사용하면 직원과 고객을 위해 더 많은 기회를 발견하고, 조직의 지속 가능성을 돕고, 새로운 시장, 새로운 기회, 새로운 통찰력을 여는 데 도움이 될 것입니다.

Brooke Weddle: 예, 저는 AI에 대한 고전적인 성능 및 건강 스코어카드가 정말 중요할 것이라고 생각합니다. 그러면 압박이 가해지고 모두가 성능으로 돌아가고 싶은 유혹을 받는 순간에 방정식의 건강 측면을 얻게 됩니다. 바로 거기에서 당신을 쳐다보고 있어요. 나는 그것이 정말로 중요할 것이라고 생각한다. 그리고 그것이 조금 더 천천히 움직이는 것을 의미한다면, 트레이드오프는 분명하다고 생각합니다.

멜리사 발렌타인: 바로 그거예요.

저자 소개

멜리사 발렌타인(Melissa Valentine)은  스탠포드 대학교 경영 과학 및 공학 부교수입니다. Bryan Hancock  은 McKinsey 워싱턴 DC 사무실의 파트너이며 Brooke Weddle  도 파트너입니다. Lucia Rahilly 는 McKinsey Global Publishing의 글로벌 편집 이사이자 부출판사이며 뉴욕 사무실에서 근무하고 있습니다.

인터뷰 대상자가 표현한 의견과 의견은 개인의 의견이며 McKinsey & Company의 의견, 정책 또는 입장을 대표하거나 반영하지 않으며 McKinsey & Company의 승인을 받지도 않습니다.