전 Google 직원: '코드 레드' 회의와 ChatGPT를 통해 임원들이 Gemini AI 출시에서 '지름길'을 택한 방법전직 직원은 경고에도 불구하고 구글의 AI가 리더십으로 밀려났고 임원들은 제품 출시에 대한 '공정성'을 포기했다고 말했습니다.
https://www.foxbusiness.com/media/former-google-employee-code-red-meeting-chatgpt-execs-take-shortcuts-gemini-ai-launch
전직 고위 직원에 따르면 구글은 내부 우려에도 불구하고 '공정성'을 버리고 중대한 '지름길'을 택해 제미니 인공지능(AI) 챗봇을 출시했다고 한다.
이전에 Bard로 알려진 Gemini는 출시되기 전에 AI 원칙 검토를 거쳤습니다. 모델 검토를 담당한 전문가들은 이 모델이 안전하지 않으며 구글이 AI를 켜서는 안 된다고 말했습니다.
소식통에 따르면 당시 책임 있는 혁신(RESIN) 이사였던 Jen Gennai는 이러한 경고에도 불구하고 응답을 편집하고 제품을 리더십으로 끌어올렸다고 합니다.
RESIN은 이전에 Google의 AI 원칙을 준수하는지 확인하기 위해 내부 프로젝트를 해체하기 전에 검토했습니다.
전직 구글 컨설턴트는 AI 기업이 '너무 빨리 커지면' 쌍둥이자리가 일어날 것이라고 말한다.
전직 Google 고위 직원이 Gemini 인공지능(AI) 관련 문제로 이어질 수 있는 회사 내부 정책과 의사결정에 대해 우려를 표명했습니다. (SEBASTIEN BOZON/AFP/Michael M. Santiago/Steve Taylor/SOPA Images/LightRocket via Getty Images / Getty Images)
Gennai는 그것이 미리 보기 제품이고 데모에 대한 검토 단계가 일반적이지 않았기 때문에 자신의 결정은 타당하다고 말했습니다. 그러나 익명을 전제로 Fox News Digital 과 인터뷰한 Google 소식통은 그녀의 주장이 "100% 황소"라고 말했습니다.
일부 직원은 일부 초기 결과가 "우려"되었기 때문에 Bard의 데이터 세트와 임베딩을 조사하기를 원했습니다. 한 직원은 심지어 모델 내부의 데이터가 무엇을 학습했는지 확인하는 도구를 만들 것을 제안했다고 소식통은 말했습니다.
소식통은 "그들은 아니라고 답했습니다. 우리는 ChatGPT에 지고 있기 때문에 시장에 진출해야 했습니다"라고 말했습니다.
2022년 11월까지 Google은 AI 분야의 지배적인 리더였습니다. 실제로 Google은 다른 사람들이 전체 회사를 구축하는 데 사용할 수 있는 도구를 제공할 수 있을 정도로 큰 성공을 거두었습니다. ChatGPT의 기술적 뼈대를 포함한 Open AI의 비즈니스 모델의 대부분은 Google이 발표한 연구를 사용하여 개발되었습니다.
ChatGPT의 출시는 Google의 비즈니스 모델에 대한 엄청난 위협으로 간주되었습니다. 유튜브의 광고 수익은 해마다 줄어들고 있습니다. TikTok은 Google의 주력 동영상 공유 플랫폼의 수익을 천천히 늘려 Google 검색에도 부정적인 영향을 미쳤습니다. 핵심 수익 제품은 시장의 경쟁업체에 의해 피해를 입었고 여전히 피해를 입고 있습니다.
갑자기 ChatGPT가 더 나은 AI로 등장했습니다. 더욱 놀라운 점은 Google에는 경쟁 제품이 없다는 것입니다.
New York Times에 따르면 이 소식은 Google이 "코드 레드"를 선언하면서 회사를 혼란에 빠뜨렸습니다 .
"그들을 지탱하고 현재의 모습으로 만든 것은 더 이상 시장 리더가 아닙니다. [ChatGPT]는 전체 비즈니스에 대한 실제적이고 진정한 위협입니다."라고 소식통은 말했습니다.
GOOGLE이 너무 고장나서 고칠 수 없나요? 투자자들 '매우 좌절하고 분노' 전 내부자 경고
2023년 7월 18일 프랑스 남서부 툴루즈에서 촬영한 이 사진에는 구글이 개발한 대화형 인공지능 소프트웨어 애플리케이션인 바드 AI(Bard AI)와 ChatGPT의 로고가 표시된 화면이 담겨 있다. (LIONEL BONAVENTURE/AFP via Getty Images / Getty Images)
Google의 CEO인 Sundar Pichai는 ChatGPT에 대한 Google의 대응을 결정하기 위해 경영진과의 수많은 회의에 참여하여 회사 내부의 다양한 그룹을 뒤집고 내부 전략의 방향을 재조정했습니다.
Google Research 및 기타 중요한 부서 내의 팀이 재배치되었습니다. YouTube 광고, 검색, 생성 AI가 최우선 순위가 되었습니다. 그들은 따라잡을 필요가 있었고 거기에 도달하기 위해 "지름길"을 택했다고 전직 직원이 말했습니다.
"그들은 기본적으로 생성적 AI라고 말하기 위해 전략적 결정을 내렸습니다. 우리는 이에 착수해야 합니다. 우리는 더 이상 공정성에 관심이 없습니다. 우리는 편견이나 윤리에 관심이 없습니다. 아동 성적 학대 자료를 생산하지 않는 한, 우리 이미지에 잠재적으로 영향을 미칠 수 있는 정치인에게 해로운 일을 하면 우리는 그 자리에서 쫓겨날 것입니다."라고 전 구글 직원이 말했습니다.
Gennai의 RESIN 팀이 규정 준수 및 청렴 사무국과 Kent Walker 글로벌 업무 담당 사장 산하의 신뢰 및 안전 팀에 흡수된 후 상황이 빠르게 변하기 시작했습니다.
"AI 원칙 검토도 바뀌었습니다. 우리가 사용하고 있던 위험 평가도 이러한 모델이 사용자에게 어떤 영향을 미칠 수 있는지 살펴보는 것에서 이러한 모델이 우리에게 미치는 비즈니스 위험은 무엇입니까?" 소식통은 Fox News Digital에 말했습니다.
'독성'을 정의하고 온라인 세계를 형성하기 위해 '보이지 않는' 명령을 사용하는 Google GEMINI: 디지털 전문가
Sundar Pichai가 2022년 9월 6일 캘리포니아 베벌리힐스에서 열린 Vox Media의 2022 코드 컨퍼런스 - 1일차 무대에서 연설하고 있습니다. ((사진 제공: Jerod Harris/Getty Images for Vox Media) / Getty Images)
하지만 구글의 새로운 AI 전략으로 인한 변화는 무엇보다 신제품 출시와 출시라는 한 가지 목표를 추구하는 회사 문화에서 비롯됐다고 소식통은 전했다.
제품 출시에는 일반적으로 기술 최적화, 마케팅, 로드쇼 및 전시회, 보안 등이 포함됩니다. 제품 출시를 통해 기술이 적절하고 철저하게 테스트되었는지 확인하고 얼리 어답터 또는 베타 테스터가 혼합됩니다.
또한 제품은 대중에게 원활하게 출시될 수 있도록 "착륙"될 것으로 예상되며 회사는 잠재적인 문제에 대한 계획을 가지고 있습니다.
Google의 직원이 더 높은 자리에 오를수록 리더십을 더 많이 보여줄 것으로 기대됩니다. 이는 종종 직원의 '영향력', 즉 기본적으로 Google에 대한 직원의 기여를 문서화하는 리뷰가 이미 존재하는 것을 추진하거나 기존 제품에 대해 더 깊이 있고 더 나은 성과를 구축하는 것이 아니라 새로운 것을 창조함으로써 측정된다는 것을 의미합니다.
전직 구글 직원은 "승진하고 싶으면 발사하고 착륙해야 한다"고 말했다.
소식통에 따르면, 급격한 부서 변경과 적절한 조정 부족과 결합된 회사의 이러한 사고방식은 Gemini가 대중에게 공개된 후 뒤따르는 혼란의 원인이 될 가능성이 높습니다.
게다가, 생성 AI 팀이나 이미지 검색 팀이 서로 다른 리더십을 갖고 있기 때문에 공정성 팀이나 책임 있는 데이터 작업을 수행하는 팀과 협력하도록 하는 "강제 기능"도 없었습니다. 검토 담당자는 개발 중인 제품을 테스트하도록 요청할 수 있고 팀은 거부할 수 있다고 전 Google 직원이 말했습니다.
Google, 사용자에게 AI 챗봇 응답에 대한 '더 많은 제어권'을 제공하는 새로운 GEMINI 업데이트 출시
Jen Gennai는 Google에서 진보적인 정책을 추진했다는 혐의로 기소된 여러 직원 중 한 명이었습니다. (Smith Collection/Gado/Rafael Henrique/SOPA Images/LightRocket via Getty Images/Twitter/Screenshot/Getty Images)
리뷰가 할당되는 방식에도 지속적인 방법론이 부족한 것으로 보인다고 소식통은 주장합니다.
Google에는 아이러니하게도 "CHAOS"라고 불리는 Case Assessment and Operation Sync라는 시스템이 있었습니다. 여기서 사람들은 팀 전체에서 발생하는 문제와 관련된 제출물을 보고 이를 다른 직원에게 할당했습니다.
누군가가 제품 출시를 시도 중이라고 명시하지 않는 한 사람들이 리뷰를 제공할 기한은 없었습니다. 직원은 AI 주요 검토를 다른 사람에게 제출할 수 있으며 해당 사람은 상당한 기간 동안 사무실에 없을 수 있습니다. 경보 시스템도 없었습니다. CHAOS는 티켓팅 시스템이 아니라 구글 폼이었기 때문이다.
이로 인해 회사에서 리뷰를 완료한 직원 중 상당수가 AI나 기술적 배경이 부족한 상황이 발생했다고 전 직원이 말했습니다.
소식통은 "이러한 것들을 검토하는 사람들이 근본적으로 어떻게 작동하는지 이해하지 못하는 사람들이 있다"고 말했습니다.
그들은 이 문제가 기업의 사다리를 오르고 싶어하는 사람들에게 유리하다고 덧붙였습니다. 부서를 이끄는 사람은 검토 및 기술 평가를 완료하는 사람의 범위를 변경할 수 있습니다. 사람들은 이리저리 옮겨다니며 이해하지 못하는 사항에 대한 검토를 완료하도록 요청 받았습니다.
기술을 깊이 이해하는 사람의 검토가 철저하게 완료되지 않으면 문제를 해결하지 못하고 심각한 문제가 있는 제품 출시가 중단될 수 있습니다.
MICROSOFT는 유럽 규제 당국에 Google이 생성 AI 분야에서 우위를 점하고 있다고 말합니다.
2024년 2월 8일 벨기에 브뤼셀에서 촬영한 이 사진 그림에서 쌍둥이자리를 배경으로 스마트폰에 Google AI 로고가 표시되고 있습니다. (Photo by Jonathan Raa/NurPhoto via Getty Images) ( Jonathan Raa/NurPhoto via Getty 이미지 / 게티 이미지)
그러나 신제품 출시를 도운 팀을 이끌었다는 공로를 인정받은 사람들은 일정을 앞당기고 높은 "임팩트"를 보장할 것입니다.
Gemini에 대한 반발 이후 Google의 수석 부사장인 Prabhakar Raghavan은 AI에 두 가지 주요 문제가 있다고 말했습니다.
"첫째, Gemini가 범위를 명확하게 표시해서는 안되는 경우를 설명하지 못한 다양한 사람들을 표시하도록 조정했습니다. 둘째, 시간이 지남에 따라 모델은 우리가 의도한 것보다 훨씬 더 조심스러워졌고 특정 프롬프트에 완전히 응답하기를 거부했습니다. 매우 진통적인 메시지를 민감한 것으로 잘못 해석했습니다."라고 그는 2월 23일 블로그 게시물에 썼습니다.
여기를 클릭하여 이동 중에도 FOX 비즈니스를 만나보세요
Raghavan은 Gemini의 AI 생성 기능이 다시 활성화되기 전에 "광범위한 테스트"를 거칠 것이라고 말했습니다.
그러나 애초에 광범위한 테스트가 필요했던 기존 구조에 대한 외부 규제와 대대적인 정밀 검사가 없었다면 전직 직원은 Google 제품에서 문제가 지속될 가능성이 있다고 말했습니다.
Google은 Fox News Digital의 논평 요청에 응답하지 않았습니다.