시스템 에러 빅테크 시대의 윤리학 - 롭 라이히 외

[녹양]

우리는 기술의 미래를 결정하는 것이 해커나 기업가들만의 일이 아닌 새로운 시대에 접어들고 있다. 기술과 어떻게 상호작용할지, 기술을 지배하기 위해 어떤 규칙을 마련할 것인지 고민해야 한다

'일단 결과를 만들어내고 용서는 나중에 구하라' 실리콘벨리 기술 전문가들의 마인드를 대표하는 문장이다. 빅테크들은 기술이 모든 문제를 해결하는 전능한 해법이라고 믿으며, '디지털 광고 클릭 수', '유튜브 재생 시간' 같은 측정할 수 있는 목표를 달성하기 위해 매진한다. 이러한 기술만능주의는 산업 현장뿐 아니라 캠퍼스에도 만연하다. 매년 실리콘벨리로 배출되는 많은 인재들의 관심은 기술을 통해 '해결하고 싶은 문제'가 아니라 오직 창업뿐이다. 그들이 꿈꾸는 영웅의 모습은 사회 전체에 이익이 되는 기술을 개발한 기술자보다 획기적인 기술로 순식간에 부를 쌓은 혁신가에 가깝다.

각각 철학, 컴퓨터과학, 정치학을 가르치는 세 명의 스탠퍼드교수는 이 같은 현실이 무언가 단단히 잘못되었다는 것을 느끼고, 기술 시대의 인문학적 논점을 다루는 새로운 강의를 만들었다.

OKR (Objective and Key Results) : 성과 평가와 기업 성장을 추진하는 지표이다.

OKR은 광고 클릭 수를 높이고, 사용자의 웹사이트 이용 시간을 늘리고, 더 많은 사용자들을 웹 이용자로 끌어들이는 등의 조치에 초점을 맞춰 사업의 수익성을 높이는 데 중요한 역할을 한다

혁신과 민주주의의 대립은 매우 현실적인 문제다. 기술은 빠르게 움직이기 때문에 그 영향을 예측하기가 어렵다. 기존 시장을 파괴하거나 완전히 새로운 시장을 만드는 경우에는 더 그렇다. 어떤 문제가 해결이 필요한지, 그런 문제를 어떻게 해결할지 정치적 합의를 도출해내야 한다.

기술의 이점을 누리면서 개인정보를 보호하려면, 개인정보 보호를 선호 사항이 아닌 권리라고 생각하고 기업들이 어떤 정보를 수집하고 그것을 어떻게 사용하는지 알아야 한다.

소프트웨어 엔지니어링 분야의 윤리를 강화하기 위해서는 기술 개발의 초기 단계에서 기술이 영향을 미치게 될 가치들을 충분히 논의하고, 전문가 조직이 적극적으로 나서며, 규칙 위반자를 제재하는 규범을 개발해야 한다