[김동영칼럼] AI 시대, 기술보다 어려운 경쟁은 ‘신뢰’다

[치유농업사 김동영]

행복치유마을연구소 대표코치

인공지능(AI)을 둘러싼 세계의 경쟁은 숨 가쁘다. 더 뛰어난 모델을 누가 먼저 내놓느냐, 더 많은 데이터를 누가 확보하느냐, 더 강력한 컴퓨팅 인프라를 누가 구축하느냐를 놓고 기업과 국가가 경쟁하고 있다. 그러나 필자는 이 치열한 기술 경쟁 뒤에서 더욱 중요해지고 있는 또 하나의 경쟁에 주목한다. 바로 ‘신뢰’의 경쟁이다.

최근 삼성SDS가 미국 시사주간지 뉴스위크와 글로벌 조사기관 스태티스타가 공동으로 선정한 ‘세계에서 가장 신뢰할 수 있는 기업 2026’에서 소프트웨어·통신 부문 1위에 올랐다는 소식이 전해졌다. 이번 평가는 고객과 투자자, 임직원의 신뢰뿐 아니라 온라인에서 형성되는 기업 평판 등을 함께 살펴본 결과라는 점에서 눈길을 끈다.

필자가 이 소식에서 주목한 것은 한국 기업이 세계 1위에 올랐다는 사실만은 아니다. 더 중요한 질문은 따로 있다. AI 시대에 왜 ‘신뢰’라는 오래된 가치가 다시 기업 경쟁력의 중심으로 떠오르고 있는가 하는 점이다.

신뢰는 하루아침에 만들어지지 않는다. 고객은 제품과 서비스가 믿을 만한지를 보고, 투자자는 기업이 장기적으로 지속 가능한지를 살핀다. 임직원은 자신이 공정하게 대우받고 있는지를 평가한다. 그런데 AI 시대에는 여기에 새로운 질문이 추가된다. 기업은 고객의 데이터를 안전하게 관리하는가. AI가 왜 그런 판단을 내렸는지 설명할 수 있는가. 잘못된 판단이 내려졌을 때 사람이 개입할 수 있는가. 그리고 피해가 발생하면 누가 책임지는가.

삼성SDS의 최근 행보를 살펴보면 이러한 변화의 한 단면을 확인할 수 있다. 삼성SDS는 2024년 생성형 AI 서비스인 FabriX, Brity Copilot, Brity Automation을 대상으로 AI 경영시스템 국제표준인 ISO/IEC 42001 인증을 받았다. AI 경영방침과 리스크 관리, 설계·개발·품질·데이터 관리 등의 프로세스가 심사 대상이었다. AI를 잘 만드는 것만큼 AI의 위험을 어떻게 관리할 것인가가 기업경영의 과제가 되고 있다는 의미다.

최근 글로벌 협력도 빠르게 확대되고 있다. 삼성SDS는 OpenAI와 기업용 AI 사업을 추진하고 있으며, 올해에는 Google Cloud와 AI·클라우드·보안 분야의 전략적 협력을 강화했다. 지난 7월에는 Anthropic과 전략적 파트너십을 맺고 Claude Enterprise를 삼성 20개 관계사 약 7만 명에게 제공한다고 밝혔다. 삼성SDS는 현재 OpenAI, Google Cloud, Anthropic 등 주요 글로벌 AI 기업들과 협력체계를 구축해 기업의 상황에 적합한 AI를 제공하는 전략을 추진하고 있다.

중요한 것은 이러한 기술이 연구실에만 머무르지 않는다는 점이다. 금융과 공공, 제조와 물류 등 실제 산업현장으로 빠르게 들어가고 있다. 삼성SDS는 우리은행의 핵심 업무에 175개 이상의 AI 에이전트를 적용하는 사업의 우선협상대상자로 선정됐으며, 한국수출입은행의 생성형 AI 시스템 구축 사업도 수주했다고 밝혔다. AI가 이제 단순히 문장을 만들거나 정보를 찾아주는 도구를 넘어 기업의 실제 업무와 의사결정 과정으로 들어가고 있는 것이다.

바로 여기에서 ‘신뢰’의 문제가 더욱 중요해진다.

AI가 여행지를 추천하다 틀리는 것과 대출 심사나 채용, 의료, 복지에서 잘못된 판단을 하는 것은 차원이 다르다. AI의 영향력이 커질수록 정확성과 보안뿐 아니라 설명 가능성, 투명성, 인간의 개입 가능성, 그리고 책임의 주체를 분명히 해야 한다.

세계적인 AI 기업들도 이 문제를 고민하고 있다. Microsoft를 비롯한 글로벌 기술기업들이 인간 중심의 AI와 책임 있는 AI를 강조하고, Anthropic은 AI 안전을 주요 가치로 내세우고 있다. OpenAI와 Google 역시 안전성 평가와 책임 있는 AI를 위한 기술과 관리체계를 발전시키고 있다. 세계 AI 경쟁이 성능만의 경쟁에서 안전과 책임, 신뢰를 포함하는 경쟁으로 확대되고 있다는 의미다.

그러나 여기서 한 가지 경계해야 할 것이 있다. 기업이 ‘책임 있는 AI’나 ‘AI 윤리’를 선언한다고 해서 그 기업의 AI가 자동으로 신뢰받을 수 있는 것은 아니다. 인증을 받았다고 모든 위험이 사라지는 것도 아니다. 오히려 기술이 발전할수록 기업이 발표한 원칙이 실제 제품과 서비스에서 제대로 지켜지고 있는지 시민사회와 전문가, 정부가 지속적으로 검증할 필요가 있다.

신뢰는 선언하는 것이 아니라 행동으로 증명하는 것이기 때문이다.

필자는 특히 AI가 금융과 의료, 복지, 행정처럼 국민의 삶에 직접적인 영향을 미치는 영역으로 들어갈수록 이 원칙이 중요하다고 생각한다.

은행에서 AI가 대출을 거절했다고 가정해 보자. 고객이 이유를 물었을 때 “AI가 그렇게 판단했습니다”라는 답변으로 끝낼 수 있을까. 기업의 채용 과정에서 AI가 한 사람을 탈락시켰다면 그 판단에 오류나 편향이 없었다고 누가 설명할 것인가. 의료현장에서 AI의 판단을 참고했다가 문제가 발생한다면 최종 책임은 누구에게 있는가.

“AI가 판단했습니다.”

이 말이 인간과 기업의 책임을 회피하기 위한 새로운 면책 문장이 되어서는 안 된다.

AI는 스스로 기업을 세우지 않았다. 스스로 은행에 들어간 것도 아니며 병원과 행정기관에 자신을 배치한 것도 아니다. AI를 만들고, 선택하고, 업무에 도입하고, 권한을 부여한 것은 결국 인간과 조직이다. 따라서 최종적인 책임 역시 인간과 조직이 져야 한다.

그렇다고 AI의 위험을 이유로 기술 발전 자체를 두려워할 필요는 없다. AI는 의료와 교육, 금융, 복지, 농업, 행정 등 수많은 분야에서 인간의 능력을 확장하고 사회적 비용을 줄일 가능성을 가지고 있다. 중요한 것은 혁신을 할 것인가 말 것인가의 양자택일이 아니다.

우리가 선택해야 할 길은 ‘책임 있는 혁신’이다.

안전이 없는 혁신은 오래 지속되기 어렵다. 반대로 위험을 이유로 혁신 자체를 가로막는다면 AI가 가져올 사회적 혜택까지 포기하게 된다. 기술 발전과 함께 윤리와 제도, 안전장치와 책임체계를 동시에 발전시키는 지혜가 필요하다.

그런 점에서 삼성SDS의 세계 신뢰기업 1위 선정도 결과보다 앞으로의 과정이 더 중요하다. 세계 1위라는 타이틀이 내일의 신뢰까지 보장해 주지는 않는다. AI 사업이 확대되고 더 많은 기업과 국민의 삶에 영향을 미칠수록 그만큼 더 높은 수준의 투명성과 책임을 요구받게 될 것이다.

그리고 이것은 삼성SDS만의 과제가 아니다. OpenAI도, Google도, Microsoft도, Anthropic도 마찬가지다. 앞으로 AI를 개발하고 제공하는 모든 기업은 “우리 AI가 얼마나 똑똑한가”라는 질문뿐 아니라 “우리 AI를 왜 믿어도 되는가”라는 질문에 답해야 한다.

필자는 AI 시대의 기업 경쟁력을 기술력 하나로 평가해서는 안 된다고 생각한다. 기술력과 함께 신뢰를 축적하는 능력이 중요한 자산이 될 것이다. 아무리 뛰어난 기술이라도 사회가 믿지 못한다면 지속적으로 사용되기 어렵다. 반대로 기업이 투명하게 설명하고 잘못을 인정하며 문제가 발생했을 때 책임지는 모습을 보여준다면 신뢰는 축적된다.

AI가 인간보다 더 많은 정보를 처리하고 더 빠르게 판단하는 시대가 오더라도 책임까지 AI에게 넘길 수는 없다. 무엇을 AI에게 맡길 것인지 결정하는 것도 인간이고, 어디까지 허용할 것인지 정하는 것도 인간이다. 잘못된 결과가 발생했을 때 마지막으로 책임져야 하는 주체 역시 인간과 기업이어야 한다.

AI 시대의 진짜 경쟁은 누가 더 똑똑한 AI를 먼저 만드느냐만의 경쟁이 아니다. 누가 더 믿을 수 있는 AI를 만들고, 그 결과에 끝까지 책임질 수 있느냐의 경쟁이다.

기술의 속도는 AI가 높일 수 있다. 그러나 신뢰의 방향을 결정하고 그 결과에 책임지는 일만큼은 끝까지 인간의 몫이어야 한다.

글쓴이 | 행복코치 김동영 · 칼럼니스트 · AI 시민교육활동가

#AI시대 #인공지능 #삼성SDS #AI신뢰 #책임있는AI #인간중심AI #AI윤리 #AI거버넌스 #책임있는혁신 #디지털신뢰 #AI시민교육 #김동영칼럼 #행복코치김동영