신인호
질문은 보그나르 주식회사가 개발한 AI 기술 중 하나를 선택하고, 그 기술이 사회에 가져온 편리함과 동시에 일으킨 윤리적 부작용은 무엇인가?
나는 AI의 상속분과 AI 자산 관리 기술을 선택했어.
이 기술은 남겨진 유족이 감정적 혼란이나 복잡한 법적 절차 없이 AI를 통해 자산을 효율적으로 관리하고 외로움을 달랠 수 있다는 큰 편리함을 줘. 하지만 윤리적 부작용으로는 자의식이 없는 AI가 막대한 부의 주체화 되면서 뒤에서 AI를 소유하는 거대 기업이나 특정 세력이 법망을 피해 부를 편법으로 독점하는 수단으로 악용될 수 있다는 점이야. 결국 인간 중심의 정당한 상속 질서와 법적 책임 체계가 완전히 망가지는 심각한 사회적 문제를 일으키게 돼. 김시현의 생각은 어때?
김시현
나는 라이프 리플레이 기술을 선택했어 이 기술은 과거의 기억이나 경험을 다시 확인할 수 있어서 편리하고 소중한 기억을 되돌아볼 수 있다는 장점이 있어. 하지만 개인의 사생활이 침해되거나 다른 사람의 동의 없이 기억에 이용될 수 있다는 윤리적인 문제가 있어
오유준
그렇게 생각한 이유가 뭐야?
김시현
나는 시간이 지나면서 잊어버린 소중한 추억을 다시 확인할 수 있다면 좋을 것 같아.
특히 행복했던 순간을 다시 떠올리면 그때의 감정도 생각날 수 있기 때문이야.
하지만 다른 사람이 내 기억을 함부로 확인하거나 이용한다면 사생활이 침해될 수 있으므로 기술을 사용할 때는 개인정보 보호가 중요하다고 생각해. 홍성민의 생각은 어때?
홍성민
나는 AI 상속법에서 AI 안드로이드를 골랐어 AI 안드로이드 가정보나 집사, 연인 등 고독사를 하는 노령인 사람들이나 주변에 가족이 없는 사람들의 외로움을 덜어주며 사람들을 잘 케어할 수 있다 생각하지만 이로 인 이에 윤리적 부작용은 AI 상속법에서 AI 로봇을 사람으로 대하기 시작하며 AI와 결혼을 하고 이로 인한 재산을 AI에게 부여하는 등 윤리적인 부작용이 생길 수 있다고 생각해.
엄태란
그렇게 생각한 이유가 뭐야?
홍성민
AI는 사람을 케어하기 위한 서비스지 사람으로 대하기 시작하면 윤리적 문제가 생긴다고 생각하기 때문이야. 엄태란 너의 생각은 어때?
엄태란
나는 딥페이크 기술을 선택했어 딥페이크는 사람의 얼굴이나 목소리를 합성해 다양한 영상과 콘텐츠를 만들 수 있다는 편리함이 있어 예를 들어 영상 제작에서 원하는 장면을 만들거나 새로운 콘텐츠를 만드는 데 활용할 수 있어. 하지만 다른 사람의 얼굴이나 목소리를 허락 없이 사용하면 사칭이나 허위 정보 유포 등 윤리적인 문제가 발생할 수 있고, 가짜 영상이 실제처럼 퍼지면 사람들이 잘못된 정보를 믿게 될 수 있어.
신인호
그렇게 생각한 이유는 뭐야?
엄태란
왜냐하면 딥페이크는 새로운 콘텐츠를 만드는 데 도움이 되지만 다른 사람의 모습을 마음대로 이용하면 그 사람의 명예와 권리를 침해할 수 있기 때문이야. 특히 가짜 영상이 진짜처럼 퍼지면 피해자가 억울한 일을 겪을 수 있어.
신인호
질문은 작품 속에서 AI 기술이 인간의 영역을 대체해 나갈 때 작가가 강조하는 AI가 결코 대체할 수 없는 인간만의 고유한 가치는 무엇이라고 생각하는가요?
나는 작가가 강조하는 인간만의 고유한 가치는 바로 불완전함 속에서 나오는 진심 어린 공감 능력과 주체적인 고민이라고 생각해 AI는 아무리 정교하고 완벽한 답을 내놓는다고 해도 그 과정에서 진짜 슬픔이나 고통을 느끼며 도덕적 갈등 속에서 괴로워하지 못하기 때문이야.
김시현
그렇게 생각한 이유가 뭐야?
신인호
그렇게 생각한 이유는 정답이 딱 떨어지지 않는 상황에서도 스스로 고민의 판단을 내리고 타인의 아픔에 깊이 공감하고 배려하는 그 불안전 한 고민의 과정이야말로 완벽한 계산 알고리즘이 결코 흉내낼 수 없는 인간만의 존엄한 가치라고 생각하기 때문이야. 김시현의 생각은 어때?
김시현
나는 다른 사람의 마음을 진심으로 이해하고 공감하는 능력이 중요하다고 생각해 AI가 사람의 감정을 분석하고 비슷하게 표현은 할 수 있지만 사람과 함께 경험을 나누며 쌓아가는 관계까지는 완전히 대신하기는 어렵기 때문이야. 서로를 배려하고 책임지는 마음도 인간만의 중요한 가치라고 생각해 홍성민의 생각은 어때?
홍성민
나는 생각하고 질문하는 능력이라 생각해 AI가 발전을 해도 사람은 생각하는 것과 질문하는 것을 멈추면 안 되고 생각하는 사람 생각을 사람이 생각하는 시점에 멈춘 시점부터 더 이상 사람다움은 사라지며 사람만의 고유한 능력을 포기하는 것 같아
엄태란
그렇게 생각한 이유가 뭐야?
홍성민
AI 노벨상 프로그램의 습성 에피소드를 보면 에피소드 중간부터 인류의 대부분은 생각을 포기하고 AI의 발전을 방관하며 AI의 발전대로 살고 있었는데, 프로그램의 습성 마지막 문장에는 인류처럼 비효율적인 유기물 잡채가 살아남을 수 있던 유일한 이유였다.
그렇기에 인류는 생각하는 것을 멈춰서는 안 된다. 아무것도 하지 않아도 될지라도 말이다라는 문장이 있어 이처럼 인간만의 고유한 가치는 생각하고 질문하는 능력이라 생각해 엄태란 너의 생각은 어때?
엄태란
나는 인간만의 고유한 가치는 자신의 경험을 바탕으로 성장하고 다른 사람과 관계를 맺으며 삶의 의미를 찾아가는 것이라고 생각해 AI는 많은 정보를 학습하고 사람처럼 행동할 수 있지만 인간이 직접 경험하면서 느끼는 감정과 그 경험을 통해 변화하는 과정까지 완전히 대신하기는 어렵다고 생각하고, 사람은 다른 사람과 갈등을 겪거나 어려움을 극복하면서 새로운 생각과 가치관을 만들어
신인호
그렇게 생각한 이유는 뭐야?
엄태란
그렇게 생각한 이유는 사람은 다양한 경험을 통해 자신의 잘못을 깨닫고 다른 사람의 입장을 이해하며 성장하기 때문이야. 이런 경험은 사람마다 다르게 쌓이기 때문에 인간만의 고유한 가치가 될 수 있다고 생각해.
신인호
질문은 소설 속 보그나로 주식회사의 기술 중 실제 우리 현실에 가장 빠르게 도입될 것으로 예상되는 기술이 무엇이며, 이를 맞이하기 위해 우리 사회에 필요한 법적 윤리적 제도에는 어떤 것이 있는가요?
내가 생각하기에는 현실에 가장 빠르게 도입될 기술은 생성형 AI 기반의 딥페이크 및 가상 인간 기술이라고 생각해.
이미 딥페이크나 고인의 목소리를 복원하는 기술이 일상에 깊이 들어와 있으니까 이를 안전하게 맞이하려면은 우선 AI가 생성한 콘텐츠의 저작권과 사생활 침해, 법적 악용에 대한 책임 소재를 명확히 하는 엄격한 법적 가이드라인이 마련되어야 해. 또한 기술 만능주의에 빠지지 않도록 학교와 사회에서의 AI 윤리 교육을 의무화 하고, 거대 기업이 기술을 독점해 개인의 주체성을 침해하지 못하도록 제도적 통제 장치를 구축해야 해.
김시현
그렇게 생각한 이유가 뭐야?
신인호
이렇게 판단한 이유는 이미 우리 현실에서 고인의 목소리를 복원하거나 딥페이크를 활용한 기술이 빠르게 일상화되고 있어 소설 속 상황이 가장 가까이 다가왔기 때문이야. 기술이 퍼지는 속도에 비해 제도와 윤리 의식이 따라가지 못하면 사생활 침해나 법적 악용, 주체성 상실 같은 심각한 혼란을 생길 수밖에 없어 따라서 기술의 편의점만 누릴 게 아니라 인간의 존엄성과 권리를 지켜야 할 법적 가이드라인과 윤리 교육이라는 안전 장치를 산재적으로 마련해야만 기술과 인간이 건강하게 공존할 수 있다고 봐.
오유준의 생각은 어때?
오유준
나는 보그나르 아이즈가 가장 먼저 빠르게 도입될 것 같아 지금도 스마트 안경이 출시되는 상황에서 조금만 시간이 더 지나면 보그나르 아이즈처럼 렌즈에도 스마트 기술이 도입될 것이라 생각해. 그렇지만 수능이나 그 시험장에서 악용될 가능성이 있어서 철저한 검사가 필요하다고 생각해. 홍성민의 생각은 어때?
홍성민
나는 자동차 옵션 구독 시대에서 구독 시스템이 가장 빠르게 도입될 것으로 예상해 우린 이미 우리가 일상 속에서는 구독이나 대화 시스템이 발달하고 있고, 당장에 킥보드 대여 사업이나 생각나는 정수기 구독제로 대여하며 출판도 출판사로 구독하는 시스템을 예측하는 것처럼 구독 시스템이 가장 빠르게 도입될 것 같아.