AI 기술에 대한 성찰 1 : AI 기술은 왜, 왜라는 질문은 하지 않을까?

[보스꼬]

AI기술 : ‘왜’라는 질문은 왜 안하는가?

최근 들어 하루가 멀다 하고 AI에 기초한 기술들이 개발되었다고 앞 다투어 보도하고 있다. 오늘은 AI의 음성모방 기술을 개발했다고 보도하는 뉴스를 보았다.

어떤 사람의 음성을 15초만 들려주면 그것을 기반으로 다른 문장들이나 다른 대화를 그 사람의 음성으로 만들어 낼 수 있다는 기술이다.

AI 음성모방 기술을 보도하는 YTN뉴스

참 어이가 없다. 이런 기술이 어디에 필요하다는 것인가?

기술의 목적은 유용성에 있다. 사람들에게 삶에 도움이 되기에 기술을 개발하는 것이다. 심심해서 토끼와 거북이를 결합해보는 기술은 기술이라고 할 수가 없다. 심심해서 다른 사람의 음성을 모방하는 것은 재미라고 할 수 있다. 하지만 이러한 모방이 잘못 쓰일 경우 참으로 회복할 수 없는 손실이나 피해를 입힐 것이라는 것은 중학생만 되어도 알 수 있는 사실이다. 이러한 기술은 악마적이고 파괴적인 것이다. 따라서 굳이 말하지만 ‘사악한 기술’이라고 할 수 있다. ‘악법’이 ‘법’이 아니듯, 사악한 기술은 이미 기술이 아니다.

다른 사람의 음성을 모방하여 실제 음성과 구분할 수 없는 말이나 대화를 만들어 내는 기술은 여과없이 말하면 '짝퉁 목소리를 만들어 내는 기술'이다. 물론 간혹 이러한 기술이 유용하게 사용될 수도 있을 것이다. 하지만 구체적인 예를 들지 않아도, 좋게 활용될 경우가 하나라면, 나쁘게 활용될 경우가 열이 넘을 것이다. 도움 보다는 해로움이 훨씬 더 많은 것을 왜, 무엇 때문에 그리고 누구를 위하여 만드는 것인지.

시계나 가방을 모방하고, 돈이나 여권을 모방하고, 청자나 다른 사람의 그림을 모방하는 것은 사실 모두 범죄행위들이다. 그런데 왜 다른 사람의 음성을 모방하는 것은 범죄가 안 되는 것일까?

무엇을 위해서 누구를 위해서 그리고 어떤 유용성을 위해서 만드는 것인지 하는 그 당위성이나 정당성에 대해서는 전혀 질문하지 않고, 일단 가능하니 만들고 보자는 이 같은 막가파식 개발을 무제한적으로 만들어 내는 사람들, 그리고 그것을 자랑삼아 보도하는 사람들의 두 뇌 속에는 무엇이 들어 있을까?