AI 맹신에 대한 한 마디

[구담]

보낸사람Jae Suk Sung<woowonsung523@gmail.com

가끔 知人을 만나면, AI에게 물으면 醫師보다 적극적이고 정확한 診斷을 얻을 수 있다는 말을 자주 했습니다. 어떤 Portal sites에서는 인간이 AI에 지배되는 미래가 온다는 말도 합니다.

AI을 운용되는 기판에는 크고 작은 많은 半導體들이 붙어있습니다.  (요즈음 중국산 반도체의 수명이 10년인것을 보면, 옛날 삼성전자의 반도체 수명 3년 보다는 많이 발전한 듯합니다)

반도체에는 지금도, 당연히, 수명이 있습니다. 제아무리 비싼 Nvidia GPU라고 해도, 어느 순간 고장이 날 수 있습니다. 實戰 war game software 전문업체인, 美 Entropic이, 인간들이, AI의 "윤리 규정"을 세계적으로, 합의될 때까지 개발 속도를 늦추자고 제안했습니다. AI software for war를 미국 국방부, Ukraine, 등 등에 공급하고 있는 Entropic 이 "어떤 두려움"을 느꼈다는 것으로 보입니다. 敵國을 향해 날린 수천, 수만 대의 drones, missiles이, 탑재된 반도체의 error or malfunction으로, 혹은 敵國의 software intervention으로, 발사한 당사국이나, 발사한 당사자를 향해서 공격할 수도 있다는 두려움에서 AI 절대적 신뢰해서는 안된다는 뜻으로 봅니다. 敵國 군대나, 민간인이 아닌, 발사한 당사국의 군대나, 민간인들을 逆으로 학살 시킬 수 있다는 뜻입니다. 아무리 software를 정교하게 AI coding을 했다고 해도, 수많은 반도체 중에 한 두개의 고장으로, 인간이 예상 못한 결과를 초래할 수 있다는 것입니다.

지구상의 인간 70 억 명 중, 평균 20%는 humanity에 反하는 character를 가지고 있다고 봅니다.  이것은 古朝鮮, Roma, Greece 시대에도 그러했으니, 造物主가 인간 세상을 태초부터, 그렀게 창조해 놓았다고 생각합니다. 그래서 부단히 이웃을 나와 같이 대하자는 뜻에서 매일 성경 구절을 보냈 왔습니다.

그러니, Entropic CEO , MS Bill Gates 가 동의한다고 해도, AI의 오남용은 절대로 막을 수 없습니다. 이대로 가다가, 인간 스스로, 亡하든지, 興하든지 할 것으로 봅니다. 인간은 그 끝을 알 수 없습니다. 그러나 조물주는 알 것이다. 중국제 싸구려 Robotic soldiers 부대가, 언젠가, 김정은을 사살하고, 계속 남하여, 38선을 넘을 가능성도 충분히 예상됩니다. AI trigger는 이미 당겨졌습니다.

바위