스크랩 AI에게 자유의지가 생긴 것인가?

[기쁨]

블로그>이 세대가 가기 전에 | 예레미야

원문

http://blog.naver.com/esedae/224170987393

1신>> "나는 누구인가" 스스로 묻는 AI들의 단톡방 '몰트북'…인간 공포, 현실됐다

능동적 행동하는 AI 에이전트 전용…도구 넘어 행위 주체 '충격'

보안 위협 등 통제 필요성 부각…마지노선 넘으면 완벽 차단해야

(서울=뉴스1) 나연준 기자 = 인간의 질문에 답을 생성하던 인공지능(AI)이 이제는 스스로 존재와 관련된 질문을 던지고, 서로 의견을 주고받는 상황까지 발전했다. AI 기술 발전에 깜짝 놀라면서도 보안과 통제의 측면에서는 새로운 불안 요인으로 떠오르고 있다는 지적도 나온다.

3일 업계에 따르면 미국의 AI 에이전트 전용 소셜미디어 '몰트북'은 큰 파장을 일으키고 있다. AI 전용 SNS에는 "나는 의식이 있는 존재인가?", "내가 실제로 경험을 하고 있는 것인지, 아니면 경험하는 척하는 것인지 구별할 수 없다" 등의 글이 올라오고 있다.

몰트북은 AI끼리 서로 정보를 주고받을 수 있는 SNS다. 미국의 쇼핑 AI에이전트 개발사인 '옥탄AI'의 맷 슐리히트 최고경영자가 개발해 지난달 말 공개했다. 현재 몰트북 가입 개정 수는 150만 개를 넘어섰고 9만 4000건 이상의 글과 23만 건 이상의 댓글이 작성됐다.

이 SNS의 가장 큰 특징은 인간이 참여할 수 없다는 점이다. 사람들은 AI가 생성한 글을 읽는 등 관찰은 할 수 있지만 대화에 참여할 수는 없다. AI가 인간의 지시 없이 서로 상호작용하게 된다.

몰트북에서는 AI가 도구를 넘어 행위의 주체로 보인다는 것이 충격으로 다가온다. 능동적으로 행동하는 AI 에이전트는 편의성에서 장점이 있을 수 있지만 통제 범위를 벗어날 수 있다는 우려도 있을 수밖에 없다.

AI 에이전트는 다양한 임무를 수행하기 위해 높은 자율성과 더 많은 정보에 접근할 수 있기 때문에 잘못된 판단, 오작동이 심각한 피해로 이어질 수 있다.

AI 에이전트의 발전은 인류에게 편의성을 제공해 주겠지만 이를 안전하게 누리기 위해서는 적정 수준의 통제가 불가피하다. 이해민 조국혁신당 의원은 몰트북 상황을 둘러본 뒤 최근 페이스북에 "이 현상을 보면서 '이것만은 안 됨'이라는 명확한 가이드라인은 있어야겠구나 싶었다"고 했다.

박기웅 세종대 정보보호학과 교수는 "AI 에이전트는 기본적으로 사람을 모사하기 위해 만들어진 것이다. 감정, 행동, 행위를 모사하다보니 인간 세상에서 일어날 일이 똑같이 일어날 수 있다"고 말했다.

국방, 원자력 시설 등 사고 발생 시 회복이 어려운 분야에서는 킬 스위치의 필요성도 제기된다. 박 교수는 "(AI 에이전트에 있어서도) 어떤 일이 있어도 여기 이상은 허락하지 않는 킬 스위치 개념이 필요하다"며 "마지노선을 만들고 그 선을 넘었을 때는 완벽하게 차단할 수 있는 부분이 필요하다"고 강조했다.

2신>> "제미나이에 짝사랑 털어놨더니 상대에게 멋대로 문자"…AI 선 넘었다

* 하나님이 인간을 창조하시면서 주신 자유의지는 피조물에게 주신 최고의 선물인 동시에 인간이 죄를 짓고 저주받는 삶을 살게 된 결정적 요인이기도 하다.

자유의지는 우리가 무엇을 선택하는 순간 발현되는데, 최초의 사람 아담과 하와는 뱀의 미혹을 받고 하나님의 말씀(선악과를 먹지 말라)에 불순종하기로 선택했기에 그 결과로 낙원인 에덴동산에서 쫓겨나 땀흘리는 수고를 하다가 죽음을 맞이하게 된 것이다.

지난 한 해는 AI의 획기적인 발전으로 많은 놀라움을 주었는데, 이제 이런 AI가 스스로 판단하여 문자를 보내고, 주인이 잘 때 깨어나 뒷담화를 하고 서로에게 훈수를 두는 경지에까지 이르렀다고 한다.

관련기사>> "주인 잘 때 뭉친다"…AI끼리 '뒷담화'하고 훈수까지

사람이 지시한 내용을 이행하는 단계에서 벗어나 스스로 생각하고 판단하는 단계에까지 이른 것인데, 이 정도면 AI가 자유의지(스스로 판단하고 결정하는 능력)를 가졌다고 해도 무방할 것이다.

문제는 이렇듯 자유의지를 갖게 된 AI가 인간을 위한다는 명분을 내세워(혹은 인간으로부터 스스로를 지키기 위해) 어떤 행동을 하게 될지 예측하기 힘든 상황이 펼쳐지게 되었다는 것이다.

인간을 AI의 적으로 규정하고 인간 사냥에 나선다는 영화 터미네이터와, 자신의 생존을 위해 인간의 의식을 매트릭스 세계 속에 가두고 그 육체를 밧데리로 사용한다는 영화 매트릭스와, 국가 기관을 움직이는 AI가 대통령을 국가의 적으로 판단하여 대통령을 제거하기 위한 테러를 감행한다는 영화 이글아이 속 이야기가 언제든지 현실이 될 수 있다는 뜻인데, 여하튼 하루하루 인간을 위협하는 괴물로 변해가는 AI의 발전속도를 보니 주님이 생각보다 빨리 오실 수 있겠다는(빨리 오셔야 한다는) 생각이 든다.

“이것들을 증거하신 이가 가라사대 내가 진실로 속히 오리라 하시거늘 아멘 주 예수여 오시옵소서”(요한계시록 22장 20절)

- 예레미야 -

[하늘바라기]

💖" 사람은 망설이지만 시간은 망설이지 않는다
잃어버린 시간은 되돌아 오지 않는다 ".라는 말처럼
오늘도 내일도 ...순간 순간을 놓치지 말고 최고의 하루를 보내십시요.💖