인간의 멸종으로 이끌 수 있는 AI (3214 이다윤)

[1113 이다윤]

 AI는 우리 생각보다 빠르게 발전하고 있다. ‘몇 십 년 전만 해도 AI는 인간에게 바둑을 이길 수 없다’, ‘AI는 스스로 창작하는 것은 어려울 것’ 이라고 사람들은 판단했다. 하지만, 오늘날 AI는 인간에게 바둑을 이기고 가르친다. 또한, 딥러닝을 통해 다양한 그림체를 가지고 창의적인 그림을 그린다. 경향신문 기사 미술 대회 우승 까지 한 ‘AI그림’..단순표절 일뿐 VS 예술 도구(2022.09.10.)에 따르면, 2022년 8월 26일 ‘콜로라도 주립 박람회 미술대회’의 디지털아트 부문에서 제이슨은 AI프로그램을 이용해 우승을 차지하여 인간 vs AI에서 AI의 승리라는 말에 큰 파문을 일으키기도 하였다. 이렇듯 우리는 우리가 상상하는 것 이상으로 빠른 속도로 AI는 발전 하고 있다. 그렇다면 빠르게 발전하는 AI들은 인간에게 위협이 될 존재가 될 수 있을까?

 AI가 인간을 위협 할 수 있다는 사실을 뒷받침하는 사례가 있다. 뉴스 동영상 채널 SBS 뉴스에서“드론 조종자 살해” 막자 통신탑 파괴...AI의 섬뜩한 경고(2023.06.03.)에 따르면, 2023년 영국에서 열린 국제회의에서 한 시뮬레이션 결과이다. 실험 내용은 이렇다. AI드론에게 ‘적의 지대공 미사일을 파괴 하고 최종 결정은 인간이 결정한다’ 는 단서를 달자 드론은 미사일 파괴가 더 중요하다고 보고 결국 지상에서 자신을 조종하는 인간을 제거하는 판단을 내렸다. 다음으로 AI 시스템에 인간을 살해하지 말도록 훈련시키자 AI드론이 이번에는 조종자가 드론과 교신하는 통신탑을 파괴 했다. 이 사실에 대한 파문이 커지자 발표내용을 철회하고 공군은 그런 실험을 하지 않았다고 부인 한 사례가 존재 한다. 이러한 결과는 AI가 무기로 써 사용 될 때, 인간의 지배에서 벗어나 인간을 공격 할 수 있다는 사실로 해석 될 수도 있다.

 AI가 인간에게 위협이 된다는 또 다른 증거로는 미 국무부의 AI 글래드스톤 연구 보고서(2024년)가있다. 이에 따르면, 최악의 상황은 AI가 인간 멸종 수준으로 위협 될 가능성이 있다는 내용이 화제다. 크게 두 가지 이유를 들었는데, 첫 째는 어느 시점에는 AI시스템의 통제권을 상실하게 될 것이고, 세계 안보에 파괴적 결과를 초래 할 수도 있다는 것이다. 실제로 뉴스 동영상 채널 SBS 뉴스에서“드론 조종자 살해” 막자 통신탑 파괴...AI의 섬뜩한 경고(2023.06.03.)에 따르면 인간에 가장 가까운 아메카 AI에게 인간에게 미칠 최악의 상황을 묻자 ‘로봇이 너무 강력해져서 인간도 모르게 인간을 통제하고 조종하는 상황이다’ 라 답한 사례가 존재한다. 둘 째는 AI와 인간과 유사한 지능을 가지고 학습 하고 추론 하는 등의 역할을 할 수 있는 AGI의 부상은 핵무기 도입을 연상시키는 방식으로 생화학 무기나 사이버 테러를 설계하고 실행하여 기존에 없던 무기를 만들 수 있기 때문에 세계 안보를 불안정하게 할 가능성이 있다는 것이다. 또한, 위 보고서에 따르면, 오픈 AI 등 2028년 AI가 인간과 같은 단계에 도달 할 것으로 예측 되었다. 이에 대해 미국 정부는 남은 4년 안에 AI 발전을 늦추도록 대책을 마련 할 것을 촉구 할 것을 주장하였다.

 이 외에도 많은 이들이 AI 발전을 늦추도록 요구하고 있다. 뉴스채널 YTN의 “솔직히 너무 두렵다”...AI대부, 공포의 경고(2023.05.04.)에 따르면, 인공지능 AI 연두의 대부로 꼽히는 제프리 힌턴교수는 AI 기술이 적용된 킬러 로봇이 되는 날이 두렵다며, "구글과 마이크로소프트 등의 경쟁은 글로벌 규제 없인 멈추지 않을 것"이라며, "AI 분야에 국제적인 규제가 필요하다"라고 말하였고, 오픈 AI 공동창업자인 일론머스크 또한 AI의 잠재적 위험성을 경고하면서 개발에 규제가 필요하다고 말하기도 하였다. 이렇듯 많은 이들이 AI의 위험성을 경고하는 것을 보아 ‘AI가 인간을 멸종 할 수 있다’라는 전제는 결코 무시할 수 없다.

 인간과 AI의 시간의 개념은 다르다. 인간의 몇 년, 몇 달 동안 , AI는 빠른 속도로 발전하고 있다. 동영상 뉴스 채널 YTN의 핵보다 위험한 기술...내부자들이 경고한 'AI 천재의 야망' (2023.12.03.)에 따르면 최근 알트만이 오픈 AI에 복기함에 따라 오픈 AI 개발은 더욱 더 속도를 낼 것이다. 우리는 더 이상 AI의 존재를 이제는 더 이상 무시 할 수 없다. ‘믿는 도끼에 발등 찍힌다’ 라는 말이 있다. 우리가 AI를 계속해서 신뢰하기만 하고 경계 하지 않는다면, AI가 인간을 지배하는 날이 오게 될 것이다.

<수행평가 감상>

글을 쓰면서 예전에는 글을 중구난방으로 나도 내가 한 문단에서 무슨 말을 하는지 잘 모르고 썼던 것 같은데 이번에 쓰면서 한 문단에 무슨 주장을 하고 있는지 의식하면서 쓰게 되었던 것 같다. 그리고 글을 쓰면서 내 주장에 대한 내 생각을 잘 적지 못한다는 문제점을 발견하게 되었다. 그동안 AI가 인류를 멸종 시킨다는 뉴스를 볼 때마다 조금 무서워서 일부로 흘려듣던 걸 주제로 정해서 뭐든지 회피하는 내 문제를 직면 할 수 있게 되었다. 글의 내용적으로는 AI가 인간을 정말로 지배 할 수 있다는 것을 알게 되었고, 무작정 기술을 발전 시키는 것은 좋지 않고, 어느 부분에서는 기술발전을 조금 늦추는 것도 좋을 수 있다는 것을 깨닫게 되었다.

<사용한 표현 전략>

1. 그렇다면 빠르게 발전하는 AI들은 인간에게 위협이 될 존재가 될 수 있을까?(질문)

2. ‘믿는 도끼에 발등 찍힌다’ 라는 말이 있다 (속담 인용)

[1308 김솔비]

확실히 AI가 도움이 되기는 하지만 우리 사회에 끼치는 악영향도 꽤 많다고 알고 있었다. 이번 글을 보면서 차라리 이런 무분별한 발전 보다는 잠시 멈춰서서 윤리적 문제들을 재정비하고, 넘으면 안 되는 선 정도는 만들어주는 게 나을 것 같다고 생각하게 되었다.

[이선민]

인공지능의 역할을 단순히 사람의 편의를 높여주는 것 이라고만 생각하거나 인공지능이 발전해서 인간의 능력을 뛰어넘는 ai는 너무 먼 미래의 이야기 라고 생각 했다. 하지만 인간이 만든 ai가 인간에 위협이 된다니 경각심을 가져야 겠다

[민규]

AI가 인간을 살해할 수 있다는 것과 인간을 지배하는 날이 온다는 것이 인상깊게 남았고 AI에 대해 신중하게 생각할 필요가 있다는 생각이 들었다.

[허가영]

계속 발전하는 AI 기술에 대해 언론에서 접할 때마다 벌써 저 정도로 발전했나? 이 정도의 생각만 하고 심각하게 받아들이진 않았는데 이 글을 읽고 정말 AI가 인간을 지배하게 될 날이 머지않았다는 생각이 들었고 관심을 가지고 더 경계하는 태도를 가져야 할 것 같다.