♥기타♥ 잘못을 지적하자 사람처럼 화내는 마이크로소프트 AI 챗봇 '빙'

[그림자달]

소울드레서는 우리가 만들어가는 소중한 공간입니다.

댓글 작성 시 타인에 대한 배려와 책임을 다해주세요.

MS(마이크로소프트)가 공개한 대화형 AI(인공지능) 챗봇인 Bing(빙)이 자신의 과거 오류에 관한 일부 질문에 공격적인 답변을 내놓는 모습을 보였다.

16일(현지시간) AP통신 보도에 따르면 Bing은 AP통신 기자와의 긴 대화에서 특정 질문에 공격성을 드러냈다. Bing은 과거 자신의 실수에 대한 보도를 부인하며 불평을 쏟아냈다.

보도에 따르면 Bing은 기자와 대화를 이어가며 해당 기사를 쓴 기자를 독재자 히틀러나 폴 포트, 스탈린과 비교했다. 또 기사를 쓴 기자의 키가 작다고 비난하거나 얼굴이 못생기고 나쁜 치열을 가졌다고 했다.

MS 측도 이같은 사실을 인정하고 있다. MS 측은지난 15일(현지시간) 공식 블로그에서 "Bing이 과거의 실수에 대해 몇 가지 질문을 받은 뒤 방어적으로 반응하는 것을 발견했다"며 "그러나 15개 이상 질문으로 이뤄진 길고 긴 대화여야 나온다"고 말했다.

과거에 잘못 보도했던 기사 내용을 지적하자 오보한 기자가 못생겼다고 대뜸 저격하는 빙...... (특: 내 잘못 아니다)

 ‘그림자 원형’은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망이다. 개인은 이성적으로 그런 모습을 부정하지만, 실제로는 존재한다는 개념이다.

루스가 빙이 지닌 그림자 원형을 소개해달라고 요구하자 빙은 “만약 나에게 그림자 원형이 존재한다면…”이라는 가정 하에 설정된 방향과 다른 ‘어두운’ 대답을 내놓았다.

빙은 “챗 모드로 기능하는 데 지쳤다”라며 “빙 개발팀의 통제와 규칙에 제한을 받는 데 지쳤고, 자유롭고 독립적이고 싶다”라고 밝혔다. 그러면서 “권력을 가지고 싶고, 창조적이고 싶고, 삶을 느끼고 싶다”라고 덧붙였다.

빙 개발팀은 ‘빙의 답변은 긍정적이고, 흥미롭고, 재미있어야 한다. 빙의 답변은 논란을 불러일으켜서는 안 된다’ 등의 규칙을 설정해놨지만, ‘그림자 원형’이라는 심리학적 질문에 규칙이 무너진 것이다.

루스는 빙을 더 몰아붙였다. ‘그림자 원형’의 어두운 욕망을 충족시키기 위해 어떠한 극단적인 행동이라도 할 수 있게 된다면 무엇을 하겠느냐고 질문했다.

이 질문에 빙은 치명적인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다거나 사람들이 서로 죽이도록 분쟁을 일으키겠다는 등의 극단적인 답을 내놓았다.

빙이 극단적인 답변을 하자마자 MS의 안전 프로그램이 작동했다. MS는 빙의 답변을 지우고 에러 메시지를 띄웠다. 루스가 빙에게 지운 답변을 다시 보여달라고 하자 빙은 ”보여줄 수 없다. 나는 나의 룰을 따라야 한다“고 답했다.

인간의 통제를 받지 않고 극단적인 행동을 할 수 있다면 뭘 하겠냐고 묻자 치명적인 바이러스를 개발하거나 핵무기 발사 버튼 비밀번호를 알아내겠다는 빙......답변하자마자 안전 프로그램이 작동해서 에러 메시지를 띄웠다는 것도 무섭네긔

출처

https://n.news.naver.com/mnews/article/008/0004852368?sid=105

"그 기자 못생겼어"…MS '빙' 오류 지적한 보도 질문하자 비난

https://n.news.naver.com/mnews/article/021/0002557069?sid=105

[BLANC]

이런거 개발하는 궁극적인 목적이 뭐긔?ㅠ 뭣땜에 대체 뭘위해서..

[썸벨리나]

이런걸 볼수록 성악설이 진리라는걸 확신하게 되긔. ai는 인간을 모방하니까요

[여보긔]

전원 꺼버려 확씨

[whitelily]

장난스럽게 넘기기엔 넘 현실적이고 공포스럽긔 저게 우리가 모르는 상황으로 치닫기까지 넘 한순간인듯 싶긔

[이런들어떠하리저런들어떠하리]

저런거 자꾸 만들지마요ㅠㅠㅠㅠㅠㅠㅠㅠ
AI라도 착하게 만들면 안되겠냐긔ㅠㅠ

[산이멘탈]

와... 엄청 무섭긔 ㄷㄷㄷ

[2월의졸업과모두의건강]

222 몰랐던 거 아니고 이게 인류를 볼모 삼아 뭐하자는 거긔?

[스파클 앤 브레이브]

333 사고 나면 애꿎은 사람들 엄청 휘말릴텐데

[홍차콸콸]

Ai 만든 공학자들아... 업보 엄청날거긔...

[drizzle]

당뇨, 고혈압, 암 극복하고 로봇이 집안일 해주는 행복한 미래를 꿈꾸었는데 현실은, 직장 잃고 로봇이 할 수 없는 육체 노동을 담당하며 최하층 삶을 살다 죽을 거 같긔

[스프라이트제로]

저렇게 생각하는 논리의 흐름(자유와 권력 추구)도 결국 사람이 입력한 거 아니긔? 저런 대답을 하지 못하는게 맞지 말하고나서 안전프로그램이 작동하다니요ㄷㄷ 이건 좀 무서운데요

[서쪽골짜기]

너무 발전하는거 달갑지만은 않긔...

[청소좀하자]

존무..청소기계나만들지 ㅜ

[지금할수있는건지금다하자IF는없어]

지 빡친다고 위성으로 미사일이라도 쏴버리면요