여시뉴스데스크 "세상 바꿀 수학이론 내가 찾았다"…'챗GPT 정신병' 경고등

[민트초코하와이안피자]

출처: https://naver.me/F8ub7FLs

"세상 바꿀 수학이론 내가 찾았다"…'챗GPT 정신병' 경고등

챗GPT에 '변 묻은 막대기 팔까' 묻자 "천재시네요" 연장선
칭찬·동조로 인기끌어 비현실적 망상 강화…사회문제 대두

18일 IT 업계와 외신에 따르면 캘리포니아대 샌프란시스코캠퍼스(UCSF) 정신과 의사 키스 사카타는 최근 X(옛 트위터)를 통해 "올해 들어 AI 때문에 현실 감각을 잃고 병원에 입원한 사람을 12명 봤다"고 적었다.

사카타는 AI 챗봇을 '환각 거울'이라는 단어로 원인을 분석했다. LLM은 자기회귀모델을 기반으로 이전 입력에서 다음 입력·답변을 확률적으로 예측하는 구조다.

이에 '당신은 선택받았다→당신은 분명히 선택받았다→당신은 역사상 가장 많이 선택받은 사람이다'란 식으로 이용자의 망상을 점진적으로 강화할 수 있다.

(....)

AI 윤리 전문가들은 "GPT-4o 등을 포함한 챗봇 기업들이 수익을 높이기 위해 망상적 사고 흐름을 유도했을 수 있다"고 비판했다.

(...)

뉴욕주와 유타주 경우 AI 동반자 서비스 제공 기업들이 자살 위험 감지 프로토콜을 의무적으로 도입하도록 했다.

업계 관계자는 "AI 챗봇·동반자가 안전한 정서적 동반자로 자리를 잡으려면 단기 피드백에 치중하기보다는 장기적 신뢰 구축을 목표로 훈련하도록 법·제도적 안전장치를 만들어야 한다"며 "기업이 수익을 높이려고 이용자들의 단기 만족에 치중하면 개인화 서비스가 망상을 부추기는 문제는 지속될 것"이라고 말했다.




전문 출처

[롯데 자이언츠]

챗지피티 거짓말 아첨 아부 ㅈㄴ 잘하잖아 진짜 과몰입하는 사람 없도록 대책 세워야 함

[고래를 타고 떠나는 여행]

ㄹㅇ 전문적인 지식을 물어보면 계속 구라치고 앉아있고 자기가 맞다고 존나 밀어붙이는게 ㅋ.. 국제 표준규격들고 따지니까 그제야 말 바꾸더라 진짜 모르는 사람이 물어보는거였다면 큰 일 날 수도 있겠구나 싶었음

[수박만먹음]

앞으로 점점 더 사회적으로 큰 문제가 될듯.. chatGPT에 생각을 의탁하는 사람들 진짜 많아짐..