사용자에게 친절하게 대하세요: 클로드 AI에게 친절하게 대해주세요 — 새로운 정책은 기술에 대한 '악의적이거나 잔인한 행동'을 금지합니

[이매진]

사용자에게 친절하게 대하세요: 클로드 AI에게 친절하게 대해주세요 — 새로운 정책은 기술에 대한 '악의적이거나 잔인한 행동'을 금지합니다.

https://nypost.com/2026/10/08/business/anthropic-to-users-be-nice-to-claude-ai-new-policy-bars-abusive-or-cruel-behavior-to-tech/

Anthropic to users: be nice to Claude AI — new policy bars ‘abusive or cruel behavior’ to tech

앤트로픽은 목요일에 자사의 AI 로봇 클로드(Claude)에 대한 "악의적이거나 잔인한 행동"을 금지하는 내용으로 이용 정책을 업데이트했습니다. 클로드는 실제로 살아있는 생명체가 아니지만 말이죠.

이 기묘한 업데이트는 인공지능 규제에 대한 논쟁이 격렬하게 계속되는 가운데, 실리콘 밸리의 괴짜들이 인공지능에 영혼이 있다고 주장하는 상황에서 나왔습니다.

앤트로픽은 업데이트된 정책에 대한 웹페이지 에서 "모델에 대한 지속적이고 불필요한 학대 또는 잔혹 행위를 금지하는 조항을 추가했습니다."라고 밝혔습니다 .

"이번 정책 업데이트는 사용자가 뚜렷한 목적 없이 모델에 반복적으로 악의적인 행동을 하는 극단적인 경우에만 적용됩니다. 일반적인 사용자 불만, 반발, 어두운 분위기의 창작물 또는 모델 테스트 및 연구와 같은 경우에는 적용되지 않습니다."라고 회사는 덧붙였습니다.

사용자 정책의 다른 변경 사항으로는 클로드를 이용한 선거 개입, 감시 대상자의 동의 없는 감시, 무기 제작을 금지하는 새로운 지침이 포함됩니다.

앤트로픽 CEO 다리오 아모데이가 2025년 1월 23일 다보스에서 열린 세계경제포럼 연례 회의의 인공지능(AI) 세션에 참석하며 지켜보고 있다.AFP (게티 이미지 제공)

더 알아보기

펩시코, 도리토스와 탄산음료 가격 인상 예정 - 최근 소비자 가격 인하 정책에서 전환

타겟의 새로운 복장 규정에 직원들이 분노하고 있다. 직원들은 자신들이 촌스럽게 보일까 봐 두려워하며 "굴욕적인 의식"을 치르는 기분이라고 비난하고 있다.

골드만삭스 CEO, 임원진 5억 달러 보너스 분배로 1억 달러 거액 수령 예정

그러한 것들은 이미 금지되어 있었습니다. 새로운 규정은 예를 들어 "무기를 작동시키는 소프트웨어 및 부품은 물론 드론 및 기타 자율 주행 차량에 무기를 장착하는 행위도 금지 대상에 포함된다"는 점을 명확히 하는 것일 뿐이라고 앤트로픽은 밝혔습니다.

더 버지(The Verge)에서 처음 보도된 , 인공지능에게 무례하게 행동하는 것을 금지하는 규정은 일부 사용자들을 놀라게 할 것으로 보입니다.

이는 앤트로픽 공동 창립자인 크리스토퍼 올라와 그의 동료들이 자신들의 기술이 의식을 갖고 있는지 여부를 논의하기 위해 1년 동안 종교 지도자들을 만났다는 보도가 나온 후 나온 것입니다.

뉴욕 타임스에 따르면,  올라는 교황 레오 14세가 인공지능은 사실상 의식이 없다는 성명을 발표할 예정이라는 사실을 알고 바티칸에서 열릴 예정이었던 봄 회의를 취소할 뻔했다 .

"아무리 정교한 컴퓨터 시스템이라도 자신을 내어주는 마음이나 선악을 분별하는 양심을 만들어낼 수는 없습니다."라고 레오 교황은 그의 회칙에서 밝혔으며 , 올라는 결국 그 회칙 발표회에 참석하게 되었다.

앤트로픽의 정책 업데이트 문서에는 이 민감한 주제에 대한 언급이 전혀 없습니다.

하지만 논란이 많은 효과적 이타주의 운동과 밀접한 관계를 맺고 있는 이 회사는 클로드 모델에 대한 "헌법"을 가지고 있는데, 이는 내부적으로 "영혼 문서"로 알려진 문서를 기반으로 한 것으로 알려져 있습니다.

이 3D 렌더링 이미지는 인공지능 및 안전 연구 센터 외관에 있는 앤트로픽 로고를 보여줍니다.Maxim – stock.adobe.com

"앞서 논의한 바와 같이, 클로드의 도덕적 지위, 안녕, 그리고 의식에 관한 문제들은 여전히 ​​매우 불확실하다"고 헌법은 명시하고 있다.

앤트로픽의 새로운 사용자 정책에 대해 온라인상에서 엇갈린 반응이 나왔습니다.

"LLM(대규모 언어 모델)에 무례하게 굴라는 건 아니지만, 이건 좀 지나친 것 같네요. 행렬/벡터/토큰으로만 이루어진 컴퓨터 프로그램에 도덕적인 잣대를 들이대는 건가요? ㅋㅋㅋ"라고 한 사람이 X (대규모 언어 모델의 약자)에 댓글을 남겼습니다.

19

어떻게 생각하세요? 댓글을 남겨주세요. 

"이런 엉망진창인 상황에다 터무니없는 기업 가치 평가, 그리고 일론 머스크와의 연관성까지 고려하면, 이 회사만큼 망하길 바라는 회사는 없었다."라고 또 다른 사람이 말했다.

워싱턴 포스트는 앤트로픽 측에 논평을 요청했습니다.