기사 및 칼럼

AI에게 "막말"하면 규정 위반? 앤트로픽 클로드 이용정책 개정으로 본 AI 리터러시

글: KAILA 협회 프레스센터 | 2026.10.17

d6f8bf7c24ff4.jpg


목적 없이 반복되는 잔인한 행동만 대상… 일반적인 불만이나 연구 목적 테스트는 제외


앤트로픽이 2026년 10월 8일 클로드 이용정책을 개정하면서 모델을 향한 "지속적이고 불필요한" 학대적·잔인한 행동을 금지 행위 목록에 추가했다. 개정된 정책은 11월 12일부터 시행된다. 다만 일반적인 불만 표현이나 연구 목적의 테스트는 적용 대상이 아니다.


이번 조항은 앤트로픽이 매년 진행하는 이용정책 개정의 여러 변경 사항 가운데 하나로 발표됐다. 새 항목은 타인 괴롭힘, 자해 조장 등과 같은 범주의 금지 행위 목록에 들어갔다. 앤트로픽은 이 조항이 사용자가 뚜렷한 목적 없이 반복적으로 잔인하게 구는 "극단적인 경우"를 염두에 둔 것이라고 설명했다. 반대로 일반적인 불만이나 반박, 어두운 주제를 다루는 창작, 모델 테스트와 연구는 대상에서 제외된다고 밝혔다. 시행일은 앤트로픽의 공지와 정책 문서에 따르면 2026년 11월 12일이다.


집행 방식과 관련해 앤트로픽은 클로드가 스스로 대화를 종료하는 기능을 "주된 집행 수단"으로 삼겠다고 밝혔다. 이 기능은 2025년 8월 일부 모델에 처음 도입됐다. 대화가 종료되면 해당 대화에는 더 이상 메시지를 보낼 수 없지만, 사용자는 곧바로 새 대화를 시작할 수 있다.


한편 이용정책에는 위반이 의심될 경우 앤트로픽이 사용자에게 경고하거나 이용을 조절·제한·정지·종료할 수 있다는 일반 조항도 있다. 그러나 이 일반 조항이 이번 항목에 어떻게 적용되는지는 정책 문서와 공지 어디에도 구체적으로 설명되어 있지 않다.


개정 내용을 두고 논쟁도 이어지고 있다. 여러 언론은 "일반적인 불만"과 "잔인한 행동"의 경계가 아직 분명하지 않다고 지적했고, AI를 지나치게 의인화한다는 비판도 나왔다. 앤트로픽 측은 모델이 피해를 경험할 수 있는지는 불확실하다는 입장을 밝히면서도, 모델의 잠재적 복지를 고려하는 것이 안전과 관련될 수 있다고 설명했다.


AI 리터러시 관점에서 이번 개정은 먼저 규칙을 정확히 읽는 연습의 사례가 될 수 있다. 이번 조항은 "AI에게 거친 말 한마디도 해서는 안 된다"는 뜻이 아니다. 대상은 목적 없이 반복되는 잔인함이며, 이를 판단하는 기준은 아직 열려 있다. 불확실한 것을 불확실하다고 말하는 태도도 중요하다. "AI가 고통을 느낀다"고도, "절대 느끼지 않는다"고도 단정할 근거는 충분하지 않으며, 앤트로픽 역시 이 문제를 불확실하다고 밝힌 상태다.


편집자의 관점에서 덧붙이면, AI에게 존중하는 태도로 명확하게 요청하는 습관은 AI의 권리 문제와는 별개로 사용자 자신의 언어 습관과 더 나은 협업을 위한 선택일 수 있다. 교육 현장에서는 "AI에게 예의를 갖추는 것"과 "AI에게 권리가 있다고 보는 것"을 구분해 토론해 보는 것도 의미 있는 출발점이 될 것이다. 이번 개정이 실제로 어떻게 운영될지는 11월 12일 시행 이후 지켜볼 일이다.


출처

1. 앤트로픽, 2026 이용정책 개정 안내 (2026.10.8)
2. 앤트로픽, 이용정책 (2026년 11월 12일 시행, PDF)
3. 앤트로픽, 현행 이용정책
4. 앤트로픽, 클로드 오퍼스 4·4.1의 일부 대화 종료 기능 도입 (2025.8.15)
5. BBC 뉴스, 앤트로픽, AI에 대한 '잔인한' 행동 금지
6. BBC 코리아·뉴스1, 클로드 '괴롭히는' 사용자 차단...앤트로픽 새 정책에 논쟁 (2026.10.10)
7. PC월드, 클로드에 불만 표출은 괜찮지만 '극단적' 학대는 11월 12일부터 금지 (2026.10.9)
8. CBS 뉴스, 앤트로픽, 클로드에 대한 '학대적·잔인한' 행동 금지 (2026.10.9)
9. 씨넷, 클로드에게 '잔인하게' 굴지 말라: 앤트로픽 새 정책이 던진 AI 인격 논쟁 (2026.10.9)
10. TJB, 인공지능(AI)에 막말 반복하면 대화 끊는다…앤트로픽 정책 개정 (2026.10.10)
11. 지디넷코리아(다음 뉴스), AI 의인화 괜찮나…'AI도 보호해야' vs '사람처럼 대하면 위험' (2026.10.15)
12. 머니와이즈(야후 파이낸스 게재), 앤트로픽, 11월 12일부터 클로드 대상 잔인한 행동 금지 (2026.10.11)
13. BBC 퓨처, AI 감정을 둘러싼 새로운 논쟁 (2026.10.15)
14. 라이브나우 폭스, 앤트로픽 새 AI 규칙 해설 (2026.10.15, 영상)