앤트로픽, 클로드 향한 반복적 학대 행위 금지

금지 범위와 제외되는 행위

앤트로픽은 이 조항이 분별 가능한 목적 없이 모델에게 반복적으로 잔혹하게 행동하는 극단적 사례에만 적용된다고 설명했다. 일반적인 이용자 불만 표출과 반박, 어두운 창작 주제, 모델 시험과 연구는 금지 대상이 아니다.

앞선 8월 업데이트에서 앤트로픽은 클로드가 지속적으로 유해하거나 학대적인 상호작용을 끝낼 수 있게 했다. 개정 규칙은 이용자가 그런 대화를 계속 시도하는 행위를 명시적으로 금지했다. 규칙 위반 시 경고와 속도 제한, 이용 제한, 일시 정지 또는 접근 종료가 가능하며 제품의 실시간 안전장치가 특정 출력을 차단하거나 제한할 수 있다고

선거·무기·감시 조항

선거 관련 조항은 민주적 절차를 저해하지 말라는 취지로 정리됐다. 후보자나 투표 방법에 관한 기만, 후보자와 선거 당국자 사칭, 투표 참여 억제가 금지된다. 가짜 계정이나 조작된 언론사를 이용하는 광범위한 기만 활동도 금지 대상이다. 다만 개인화된 유권자 표적화의 전면 금지는 삭제됐고, 유권자 안내문 번역이나 투표용지 보정 통지처럼 무해한 작업까지 막을 수 있다는 이유가 제시됐다고

무기 관련 금지 범위에는 소프트웨어와 드론 무기화가 들어갔다. 동의 없는 감시는 더 분명하게 금지됐으며, 자율 하드웨어가 부상을 일으킬 수 있는 경우에는 개입 가능한 운영자를 두도록 했다고 같은 매체는 정부 계약에 예외가 허용될 수 있다는 점을 앤트로픽이 인정했다고 전했다.