Claude의 문장에 보이지 않는 표식이 들어간다: 텍스트 워터마크가 증명하는 것
Anthropic이 차세대 Claude 출력에 SynthID-Text 계열 워터마크를 적용한다. 독자가 느끼지 못하는 확률 패턴의 원리와 EU AI법 대응, 탐지 한계를 짚었다.
Anthropic은 2026년 8월 14일 앞으로 출시할 Claude 모델의 텍스트 출력에 보이지 않는 워터마크를 넣겠다고 밝혔다. 화면에 표식이나 숨은 문자를 덧붙이는 방식이 아니라, 모델이 다음 단어를 고를 때 쓰는 무작위 선택에 암호학적 패턴을 심는 방식이다. 회사는 유럽연합 인공지능법(EU AI Act)과 AI 생성 콘텐츠 투명성 행동규범(Code of Practice on Transparency of AI-Generated Content)에 대응하기 위한 조치라고 설명했다.
문장을 바꾸지 않고 흔적을 남기는 방식
대규모 언어 모델은 앞 문맥에 이어질 후보 단어마다 확률을 계산한다. 정답이 하나로 고정되지 않은 구간에서는 뜻과 품질이 비슷한 여러 후보가 남는다. 워터마크는 이 낮은 위험도의 선택에 비밀 키와 앞선 단어들을 반영해 일정한 통계 패턴을 만든다. 나중에 키를 가진 검출기가 단어 선택의 연속성을 분석하면 Claude가 일부라도 관여했을 가능성을 추정할 수 있다.
Anthropic이 채택한 방식은 Google DeepMind가 2024년 국제학술지 Nature에 발표한 SynthID-Text1 계열이다. 논문은 실제 Gemini 트래픽의 일부와 통제 실험에서 워터마크 적용 여부에 따른 사용자 평가의 통계적 차이를 찾지 못했다고 보고했다. Anthropic도 내부 시험에서 내용·창의성·가독성 저하를 보지 못했다고 밝혔다. 다만 두 결과 모두 모든 언어와 장르에서 영향이 전혀 없음을 보증하는 것은 아니다.
사용자가 체감할 변화
워터마크는 별도 토큰을 생성하지 않아 가격을 높이지 않고, 추론 속도에 미치는 영향도 미미하다는 것이 회사의 설명이다. 표식에는 사용자·조직·대화 식별 정보가 없으며 특정 계정으로 역추적할 수도 없다. 번역처럼 출력의 대부분을 Claude가 고르는 작업에는 적용되지만, 사람이 쓴 문장의 맞춤법만 조금 고치는 작업은 모델이 선택한 단어가 적어 검출 신호가 약할 수 있다.
코드와 정확한 사실 문장도 같은 한계를 가진다. 실행 가능한 코드는 선택 가능한 토큰의 폭이 좁고, 사실 문장은 정답을 피해서는 안 된다. 따라서 워터마크를 넣을 여지가 자연어 산문보다 적다. 주석이나 이름처럼 여러 선택이 가능한 부분에는 신호가 남을 수 있지만, 검출 결과만으로 전체 코드를 Claude가 작성했다고 결론 내릴 수는 없다.
정책의 배경
EU는 2026년 8월 2일부터 유럽 시장에 제공되는 생성형 AI의 콘텐츠 표시 의무를 적용하기 시작했다. Anthropic을 포함한 주요 사업자와 약 190개 서명 주체는 7월 투명성 행동규범에 참여했다. Anthropic은 지역별로 안정적으로 구분 적용하기 어렵다는 이유로 새 모델의 워터마크를 출시 시점부터 전 세계에 적용할 계획이다. 8월 2일 이전에 출시된 모델에는 전환 기간이 있으며, 향후 몇 달에 걸쳐 적용 범위를 넓힌다고 밝혔다.
이미지·SVG 같은 지원 파일에는 텍스트 워터마크 대신 암호학적으로 서명된 출처 메타데이터인 C2PA2 자격 증명을 붙인다. 이는 파일 안의 픽셀이나 내용에 흔적을 숨기는 것과 다르며, 호환 도구가 제작·처리 관여 정보를 읽는 구조다.
워터마크가 증명하지 못하는 것
- 인간 작성 여부를 판정하지 않는다. 검출기는 Claude 관여 가능성을 추정할 뿐, 신호가 없다는 이유로 사람이 썼다고 확정할 수 없다.
- 다른 모델을 식별하지 않는다. 사업자마다 키와 구현이 달라 Claude 검출기로 다른 AI의 출력을 판별할 수 없다.
- 짧은 글에는 약하다. 선택 횟수가 적으면 통계적 신뢰도를 쌓기 어렵다.
- 편집에 견고하지 않다. 가벼운 수정에는 일부 신호가 남을 수 있지만 전체 문장을 다시 쓰면 사라질 수 있다.
- 저작권이나 책임을 결정하지 않는다. 워터마크는 관여 가능성에 관한 기술 신호이며 소유권·저자성·법적 책임의 판단 기준이 아니다.
Anthropic은 곧 워터마크 탐지 API를 제공하겠다고 했지만 구체적인 출시일, 접근 권한, 오탐·미탐 기준은 아직 공개하지 않았다. 학교·언론·채용 조직이 이를 활용하려면 단일 점수로 제재하지 말고 원본 기록, 편집 이력, 사람의 검토와 함께 다뤄야 한다. 핵심 변화는 “AI 글을 완벽히 잡아내는 탐지기”의 등장이 아니라, 모델 제공자가 자기 출력에 검증 가능한 확률 신호를 책임지고 심기 시작했다는 데 있다.
출처
- Anthropic — How Claude’s text watermarking works
- Nature — Scalable watermarking for identifying large language model outputs
- European Commission — Transparency of AI-generated content 행동규범
- C2PA — 콘텐츠 출처 자격 증명 표준
1 SynthID-Text: 뜻이 비슷한 다음 토큰 후보의 선택 확률에 비밀 키 기반 패턴을 넣고 통계적으로 검출하는 텍스트 표시 기법.
2 C2PA: 디지털 콘텐츠의 제작·편집 이력을 서명된 메타데이터로 전달하는 개방형 출처 표준.
