AI가 쓴 문장에는 보이지 않는 무늬가 남는다: Claude 텍스트 워터마크의 작동 방식
Anthropic이 향후 Claude 모델에 SynthID-Text 기반 워터마크를 적용한다. 문장 속 숨은 문자 대신 단어 선택의 통계적 패턴을 남기는 방식과 한계를 정리했다.
Anthropic이 향후 Claude 모델의 출력에 텍스트 워터마크를 적용한다고 2026년 8월 14일 밝혔다. 화면에 표시되는 표식이나 숨은 유니코드 문자를 붙이는 방식이 아니다. 모델이 다음 단어를 고를 때 의미와 품질을 해치지 않는 여러 후보 가운데 특정한 통계적 패턴이 남도록 선택 과정을 조정한다.
사람은 읽으면서 그 차이를 알아차리기 어렵지만, 워터마크 키를 가진 검사 시스템은 충분히 긴 문장에서 그 패턴을 측정해 Claude가 작성에 관여했을 가능성을 계산할 수 있다. Anthropic은 EU AI Act의 투명성 의무와 관련 실천규약에 대응하기 위한 조치라고 설명했다.
문장 안에 무엇이 들어가는가
대규모 언어 모델은 앞의 문맥을 바탕으로 다음 토큰의 후보와 확률을 계산한다. 많은 경우 정답이 하나뿐이지 않고, 의미가 비슷한 표현 여러 개가 자연스럽게 이어질 수 있다. 워터마크는 이런 선택의 여지가 있는 지점에서 작동한다.
Claude가 채택하는 방식은 Google DeepMind가 2024년 Nature에 발표한 SynthID-Text를 변형한 것이다. 최근 문맥과 비밀 키에서 만든 의사난수 신호를 다음 토큰 선택에 반영하고, 나중에는 같은 키로 토큰 배열의 상관관계를 측정한다. 별도의 문자를 삽입하거나 모든 대화를 저장해 원문과 대조하는 구조와는 다르다.
Anthropic 설명에 따르면 워터마크는 추가 토큰을 만들지 않고 속도와 비용에 미치는 영향도 미미하다. SynthID-Text 연구팀은 약 2천만 건의 실제 Gemini 응답을 대상으로 한 실험에서 사용자 평가상 유의미한 품질 저하를 찾지 못했다고 보고했다. 다만 이는 모든 언어와 모든 글쓰기 유형에서 완벽한 식별을 보장한다는 뜻은 아니다.
AI 탐지기와 무엇이 다른가
일반적인 AI 탐지기는 이미 완성된 문장의 어휘, 문장 길이, 반복 패턴 등을 보고 사람이 쓴 글인지 모델이 쓴 글인지 추정한다. 특정 모델의 생성 과정에 접근하지 못해도 쓸 수 있지만, 분야와 언어가 달라지면 정확도가 흔들리고 비원어민의 글을 잘못 분류할 위험이 지적돼 왔다.
워터마크 검사는 모델 제공자가 생성 단계에서 심은 키 기반 신호를 찾는다. 따라서 질문도 다르다. “이 글이 사람처럼 보이는가”가 아니라 “이 키를 사용하는 모델이 이 문장의 일부를 만들었을 가능성이 얼마나 되는가”를 묻는다. Claude 워터마크로 다른 회사 모델의 출력을 판별할 수는 없다.
짧은 글·코드·교정에서는 약해진다
통계적 증거가 쌓여야 하므로 문장이 짧으면 탐지 신뢰도가 낮다. 사실 문장이나 수식처럼 정답 후보가 좁은 출력, 정확한 문법이 중요한 코드도 워터마크가 개입할 여지가 작다. 사용자가 쓴 원고를 맞춤법 위주로 가볍게 교정한 경우에도 모델이 새로 고른 단어가 적어 흔적이 충분하지 않을 수 있다.
편집에도 한계가 있다. 가벼운 수정 뒤에는 패턴이 일부 남을 수 있지만, 전체 문장을 다른 표현으로 다시 쓰면 신호가 약해지거나 사라질 수 있다. 워터마크 검출은 Claude가 어느 시점에 관여했을 가능성을 보여줄 뿐, 초안을 전부 작성했는지 일부만 다듬었는지, 누가 저자인지까지 증명하지 않는다.
사용자 추적 정보는 담기지 않는다
Anthropic은 워터마크가 사용자, 조직, 대화 ID를 식별하는 정보를 포함하지 않는다고 밝혔다. 같은 모델의 출력에 공통적인 생성 패턴을 남기는 장치이지, 특정 계정으로 역추적하는 표식은 아니라는 설명이다. 향후 제공 예정인 탐지 API도 문서의 출처 가능성을 판정하는 도구이지 개인 식별 도구로 이해해서는 안 된다.
이미지와 파일에는 다른 방식이 쓰인다. 지원되는 PNG, JPG, SVG 파일에는 생성·처리 이력을 암호학적으로 서명한 C2PA 콘텐츠 자격 증명을 메타데이터에 붙인다. 텍스트 워터마크가 단어 선택의 통계에 남는 것과 달리, C2PA는 파일에 동봉되는 출처 기록이다.
실무에서 해석할 때 확인할 점
- 검출 결과를 표절이나 부정행위의 단독 증거로 사용하지 않는다. 원고 이력, 인용, 작성 과정과 함께 판단한다.
- 짧은 답변, 번역, 코드, 사실 위주의 문장은 탐지력이 낮을 수 있다는 점을 정책에 명시한다.
- 검출 확률의 임계값과 오탐·미탐 기준을 기록하고, 서로 다른 모델의 워터마크를 한 탐지기로 판별할 수 있다고 가정하지 않는다.
- 콘텐츠 출처 표시와 개인정보 추적을 구분한다. 워터마크 검출만으로 작성자나 계정을 특정할 수 없다.
- 자동 판정 뒤에는 사람이 이의를 검토할 절차를 두고, 모델 제공자의 탐지 API 공개 범위와 보존 정책을 확인한다.
텍스트 워터마크는 AI가 만든 문장을 완벽하게 잡아내는 도장이라기보다, 생성 단계에서 남겨 사후 판별을 돕는 하나의 신호에 가깝다. 투명성을 높이는 데 쓸 수 있지만, 짧은 글과 재작성에 약하고 저자·책임·소유권을 대신 판정하지 못한다. 실제 도입의 성패는 탐지 기술보다 그 결과를 얼마나 제한적으로 해석하느냐에 달려 있다.
