앤트로픽, 클로드 생성물에 ‘보이지 않는 워터마크’ 전 세계 적용

톱셀럽(topceleV) 2026년 08월 13일 오후 06:33 조회수

453

AI가 쓴 글을 가려내는 일은 그동안 사후 탐지기의 몫이었다. 정확도를 둘러싼 논란이 이어졌고, 학교와 직장에서는 사람이 직접 쓴 글이 AI 생성물로 잘못 지목되는 일도 반복됐다. 이제 모델을 만드는 쪽이 글이 만들어지는 순간부터 흔적을 남기는 방향으로 무게 중심을 옮기고 있다.

앤트로픽(Anthropic)이 자사 AI 모델 클로드(Claude)의 출력물에 기계가 읽을 수 있는 표식을 넣는다. 회사는 10일(현지시간) 갱신한 고객지원 문서에서 유럽연합(EU) AI법 제50조 2항에 근거한 ‘AI 생성 콘텐츠 투명성 실천규범’에 생성 AI 모델·시스템 제공자 자격으로 서명했다고 밝히고, 이 약속을 어떤 방식으로 이행하는지와 표식의 작동 원리·한계를 함께 설명했다. 해당 조항의 적용은 지난 2일 시작됐다.

표식이 처음부터 붙는 대상은 2026년 8월 2일 이후 출시되는 클로드 모델이다. 그 이전에 나온 기존 모델에는 법이 정한 경과 기간이 적용되며, 회사는 이들 모델에도 기능을 확대하는 작업을 진행 중이라고 밝혔다. 현재 서비스 중인 주력 모델 대부분은 시행일 이전에 공개돼 아직 의무 적용 단계에 들어가 있지 않다. 적용 범위는 클로드 웹·앱은 물론 개발자용 클로드 플랫폼(API), 클로드 코드, 클로드 코워크, 클로드 태그를 아우른다. 아마존웹서비스(AWS)와 구글 클라우드, 마이크로소프트 파운드리를 거쳐 지원 모델을 이용하는 경우에도 텍스트 워터마크는 그대로 적용된다. 지역 제한도 두지 않아 EU 밖인 한국을 포함해 클로드가 제공되는 모든 곳이 대상이다.

방식은 두 갈래다. 하나는 텍스트에 직접 짜 넣는 워터마크로, 모델이 문장을 생성하는 단계에서 사람이 지각할 수 없는 표식을 글 자체에 엮는다. 회사는 응답의 의미와 품질, 가독성은 달라지지 않는다고 설명했다. 표식이 문장의 일부이기 때문에 다른 곳으로 복사해 붙여 넣어도 함께 옮겨 가고, 일부 편집을 거쳐도 남을 수 있다. 모델 단계에서 적용되는 만큼 어떤 제품에서 나온 글이든 동일하게 존재한다. 다른 하나는 파일에 붙는 서명된 출처 메타데이터다. .svg, .png, .jpg 같은 파일을 만들 때 콘텐츠 출처를 기록하는 업계 표준 C2PA(콘텐츠 출처·진위 확인 연합)를 따르는 정보가 첨부되며, 서명 라벨이 있으면 해당 파일이 클로드를 거쳤는지와 이후 변조가 있었는지를 함께 확인할 수 있다.

다만 표식이 곧 ‘AI가 처음부터 쓴 글’이라는 증거는 아니다. 사람이 직접 쓴 원고를 클로드에 넣어 교정, 번역, 요약, 파일 변환만 거쳐도 표식이 남기 때문이다. 반대로 표식이 잡히지 않는다고 해서 AI를 쓰지 않았다고 단정할 수도 없다. 마킹을 지원하지 않는 모델의 출력물이나 대폭 고쳐 쓰거나 번역·혼합한 문장, 신뢰할 만한 신호를 얻기에 너무 짧은 글에서는 검출이 어렵다. 파일 메타데이터 역시 형식 변환이나 재저장, 화면 캡처 과정에서 사라질 수 있다. 이용자와 제3자가 표식을 직접 확인할 수 있는 탐지 방법은 아직 공개되지 않았고, 회사는 별도 기술 문서를 통해 추후 공개하겠다고만 밝혔다. 클로드를 자사 제품에 넣는 개발사에는 제50조가 각자의 서비스에 무엇을 요구하는지 스스로 평가하라고 요구했다.

배경에는 EU의 제재 규정이 있다. 제50조는 생성 AI 제공자에게 생성·가공된 콘텐츠를 기계가 식별할 수 있는 형태로 표시할 의무를 지우며, 위반 기업에는 최대 1500만유로(약 250억원) 또는 전 세계 연간 매출의 3% 가운데 높은 금액이 제재금으로 부과될 수 있다. 유럽집행위원회에 따르면 7월 말 기준 약 190개 조직이 실천규범에 서명했고, 이 가운데 제공자 항목인 1절에 서명한 곳은 83곳이다. 앤트로픽 외에 구글, 오픈AI, 메타, 마이크로소프트, 미스트랄, 코히어, 알레프 알파, 블랙 포레스트 랩스, 신테시아가 포함됐다.

발표 이후 이용자 반응은 갈렸다. 미국 매체 테크크런치는 12일(현지시간) 커뮤니티 사이트 레딧을 중심으로 반발이 나오고 있다고 전했다. 한 이용자는 문단 하나를 정리하는 데 클로드를 쓴 학생이나 장문 녹취를 요약시킨 기자처럼 가벼운 활용까지 표식이 남는다는 점을 문제 삼았고, 또 다른 이용자는 지시와 맥락, 판단을 모두 사람이 제공했는데 도구인 AI가 무엇에 대한 몫을 주장하는 것이냐고 반문했다. 반면 같은 게시판에서는 “AI 생성물을 탐지할 수 있어야 한다는 문제”라며 표식이 공로를 주장하는 장치가 아니라는 반박이 이어졌고, 표식을 원하지 않는 이유는 결국 사실을 감추기 위한 것이라는 지적도 나왔다. 학습 데이터 수집 방식은 불투명하면서 이용자 결과물에는 표식을 붙인다는 점을 모순으로 짚은 의견도 있었다.

같은 흐름은 국내에도 이미 들어와 있다. 지난 1월 22일 시행된 인공지능기본법은 제31조에서 생성형·고영향 AI 기반 제품·서비스 사업자에게 운용 사실의 사전 고지와 결과물의 AI 생성 사실 표시를 의무화했다. 일반 생성물은 사람이 인식할 수 있는 표시와 워터마크·메타데이터 같은 기계 판독 방식 가운데 선택할 수 있고, 딥페이크는 가시적 표시만 허용된다. 위반 시 최대 3000만원의 과태료가 부과될 수 있으나 정부는 시행 초기 1년 이상의 계도 기간을 두기로 했다. 결국 EU와 한국이 같은 방향의 규제를 앞뒤로 도입한 셈이다.

기술 자체는 새로운 것이 아니다. 구글은 앞서 제미나이에 신스ID 텍스트(SynthID-Text)를 적용해 단어 선택 확률을 미세하게 조정하는 방식으로 통계적 패턴을 남겨 왔다. AI 음원 서비스 수노(Suno)도 최근 생성 음원에 표식을 넣기로 했고, 뉴스레터 플랫폼 서브스택은 AI 생성 콘텐츠 식별 업체와 손잡았다. 개별 서비스 단위의 대응이 모델 단위로 내려온 것이 이번 조치의 차이점이다.

관건은 탐지 도구의 공개 시점과 정확도다. 표식은 어디까지나 ‘클로드가 처리에 관여했을 가능성’을 알리는 신호인데, 검증 수단이 먼저 풀리지 않은 상태에서 학교나 직장이 이를 단독 근거로 삼을 경우 오판 위험이 그대로 남는다. 표식 도입 자체보다 그 결과를 어떻게 읽을지에 대한 기준 마련이 다음 과제로 넘어왔다.