AI 생성 표시는 어디까지 살아남나 — '기계 판독 표시'의 실물

법이 요구하는 문장은 기술을 지정하지 않는다

AI 생성물 표시를 다루는 규정들은 대체로 같은 모양의 문장을 쓴다. 출력물을 "기계가 판독할 수 있는 형식으로 표시하고 인위적으로 생성·조작되었음을 탐지할 수 있게" 하라는 것이다. EU AI법 제50조 2항이 그렇게 적혀 있고, 해법은 "효과적이고 상호운용 가능하며 견고하고 신뢰할 수 있어야" 한다는 단서가 붙는다.

조문은 여기서 멈춘다. 어떤 기술을 쓰라는 지정이 없다. 그래서 "AI가 만든 건 자동으로 표시된다"는 문장이 실제로 무엇을 뜻하는지는 법전이 아니라 기술 표준 문서를 열어야 나온다. 이 글은 그 표준 문서들이 자기 한계를 어떻게 적어 두었는지를 모으는 데 목적이 있다. 어떤 방식이 더 낫다는 판정은 하지 않는다.

표시의 실물은 두 갈래다

현재 널리 쓰이는 방식은 성격이 아주 다른 둘로 나뉜다. 하나는 파일에 붙이는 서명된 기록이고, 다른 하나는 픽셀이나 소리 자체에 심는 보이지 않는 신호다.

표의 마지막 두 줄이 이 글의 요점이다. 두 방식은 경쟁 관계가 아니라 서로의 구멍을 메우려고 같이 쓰인다. 기록은 정보가 풍부한 대신 잘 떨어지고, 워터마크는 정보가 빈약한 대신 잘 붙어 있다.

표준이 스스로 적어 둔 한계

여기서부터가 요약 기사에서 잘 빠지는 부분이다. C2PA 보안 고려사항 문서는 자기 한계를 에두르지 않고 적는다.

"C2PA는 자산에서 C2PA 매니페스트가 완전히 제거되는 것에 대해서는 어떠한 보호도 제공하지 않는다."
— C2PA Security Considerations 2.4, 2.3절

같은 표준의 해설 문서는 질문 형식으로 한 번 더 못 박는다. "출처 메타데이터가 제거될 수 있는가? 그렇다, 제거될 수 있다." 법이 가리키는 그 표시가, 표시를 만든 쪽의 문서에서 가장 단순한 공격에는 무방비라고 명시돼 있는 셈이다.

한 겹 더 있다. 같은 보안 문서는 화면에 띄운 이미지를 카메라로 다시 찍는 경우를 다루며, 그렇게 만들어진 파일은 "기술적으로 유효하고 사실적"이라고 적는다. 진짜 카메라로 찍은 것이 맞으므로 서명도 정상이다. 표시가 지워지는 것이 아니라, 표시가 붙은 채로 내용만 거짓이 되는 경로다.

그래서 나온 보완책이 튼튼한 콘텐츠 자격증명이다. 암호 해시로 파일과 기록을 묶는 방식(하드 바인딩)에 워터마크·지문 같은 무른 결합(소프트 바인딩)을 얹어, 기록이 파일에서 떨어져 나가도 어딘가에 보관된 원본 기록을 다시 찾아올 수 있게 하는 구조다. 두 갈래를 굳이 함께 쓰는 이유가 여기 있다.

표준 해설 문서는 이용자 쪽 태도까지 적어 두었다. "표시가 없는 콘텐츠를 불신해야 하는가"라는 물음에 답은 "경우에 따라"이고, 표시를 붙이는 것은 선택이므로 표시 없는 자료가 일률적으로 덜 믿을 만한 이중 구조를 만들 의도가 없다고 밝힌다. 표시 없음이 곧 사람이 만들었다는 뜻은 아니라는 것을 표준 자신이 먼저 인정한다.

플랫폼은 실제로 무엇을 읽고 있나

표시가 붙어도 읽는 쪽이 없으면 화면에는 아무것도 나타나지 않는다. 주요 플랫폼이 자기 고지 문서에 적어 둔 내용을 모으면 아래와 같다. 네 번째 칸은 각 회사가 스스로 밝힌 한계다.

다섯 줄 중 셋이 같은 말을 다른 문장으로 적고 있다. 전부는 못 잡는다. 표시 제도가 겨냥하는 것은 완전 탐지가 아니라, 정직하게 밝히려는 쪽에 밝힐 수단을 주는 일이라는 뜻이다. C2PA 측 공개 지면도 같은 취지를 적어 두었다.

글은 여전히 빈칸이다

이미지 쪽은 그래도 확인 경로가 생겼다. 텍스트는 사정이 다르다. 구글은 2024년 10월 SynthID의 텍스트 워터마킹을 오픈소스로 공개해 널리 쓰이는 라이브러리에 넣었지만, 공개된 것은 표시를 넣는 방법이지 남의 글을 검사하는 능력이 아니다.

검출은 워터마크를 넣을 때 쓴 설정에 묶여 있다. 설정을 모르면 검출도 안 된다. 그래서 아무 글이나 붙여 넣어 판정받는 공개 도구가 나오기 어렵다. 구글 문서가 적어 둔 한계 두 줄도 분명하다.

• 사실을 전달하는 답변에서는 워터마크가 덜 효과적이다. 정확도를 해치지 않으면서 표현을 바꿀 여지가 적기 때문이다.
• 글을 충분히 고쳐 쓰거나 다른 언어로 옮기면 검출기의 확신도가 크게 떨어진다.

여기에 하나 더. AI가 쓴 글을 가려낸다고 광고하는 판별기들은 이 사이트의 다른 문서에서 이미 다룬 것처럼 오판이 잦다. 표시 제도는 "AI 글 판별기"와 다른 물건이다. 앞의 것은 만든 쪽이 스스로 남기는 신호이고, 뒤의 것은 바깥에서 문체를 보고 추측하는 방식이다. 뒤의 것이 어려운 문제로 남아 있다는 사정은 이번 표준들로 달라지지 않았다.

오늘 할 수 있는 확인, 할 수 없는 확인

정리하면 손에 쥘 수 있는 것은 이 정도다.

1. 이미지 파일이 손에 있을 때 — 콘텐츠 자격증명 공개 확인 페이지에 올리면 서명된 기록이 남아 있는지 볼 수 있다. 기록이 없으면 "표시가 없다"까지가 결과이고, 사람이 만들었다는 뜻이 되지는 않는다.
2. 구글 계열 결과물이 의심될 때 — 제미나이 앱 안에서 SynthID 확인이 제공되고, 검색·크롬으로 넓히는 중이라고 구글이 밝혔다. 다만 언론·연구자용 별도 확인 포털은 신청 기반으로 운영돼 왔다.
3. 글에 대해서는 — 일반 이용자가 쓸 수 있는 공개 확인 경로가 사실상 없다. 이 칸은 비워 두는 것이 정확하다.

세 줄 모두에 공통으로 붙는 단서가 있다. 스크린샷 한 번, 메신저 한 번 거치면 기록은 대체로 떨어진다. 그러니 표시의 유무를 진위 판정으로 쓰지 말고 단서 하나로 쓰는 편이 실제 사용에 맞는다. 답이 이상할 때 무엇을 먼저 열어야 하는지는 오답을 여섯 칸으로 나눠 적는 법 쪽이 다룬다. 이 표시 의무가 언제부터 어느 조항으로 걸리는지는 EU AI법 적용일 대장에 정리해 두었다.

원문 대장

아래는 이 글이 인용한 지면이다. 표기한 날짜는 문서 자체에 적힌 날짜이고, 열어서 대조한 날은 모두 2026년 7월 26일이다.

• C2PA 보안 고려사항 2.4 — 매니페스트 제거 무방비 문장, 화면 재촬영 문단. spec.c2pa.org
• C2PA 해설서 2.4 — 메타데이터 제거 가능 문답, 튼튼한 자격증명(하드·소프트 바인딩), 표시 없는 자료를 불신해야 하는가에 대한 답. spec.c2pa.org
• C2PA 참여 조직 목록 — 표의 참여사 이름. c2pa.org/membership
• 구글 딥마인드 SynthID — 대상 형식과 변형 내성 설명. deepmind.google/models/synthid
• 구글 SynthID 텍스트 안내 — 사실형 답변에서 덜 효과적이라는 문장과 재작성·번역 시 확신도 저하. ai.google.dev
• 틱톡 뉴스룸(2024-05-09) · 메타 뉴스룸(2024-02-06, 2025-04-01 갱신) · 링크드인 고객센터 · 유튜브 고객센터 · 구글 블로그(2024-09-17) — 플랫폼 표의 네 칸 전부.
• 콘텐츠 자격증명 확인 페이지 — 위 1번 확인 경로. contentcredentials.org

한 가지 밝혀 둘 제약이 있다. OpenAI 공식 지면(도움말·블로그)은 자동 요청을 차단해 이 글을 쓰는 동안 원문을 열지 못했다. 그래서 OpenAI 제품의 표시 적용 범위는 본문 표와 서술에서 뺐고, C2PA 참여 조직 명단에 이름이 있다는 사실만 남겼다. 마찬가지로 표준의 국제표준화 진행 상태도 원문을 열지 못해 다루지 않았다. 그 밖의 내용은 2026년 7월 26일 기준으로 위 지면에 적힌 문장만 옮긴 것이며, 각 방식의 성능을 측정하거나 우열을 판정하지 않았다. 표시 기술과 플랫폼 동작은 자주 바뀌므로 중요한 판단에는 원문을 다시 펼쳐야 한다.