Tag: 인공지능기본법

  • AI로 번역만 맡겨도 워터마크가 남습니다

    AI로 번역만 맡겨도 워터마크가 남습니다

    제가 쓴 보고서를 클로드로 영어 번역했습니다.

    몇 일 뒤 상사가 묻습니다. 이거 AI가 쓴 거 아닌가요?

    번역은 흔적이 남고, 교정은 약하게 남습니다. 그리고 지금 회사나 학교가 돌리는 탐지기는 이 워터마크와 아예 다른 물건입니다. 이 둘을 섞어 쓰는 데서 사고가 납니다.

    이 문제를 보게 된 이유

    저도 AI를 꽤 많이 씁니다. 자료를 정리하고, 초안을 만들고, 문장을 다듬거나 번역하는 일까지 맡깁니다.

    다만 처음부터 끝까지 통째로 넘기지는 않습니다. 무엇을 쓸지 정하고, 근거가 맞는지 확인하고, 마지막 문장을 책임지는 일은 직접 합니다.

    블로그 글도 비슷합니다. 검증한 자료를 먼저 모으고 AI가 초안을 만들게 한 뒤, 제가 경험과 판단을 얹습니다.

    그래서 이 이슈를 보면서 가장 먼저 든 생각도 “AI를 썼느냐”보다 어디까지 AI가 손댔는지를 설명할 수 있어야겠구나였습니다.

    내가 쓴 글이냐 AI가 쓴 글이냐..관심이 높아지고 있습니다.

    미국 내 “AI 워터마크 제거기” 검색 관심도 일주일 사이 60% 상승

    제거 도구 하나가 공개 후 얻은 깃허브 스타 1만4000개

    가벼운 AI 편집만 한 학술 초록이 탐지기에서 AI로 표시된 비율 64~80%

    (출처: aitimes, 2026-08-19)

    앞의 둘은 반응의 크기이고, 세 번째는 그 반응이 향하는 곳이 어디인지 보여줍니다.

    워터마크가 실제로 하는 일

    숨은 문자를 심는 방식이 아닙니다.

    모델이 다음 단어를 고를 때, 뜻이 크게 달라지지 않는 후보들 사이의 선택에 통계적 패턴을 쌓습니다. 복사해서 다른 문서에 붙여넣어도 패턴이 남도록 설계됐습니다 (출처: aitimes, 2026-08-19).

    어디서 온 기술인가

    2024년 구글 딥마인드가 발표한 신스ID를 기반으로 개발했습니다 (출처: aitimes, 2026-08-19).

    8월 2일 이후 출시되는 모델부터 적용되고, 기존 모델로도 범위를 넓힐 예정입니다 (출처: aitimes, 2026-08-19).

    EU AI 법의 투명성 규정을 맞추기 위한 조치입니다 (출처: aitimes, 2026-08-19).

    교정과 번역은 다르게 걸립니다

    작업 유형에 따라 신호 세기가 갈립니다.

    작업모델이 고르는 단어워터마크 신호
    문법·구두점 교정적음약할 수 있음
    번역많음 (다음 단어를 모델이 선택)적용됨
    초안 전체 작성전부강함

    (출처: aitimes, 2026-08-19)

    왜 번역이 걸리나

    번역은 결과물의 단어를 모델이 새로 고릅니다. 원문의 뜻은 내 것이지만 표면의 언어는 모델이 만든 거예요.

    워터마크는 그 표면을 봅니다.

    앤트로픽도 구분하지 못합니다

    “클로드가 썼다”와 “클로드가 크게 손봤다”를 워터마크는 나누지 못합니다. 소유권이나 저자성에 대해서도 아무 말을 하지 않습니다 (출처: aitimes, 2026-08-19).

    내가 취재하고 분석한 원고를 번역만 맡긴 경우와, 처음부터 끝까지 AI에게 시킨 경우가 같은 신호로 나옵니다.

    제가 선을 긋는 지점

    제가 AI에 비교적 편하게 맡기는 건 자료 정리, 초안 작성, 번역, 문장 교정입니다. 대신 숫자와 출처 확인, 논리의 방향, 최종 결론은 직접 봅니다.

    특히 번역은 시간을 크게 줄여줘 자주 쓰지만, 번역본을 그대로 보내지는 않습니다. 용어가 맥락에 맞는지, 문장이 원래 의도를 과장하거나 약하게 만들지는 않았는지 짚어봅니다.

    교정은 더 가볍게 씁니다. 이미 쓴 문장에서 어색한 표현이나 오탈자를 잡는 정도입니다.

    반대로 중요한 판단까지 AI에게 맡기면 글이 매끈해져도 제 글이 아닌 느낌이 강해집니다. 그래서 저는 생성은 맡겨도 판단은 넘기지 않는 쪽으로 선을 긋고 있습니다.

    정작 사람들이 걸리는 건 탐지기입니다

    앤트로픽의 공식 검출 API는 아직 공개 전입니다.

    그런데 대학과 기업은 이미 상용 AI 탐지기를 돌리고 있습니다. 이건 워터마크와 원리부터 무관한 분류기예요.

    오탐률이 문제입니다

    최근 프리프린트에서, 가벼운 AI 편집만 거친 학술 초록이 팬그램과 GPTZero에서 64~80%가 AI로 표시됐습니다 (출처: aitimes, 2026-08-19).

    열 편 중 예닐곱 편이 잘못 걸린다는 뜻입니다.

    중요: 이건 클로드 워터마크의 오류율이 아닙니다. 전혀 다른 도구의 숫자입니다.

    그런데 현장에서는 섞입니다

    문제는 서로 다른 신호를 하나의 “AI가 썼다”는 판정으로 뭉개는 것입니다 (출처: aitimes, 2026-08-19).

    워터마크는 생성 흔적을 재고, 상용 탐지기는 문체를 추측합니다. 정밀도가 다른 두 자를 겹쳐 놓고 하나의 결론을 내리면, 필요한 표시는 놓치고 엉뚱한 사람이 걸립니다.

    숫자만으로는 안 보이는 부분

    실제로 여러 초안을 보다 보면 “이건 AI가 쓴 것 같다”는 느낌이 올 때가 있습니다. 문장이 지나치게 반듯하고, 비슷한 구조가 반복되고, 결론이 안전하게만 닫히는 글이 그렇습니다.

    그런데 그 감각을 판정 기준으로 쓰기는 어렵습니다. 사람이 급하게 쓴 보고서도 기계적으로 보일 수 있고, AI 초안도 사람이 구조를 새로 짜고 근거를 넣으면 거의 구분이 안 됩니다.

    저 역시 문체만 보고는 확신하기 어려운 경우가 훨씬 많았습니다.

    그래서 지금은 “AI처럼 보이느냐”보다 초안, 수정 이력, 출처, 사용 범위가 남아 있느냐를 더 신뢰합니다.

    제거 도구는 답이 아닙니다

    반발은 빠르게 도구 개발로 이어졌습니다.

    미국에서 “AI 워터마크 제거기” 검색 관심도가 일주일 사이 60% 올랐습니다 (출처: aitimes, 2026-08-19).

    한 개발자는 첫 버전을 5시간 만에 만들었고, 그 프로젝트는 1만4000개가 넘는 깃허브 스타를 받았습니다 (출처: aitimes, 2026-08-19).

    그래도 권하지 않습니다

    제거를 100% 보장하지 않습니다 (출처: aitimes, 2026-08-19).

    그리고 결과물을 사람이 직접 쓴 것처럼 제시하는 건 앤트로픽 이용 정책이 금지하는 사칭 행위입니다 (출처: aitimes, 2026-08-19).

    제 생각에는 방향 자체가 틀렸습니다. 흔적을 지우는 쪽이 아니라 과정을 남기는 쪽이 훨씬 안전합니다.

    한국 법은 어떻게 되어 있나

    인공지능기본법 제31조의 투명성 의무 주체는 인공지능사업자입니다 (출처: aitimes, 2026-08-19).

    시행령 제23조는 기계판독 표시를 허용하되, 그 경우 생성형 AI가 만들었다는 사실을 최소 한 번 안내하도록 합니다 (출처: aitimes, 2026-08-19).

    오해하기 쉬운 부분

    모델 제공자가 심은 워터마크가 국내 사업자의 표시 의무를 자동으로 대신해주지 않습니다.

    법이 요구하는 표시와 워터마크가 재는 관여 가능성은 서로 겹치지 않습니다.

    실무자가 지금 할 것

    • ☐ 1. 번역과 교정, 초안 작성 중 무엇을 AI에 맡기고 있는지 스스로 정리했나
    • ☐ 2. 초고와 수정 이력을 남기고 있나. 결백을 증명할 의무는 없지만 있으면 편합니다
    • ☐ 3. 우리 조직이 탐지 신호를 단독 판정 근거로 쓰고 있지는 않나
    • ☐ 4. AI 사용 범위를 미리 밝히는 관행이 팀에 있나
    • ☐ 5. 사업자로서 표시 의무가 걸리는 서비스를 운영하고 있지는 않나

    2번이 가장 실용적입니다. 나중에 설명해야 할 상황이 오면 이력만큼 강한 근거가 없습니다.

    지금도 안 맡기는 부분

    제가 끝까지 직접 보는 건 세 가지입니다.

    첫째, 숫자입니다. AI가 숫자를 잘 정리해도 원문과 대조합니다.

    둘째, 판단입니다. 어떤 사실이 중요한지, 어디까지 말할 수 있는지는 제가 결정합니다.

    셋째, 최종 문구입니다. 특히 외부에 나가는 글은 마지막 한두 문장이 전체 인상을 바꾸기 때문에 그대로 맡기지 않습니다.

    그리고 회사명, 프로젝트명, 내부 수치처럼 공개되면 안 되는 정보는 외부 AI에 넣지 않는 것을 기본 원칙으로 둡니다. 편의보다 책임이 큰 영역은 사람이 잡아야 한다고 봅니다.

    이 글의 숫자는 어떻게 검증했나

    본문의 수치는 전부 원문 기사에서 직접 뽑았고 하나하나 출처를 달았습니다.

    출처 목록에 없는 숫자가 본문에 들어가면 발행 단계에서 막히도록 만들어뒀습니다. 기억에 기대어 쓴 숫자가 섞이는 걸 막으려고요.

    초안은 AI가 씁니다

    검증된 팩트만 재료로 씁니다. 구조와 문장을 만드는 것도 AI 몫이에요.

    밝히는 이유는 단순합니다. 앞에서 흔적을 지우지 말라고 해놓고 제 글을 감추면 앞뒤가 안 맞습니다.

    주제와 판단은 사람이 정합니다

    무엇을 쓸지, 어떤 팩트가 쓸 만한지, 어디에 선을 그을지는 제가 정합니다. 이 글에서 실무 판단을 말한 대목은 전부 제가 쓴 문장입니다.

    워터마크는 지우지 않았습니다

    이 글에 클로드의 생성 흔적이 남아 있다면 남아 있는 채로 발행된 겁니다.

    정리

    번역은 워터마크가 남습니다. 교정은 약하게 남습니다. 이 차이를 알고 쓰는 것과 모르고 쓰는 것은 다릅니다.

    다만 지금 사람들이 실제로 걸리는 건 워터마크가 아니라 상용 탐지기입니다. 오탐률이 64~80%인 도구가 인사와 심사에 붙는 게 더 급한 문제예요.

    흔적을 지우려 하지 마시고 과정을 남기세요. 규제는 사업자를 향하고 있고, 개인에게 필요한 건 설명할 수 있는 기록입니다.

    AI를 업무에 넣을 때 어디까지 맡기고 어디서 사람이 확인할지는 에이전트 도입 실패 패턴에서 다뤘습니다.

    모델 자체를 고르는 기준은 모델 도입 판단 글에 정리해뒀습니다.

    제 기준은 이렇습니다

    제 기준은 결과물의 성격에 따라 갈립니다.

    개인 블로그처럼 제가 발행 주체인 글은 AI가 초안을 만들었다면 굳이 숨길 이유가 없다고 봅니다. 오히려 어디까지 AI가 했고 무엇을 제가 검증했는지 밝히는 편이 더 깔끔합니다.

    반면 회사 문서나 외부 제출물은 조직 규정과 정보보안이 먼저입니다. 단순 맞춤법 교정 정도라면 크게 신경 쓰지 않지만, 번역이나 요약처럼 결과 문장을 AI가 많이 만든 경우에는 사용 범위와 내부 정책을 확인합니다.

    기밀 정보가 섞인 문서는 애초에 외부 모델에 넣지 않습니다.

    결국 제가 조심하는 기준은 “AI를 썼느냐”가 아니라 이 결과물에 대해 누가 책임질 수 있느냐입니다.

    자주 묻는 질문

    Q1. 맞춤법만 고쳤는데도 걸리나요? 문법과 구두점만 손보는 교정은 모델이 새로 고르는 단어가 적어 신호가 약할 수 있습니다. 다만 약하다는 것이지 없다는 뜻은 아닙니다.

    Q2. 워터마크가 있으면 AI가 썼다고 확정되나요? 아닙니다. 워터마크는 생성 흔적을 잴 뿐 저자성이나 소유권을 판정하지 않습니다. 앤트로픽도 이 점을 분명히 밝혔습니다.

    Q3. 제거 도구를 쓰면 되지 않나요? 제거를 100% 보장하지 않고, 결과물을 사람이 쓴 것처럼 제시하면 이용 정책 위반입니다. 이력을 남기는 쪽이 안전합니다.

    함께 읽으면 좋은 글