AI 딥페이크, 이제 워터마크 함부로 못 지웁니다

왜 이런 법이 나왔을까요?

요즘 AI가 만든 가짜 영상이나 이미지가 진짜와 구분하기 어려울 정도죠. 콘텐츠에 붙은 'AI 제작' 표시를 누군가 슬쩍 지우고 유포하면 진짜 정보처럼 퍼져나갈 위험이 커졌어요. 이 법은 이런 사각지대를 막기 위해 나왔습니다.

그래서 내 생활에 뭐가 바뀌는데요?

🧐 "AI가 만들었는지 어떻게 더 확실히 알 수 있나요?"

앞으로는 AI로 만든 콘텐츠 자체에 식별용 워터마크가 콕 박혀 나와요. 누군가 중간에 편집하거나 퍼가도 워터마크는 그대로 남아있으니, 가짜 뉴스나 딥페이크를 분별하기 한결 쉬워질 거예요.

🧐 "그럼 저도 처벌받을 수 있나요?"

AI로 콘텐츠를 만드는 것 자체는 문제가 없어요. 하지만 원본에 박힌 워터마크를 일부러 지우거나 다른 모양으로 바꿔서, 마치 AI가 만들지 않은 것처럼 속이려 하면 처벌받을 수 있습니다.

딱! 이 조항이 바뀝니다

가장 큰 변화는 AI 생성물을 알리는 방식이에요. 기존에는 '이용자가 인식할 수 있는 방식'이라고만 되어 있었지만, 이제는 훨씬 구체적으로 바뀌었죠.
결과물 자체에 코드 또는 문자·부호 등을 삽입하는 방식으로요. 쉽게 말해 콘텐츠에 '디지털 주민등록증'을 새겨 넣는 셈이에요. 그리고 이 표시를 훼손, 위조, 변경하는 행위를 금지하고 처벌하는 내용이 새로 생겼습니다.

제42조(벌칙) ② 제31조제4항을 위반하여 고지 또는 표시를 훼손하거나 위작 또는 변작한 자는 2년 이하의 징역 또는 2천만원 이하의 벌금에 처한다.

짧은 스토리를 들려드릴게요

SNS를 즐겨 하는 30대 직장인 A씨의 이야기예요.

📭 이 법안이 나오기 전엔

A씨는 유명 정치인의 가짜 발언 영상을 보고 깜짝 놀라 공유했어요. 나중에 딥페이크란 걸 알았지만, 영상이 퍼지는 동안 원본의 작은 'AI 제작' 표시는 사라진 뒤였죠.

📬 이 법안이 시행되면

이제 A씨는 비슷한 영상을 봐도 쉽게 속지 않아요. 영상 자체에 워터마크가 삽입되어 있어 누가 퍼가도 지울 수 없거든요. 덕분에 가짜 정보에 낚일 걱정을 덜었어요.

생각해 볼 점

🎈 기대되는 점

딥페이크를 활용한 선거 개입이나 명예훼손 같은 범죄를 예방하고, 온라인 정보에 대한 사회적 신뢰를 높일 수 있을 거예요.

🔎 우려되는 점

워터마크를 완벽히 제거하는 기술도 함께 발전할 수 있고, AI를 활용한 예술이나 창작 활동을 위축시킬 수 있다는 목소리도 나와요.