AI 콘텐츠 'AI 딱지', 맘대로 떼면 벌금?

왜 이런 법이 나왔을까요?

AI가 만든 이미지나 글이 진짜인 척 돌아다니면서 생기는 가짜뉴스 문제를 막기 위해서예요. 지금은 'AI 제작' 표시를 누군가 지워버려도 막을 방법이 애매하거든요.

그래서 내 생활에 뭐가 바뀌는데요?

🧐 "앞으로 AI가 만든 콘텐츠는 다 믿을 수 있나요?"

그건 아니에요. 이 법은 'AI 제작' 표시를 함부로 없애지 못하게 하는 거예요. 진짜인지 가짜인지는 여전히 우리가 잘 판단해야 해요.

🧐 "그럼 모든 사이트에서 AI 표시가 보이나요?"

꼭 그렇진 않아요. 법은 일정 규모 이상, 즉 대형 플랫폼에만 표시를 보호할 의무를 줬어요. 작은 커뮤니티에서는 적용되지 않을 수도 있어요.

딱! 이 조항이 바뀝니다

누구든 AI 생성물 표시를 맘대로 지우거나 바꾸면 안 돼요. 앞으로는 SNS나 커뮤니티에 AI 이미지를 올릴 때 'AI가 만들었다'는 워터마크나 태그를 일부러 지우면 불법이 되는 거죠. 또 대형 플랫폼은 이런 조작을 막을 기술을 마련해야 하고요.

제43조의2(인공지능 생성 사실의 표시의 보전 등)
① 누구든지 ... “인공지능 생성 사실의 표시”를 훼손하거나 위작 또는 변작하여서는 아니된다.
② 정보통신서비스 제공자로서 ... 대통령령으로 정하는 기준에 해당하는 자는 ... 표시를 지원하고 ... 훼손, 위작 또는 변작을 방지하기 위한 기술적·관리적 조치를 하여야 한다.

짧은 스토리를 들려드릴게요

최근 딥페이크 기술을 이용한 유명인 사칭 투자 사기가 많아졌죠?

📭 이 법안이 나오기 전엔

딥페이크 영상에 'AI로 만듦' 표시가 있었지만, 사기꾼이 이 표시를 지우고 유포해 많은 사람이 속아 넘어갔어요.

📬 이 법안이 시행되면

이제 'AI 제작' 표시를 지우는 것 자체가 불법이 돼요. 대형 플랫폼들은 이런 조작을 막는 기술을 도입해야 해서 가짜 콘텐츠를 걸러내기 더 쉬워져요.

생각해 볼 점

🎈 기대되는 점

AI 콘텐츠의 출처를 명확히 해 가짜뉴스와 딥페이크 범죄를 예방하고 이용자의 신뢰를 높일 수 있어요.

🔎 우려되는 점

모든 온라인 유통 과정을 추적해 '표시 훼손'을 단속하기 현실적으로 어렵고, 표현의 자유를 위축시킬 수 있다는 목소리도 나와요.