내 얼굴, AI가 함부로 못 보게 하는 법안 등장

왜 이런 법이 나왔을까요?

AI가 발전하는 건 좋은데, 영화처럼 우리를 감시하거나 차별한다면 어떡하죠? 이 법안은 바로 그런 걱정에서 시작됐어요. 인간의 존엄성을 해칠 수 있는 AI의 개발과 이용을 미리 막고, 기술 발전과 기본권 보호 사이의 균형을 맞추기 위해 제안됐습니다.

그래서 내 생활에 뭐가 바뀌는데요?

🧐 "길거리 CCTV가 절 계속 따라다니며 분석하나요?"

아니요, 원칙적으로는 불가능해져요. 공공장소에서 불특정 다수를 실시간으로 식별하는 AI 개발과 이용은 금지돼요. 실종자 수색이나 테러 방지 같은 아주 특수한 경우에만 국가의 승인을 거쳐 사용될 수 있어요.

🧐 "AI 면접 때 제 표정이나 감정까지 분석당하나요?"

이 법이 통과되면 금지될 가능성이 높아요. 채용이나 평가 과정에서 사람의 감정을 분석해 중대한 영향을 미치는 AI는 인권 침해 우려가 크다고 보고 금지 목록에 포함했거든요.

딱! 이 조항이 바뀝니다

이번 개정안의 심장은 금지된 인공지능 이라는 개념을 법으로 처음 정의했다는 점이에요. 이전에는 어떤 AI가 위험한지에 대한 기준이 모호했다면, 이제는 인간의 존엄과 가치를 침해할 우려가 큰 AI를 구체적인 유형으로 정해 원칙적으로 싹을 자르겠다는 거죠.

제2조(정의) 4의2. “금지된 인공지능”이란…
나. 도로, 광장 등 공중이 출입할 수 있는 장소에서 불특정 다수를 대상으로 실시간으로 생체인식정보를 수집·처리하는 인공지능시스템

한마디로 길거리에서 내 동의 없이 얼굴 정보를 실시간으로 훑어 가는 AI는 이제 불법이 되는 거예요.

짧은 스토리를 들려드릴게요

평범한 시민 '나보호' 씨의 하루를 상상해 볼까요?

📭 이 법안이 나오기 전엔

나보호 씨는 광장을 지날 때마다 수많은 CCTV가 자신의 얼굴과 동선을 실시간으로 분석하고 있다는 사실에 왠지 모를 찝찝함을 느꼈어요. '내 정보가 어디에 쓰이는 걸까?' 불안했죠.

📬 이 법안이 시행되면

이제 나보호 씨는 범죄 용의자가 아닌 이상, 국가나 기업이 함부로 자신의 생체 정보를 수집할 수 없다는 사실에 안심하며 거리를 걸을 수 있게 돼요. 기술의 감시로부터 자유로워지는 거죠.

생각해 볼 점

🎈 기대되는 점

AI 기술의 오남용을 막고 사생활과 기본권을 보호해, 기술에 대한 사회적 신뢰를 높일 수 있다는 기대가 있어요.

🔎 우려되는 점

금지 규정이 너무 엄격하면 AI 산업 발전과 기술 혁신을 위축시키고, 범죄 예방 같은 공익적 활용까지 어려워질 수 있다는 목소리도 나와요.