AI가 내 삶을 결정할 때, 따져물을 권리가 생깁니다

왜 이런 법이 나왔을까요?

AI가 병원, 은행, 학교 등 우리 삶 깊숙이 들어왔어요. 하지만 AI가 중요한 결정을 내릴 때 어떤 기준으로 판단하는지, 혹시 나에게 불리한 건 아닌지 알기 어려웠죠. 기술 발전만큼 중요한 게 사람의 권리라는 생각에서 이 법이 나왔습니다.

그래서 내 생활에 뭐가 바뀌는데요?

🧐 "AI 면접에서 자꾸 떨어지는데, 이유를 알 수 있나요?"

네, 가능해져요. 앞으로는 AI가 채용, 대출 심사처럼 중요한 결정을 내렸을 때 어떤 근거로 판단했는지 설명을 요구할 수 있습니다. 부당하다고 생각하면 이의를 제기하고 다시 검토해달라고 요청할 권리도 생깁니다.

🧐 "몸이 불편한데, AI 공공서비스를 쓰기 어려우면 어떡하죠?"

걱정 마세요. 이 법은 디지털 취약계층을 포함한 모든 국민이 AI가 제공하는 공공서비스를 차별 없이 이용할 수 있도록 국가의 지원을 의무화합니다. AI 기술의 혜택에서 소외되는 사람이 없도록 하는 거죠.

딱! 이 조항이 바뀝니다

이 법의 핵심은 새로운 권리, AI기본권을 명시한 점이에요. AI가 우리 삶에 미치는 영향이 커진 만큼, 그에 맞춰 보호받을 권리를 법으로 처음 정의한 거죠. 특히 제37조를 주목해야 합니다.

제37조(AI기본권)
① 모든 국민은 ... AI기본서비스를 차별 없이 이용할 권리를 가진다.
② ... 다음 각 호의 사항이 포함된다
 1. 평등하게 접근할 권리
 2. 설명을 요구할 권리
 3. 이의를 제기하고 재검토를 요구할 권리
 4. 피해에 대하여 구제받을 권리

AI의 결정으로부터 내 권리를 지킬 최소한의 안전장치가 생긴 셈입니다.

짧은 스토리를 들려드릴게요

대학생 A씨는 정부의 AI 기반 복지서비스를 신청했어요.

📭 이 법안이 나오기 전엔

AI 시스템이 알 수 없는 이유로 A씨를 ‘지원 대상 아님’으로 분류했어요. A씨는 왜 탈락했는지 물어볼 곳도 없고, 그저 답답해하며 아르바이트를 더 구해야 했습니다.

📬 이 법안이 시행되면

A씨는 AI의 결정에 대해 설명을 요구할 수 있어요. 만약 AI의 판단 기준에 오류가 있었다면 이의를 제기하고, ‘AI권익보호소위원회’를 통해 구제받을 수 있게 됩니다.

생각해 볼 점

🎈 기대되는 점

AI가 내리는 결정 과정을 투명하게 만들어 국민의 권리를 보호하고, 기술에 대한 사회적 신뢰를 높일 수 있을 거예요.

🔎 우려되는 점

고위험 AI에 대한 사전 평가 등 새로운 규제가 AI 기술 발전과 서비스 도입의 속도를 늦출 수 있다는 목소리도 나와요.