AI의 인사 결정, 이제 사람에게 따져물을 수 있습니다

왜 이런 법이 나왔을까요?

AI가 채용, 승진, 심지어 해고까지 결정하는 시대가 오고 있어요. 하지만 AI가 어떤 기준으로 판단하는지 알 수 없는 '블랙박스' 같아서, 억울한 일이 생겨도 하소연할 곳이 없었죠. AI의 결정으로부터 근로자를 보호할 최소한의 장치를 마련하기 위해 이 법이 제안됐어요.

그래서 내 생활에 뭐가 바뀌는데요?

🧐 "회사에서 AI로 제 업무를 평가한다는데, 미리 알 수 있나요?"

네, 이제 회사는 AI를 이용해 승진, 평가 등 중요한 결정을 할 때 어떤 목적으로, 어떤 요소를 보는지 미리 알려줘야 해요. 깜깜이 평가는 이제 안돼요.

🧐 "AI가 저에게 낮은 인사고과를 줬어요. 그냥 받아들여야 하나요?"

아니요. 어떤 기준으로 그런 평가가 나왔는지 설명을 요구할 수 있어요. 그 결정이 부당하다고 생각되면 사람이 직접 다시 검토해달라고 요청할 권리도 생깁니다.

딱! 이 조항이 바뀝니다

이번 개정안의 핵심은 '노동영역 인공지능시스템'이라는 개념을 새로 만들고, 근로자에게 두 가지 강력한 권리를 주는 거예요. 바로 설명요구권과 재검토요청권이죠. 특히 AI가 내린 불리한 결정은 반드시 사람이 다시 검토하도록 의무를 부여했어요.
AI의 결정만으로 근로자를 해고, 휴직, 감봉 등 불리한 처우를 할 수 없게 된 거죠.

제23조(해고 등의 제한) ③ 사용자는 노동영역 인공지능시스템에 의한 결정만으로 근로자를 해고, 휴직, 정직, 전직, 감봉, 그 밖의 불리한 처우를 하여서는 아니 된다.

짧은 스토리를 들려드릴게요

AI의 평가 때문에 억울하게 저성과자가 된 직장인 A씨의 이야기예요.

📭 이 법안이 나오기 전엔

AI가 A씨의 업무 패턴을 분석해 '저성과자'로 분류했고, 회사는 이를 근거로 감봉을 통보했어요. A씨는 어떤 기준으로 평가받았는지도 모른 채 결과를 받아들여야 했죠.

📬 이 법안이 시행되면

A씨는 회사에 AI의 평가 기준과 결과에 대한 설명을 공식적으로 요구해요. 그리고 사람에게 재검토를 요청하죠. 재검토 결과, AI가 A씨가 참여한 장기 프로젝트의 특수성을 제대로 반영하지 못한 오류가 발견되어 감봉 조치가 취소될 수 있어요.

생각해 볼 점

🎈 기대되는 점

AI의 불투명하고 일방적인 결정으로부터 근로자의 권익을 보호하고, 채용이나 평가 과정의 공정성과 투명성을 높일 수 있어요.

🔎 우려되는 점

기업 입장에선 AI 알고리즘 설명 의무가 영업비밀 침해 소지가 있고, 재검토 절차 등으로 빠른 의사결정이 어려워질 수 있다는 목소리도 나와요.